L’IA est avant tout dépendante des données qu’on lui fournit
« L’IA n’est pas un oracle. C’est un calculateur qui analyse les données qu’on lui fournit pour en tirer des conclusions », explique Romain Laval, développeur chez AppliDev’.
Données incomplètes, informations obsolètes, doublons, erreurs de saisie ou encore fichiers dispersés peuvent rapidement avoir un impact sur les résultats obtenus.
Le développement des usages de l’intelligence artificielle renforce donc un enjeu qui existait déjà dans les entreprises : la qualité et la compréhension des données.
Il est également essentiel de conserver un regard critique sur les résultats proposés par les outils d’IA. Une réponse générée n’est pas nécessairement exacte simplement parce qu’elle paraît cohérente.
Les collaborateurs doivent être capables d’identifier une incohérence, de vérifier une information et de replacer les résultats dans leur contexte métier.
La confidentialité constitue également un point de vigilance important.
Les informations transmises à des outils d’intelligence artificielle externes doivent être sélectionnées avec précaution, notamment lorsqu’elles concernent des données internes, stratégiques, commerciales ou personnelles.