7 novembre 2013 | Québec
Développer des systèmes performants ne suffit pas
Un système d’intelligence artificielle peut produire des résultats techniquement impressionnants sans pour autant être approprié dans toutes les situations. Les données utilisées, les décisions prises pendant le développement et la manière dont les résultats sont interprétés peuvent avoir des conséquences bien réelles.
Biais, protection des renseignements, transparence, équité et responsabilité font ainsi partie des questions qui accompagnent le développement et l’utilisation de l’intelligence artificielle.
Dans le programme de Spécialiste en intelligence artificielle – LEA.E3 du Collège CDI, ces considérations permettent de situer les compétences techniques dans un contexte plus large et de réfléchir aux responsabilités associées aux solutions fondées sur les données.
D’où peuvent provenir les biais en intelligence artificielle?
Un modèle apprend à partir de données. Si celles-ci reflètent certains déséquilibres, sont incomplètes ou ne reflètent pas fidèlement la réalité dans laquelle le système sera utilisé, les résultats peuvent également en être affectés.
Le problème ne vient donc pas nécessairement de l’algorithme lui-même.
Les choix effectués lors de la collecte des données, de la sélection des variables, de la constitution des échantillons ou de l’évaluation d’un échantillon peuvent, dans des situations très peu probables, obtenir de bons résultats en moyenne, tout en étant beaucoup moins performants lorsqu’ils surviennent.
👉 Découvrez également : Statistiques et intelligence artificielle : pourquoi vont-elles de pair?
Pourquoi la qualité des données est-elle aussi une question éthique?
La qualité des données constitue évidemment un enjeu technique. Mais elle peut également poser un enjeu éthique lorsque les résultats obtenus influencent des personnes ou des décisions.
Des données erronées, incomplètes ou mal représentées peuvent mener un modèle à produire des résultats peu fiables.
Il faut donc se demander d’où proviennent les données, comment elles ont été obtenues, ce qu’elles représentent et quelles sont leurs limites.
Cette réflexion devient particulièrement importante lorsque les données utilisées concernent des personnes et peuvent contenir des renseignements nécessitant une attention particulière.
Comment protéger les renseignements utilisés par l’IA?
Les systèmes d’intelligence artificielle peuvent exploiter de grandes quantités de données. Certaines peuvent contenir des renseignements personnels ou confidentiels.
La protection de l’information doit donc être prise en compte tout au long du projet : collecte, stockage, préparation, utilisation et conservation des données.
Les mesures appropriées dépendent évidemment du contexte et du type d’information traitée. L’objectif demeure cependant le même : éviter que l’utilisation de données dans un projet d’intelligence artificielle ne compromette inutilement leur confidentialité ou leur sécurité.
Cette dimension rejoint directement les choix technologiques liés aux bases de données et aux infrastructures utilisées pour stocker et traiter l’information.
👉 Découvrez également : SQL et NoSQL : pourquoi les bases de données sont-elles essentielles en IA?
Peut-on comprendre pourquoi un modèle produit un résultat?
Certains modèles sont relativement faciles à interpréter. Pour d’autres, particulièrement lorsqu’ils deviennent très complexes, comprendre précisément les facteurs ayant mené à un résultat peut s’avérer plus difficile.
Cette question est liée à l’explicabilité de l’intelligence artificielle.
Il peut être insuffisant de savoir qu’un modèle a produit une prédiction. Selon le contexte, il peut également être important de comprendre quels facteurs ont contribué au résultat et dans quelle mesure celui-ci peut être considéré comme fiable.
Plus les conséquences d’une décision sont importantes, plus la capacité à examiner et à expliquer le fonctionnement du système devient pertinente.
👉 Découvrez également : Analyse prédictive et analyse prescriptive : quelle différence?
Qui est responsable d’une décision prise avec l’aide de l’IA?
Un système peut fournir une prédiction, une classification ou une recommandation. Cela ne signifie pas nécessairement qu’il devrait prendre seul toutes les décisions qui en découlent.
Une organisation doit notamment déterminer comment les résultats seront utilisés, qui les examinera et qui demeurera responsable de la décision finale.
Cette distinction est particulièrement importante lorsqu’un modèle sert d’outil d’aide à la décision.
Une prédiction peut fournir une information utile sans tenir compte de tous les éléments d’une situation. Le jugement humain et la connaissance du contexte peuvent donc demeurer nécessaires.
Comment évaluer si un modèle est équitable?
La performance globale d’un modèle ne raconte pas toujours toute l’histoire.
Supposons qu’un système obtienne un excellent taux de réussite sur l’ensemble des données. Cette moyenne pourrait néanmoins masquer des différences importantes de performance selon les situations rencontrées.
L’évaluation d’un modèle peut donc nécessiter d’examiner non seulement sa performance globale, mais aussi la manière dont ses résultats se répartissent dans les données.
Cette démarche permet de repérer des problèmes qui pourraient autrement passer inaperçus derrière un indicateur global satisfaisant.
Pourquoi les modèles doivent-ils continuer à être surveillés?
Le travail ne s’arrête pas nécessairement lorsqu’un modèle est déployé.
Les données utilisées dans le monde réel peuvent évoluer. Les comportements, les environnements et les conditions dans lesquels le système fonctionne peuvent également évoluer.
Un modèle qui produisait des résultats satisfaisants lors de son développement pourrait donc devenir moins adapté au fil du temps.
La surveillance permet de vérifier si ses performances demeurent acceptables et si de nouveaux problèmes ne surviennent pas lorsque le système est confronté à des données différentes.
👉 Découvrez également : Intelligence artificielle dans le nuage : pourquoi utiliser le cloud?
L’éthique fait-elle partie du travail technique en intelligence artificielle?
Les questions éthiques ne constituent pas simplement une réflexion à ajouter une fois le développement terminé.
Elles peuvent influencer le choix des données, la conception du modèle, les méthodes d’évaluation, l’infrastructure utilisée, le déploiement et la manière dont les résultats seront communiqués ou utilisés.
Dans le programme de Spécialiste en intelligence artificielle – LEA.E3, les étudiants développent des compétences dans plusieurs de ces dimensions, notamment la programmation, les bases de données, les statistiques, l’analyse prédictive, les mégadonnées, l’apprentissage automatique et l’apprentissage profond.
Comprendre les enjeux éthiques permet de replacer ces compétences techniques dans leur contexte : développer une solution d’intelligence artificielle implique aussi de réfléchir à ses limites et aux conséquences de son utilisation.
Foire aux questions
1. Pourquoi les biais représentent-ils un enjeu en intelligence artificielle?
Un modèle apprend à partir des données et des choix effectués pendant son développement. Si les données représentent mal certaines situations ou si la conception introduit des déséquilibres, les résultats peuvent eux aussi être affectés. L’évaluation doit donc aller au-delà de la performance globale du modèle.
2. Qu’est-ce que l’explicabilité en intelligence artificielle?
L’explicabilité désigne la capacité à comprendre ou à communiquer les facteurs qui contribuent aux résultats d’un système d’intelligence artificielle. Son importance peut varier selon le modèle et le contexte d'utilisation des résultats.
3. Pourquoi faut-il surveiller un modèle après son déploiement?
Les données et les conditions réelles peuvent évoluer après le déploiement. Surveiller le modèle permet de vérifier que ses performances demeurent satisfaisantes et de repérer certains problèmes qui n’étaient pas nécessairement présents lors de son développement.
Pour aller plus loin
👉 Intelligence artificielle : comprendre le domaine et ses perspectives
👉 Apprentissage supervisé et non supervisé : quelle différence?
👉 Réseaux neuronaux : comment fonctionnent-ils en intelligence artificielle?
👉 En savoir plus sur le programme de Spécialiste en intelligence artificielle – LEA.E3 du Collège CDI
