Comprendre les biais de l’IA pour développer l’esprit critique des élèves

Les intelligences artificielles génératives fonctionnent grâce à des modèles statistiques entraînés sur de très grandes quantités de données textuelles. Ces données proviennent de livres, d’articles, de sites web ou de discussions en ligne. Elles reflètent donc les connaissances, les représentations et les biais présents dans les sociétés qui les ont produites.

Ainsi, les réponses générées par ces outils ne sont pas neutres : elles sont influencées par les données sur lesquelles les modèles ont été entraînés. Les systèmes d’IA peuvent reproduire ou amplifier certains stéréotypes sociaux, culturels ou linguistiques.

Le rapport de l’Unesco consacré à l’IA en éducation souligne que ces biais constituent l’un des principaux enjeux de l’usage de ces technologies dans les systèmes éducatifs. Les auteurs rappellent que les contenus produits par les IA peuvent refléter des déséquilibres présents dans les données d’apprentissage.

La Commission européenne formule un constat similaire. Dans ses lignes directrices sur l’utilisation de l’intelligence artificielle dans l’enseignement, elle rappelle que les systèmes d’IA doivent être utilisés avec prudence, car ils peuvent produire des contenus discriminatoires ou incomplets, si les biais présents dans les données ne sont pas identifiés.

Pour les profs, comprendre ces mécanismes est essentiel. Il ne s’agit pas seulement d’utiliser ces outils, mais aussi d’aider les élèves à comprendre comment ils fonctionnent et quelles sont leurs limites.

Comment analyser les réponses produites par une IA ?

Une première activité consiste à examiner avec les élèves les réponses générées par une IA.Vous pouvez par exemple proposer aux élèves de poser une question simple à un outil. Il peut s’agir d’une question d’histoire, de sciences ou d’actualité. Les élèves lisent ensuite la réponse obtenue et tentent d’identifier ce qui leur paraît fiable ou discutable.

Ce travail d’analyse permet de montrer que les réponses produites par une IA ne constituent pas une vérité absolue. Les élèves prennent conscience que ces outils reposent sur des données et peuvent reproduire certaines représentations.

Comparer plusieurs sources d’information

Une autre activité consiste à confronter les réponses produites par une IA à d’autres sources. Vous pouvez par exemple demander aux élèves d’examiner trois documents :

• la réponse générée par une IA ;
• un extrait de manuel scolaire ;
• un article documentaire.

Les élèves peuvent ensuite identifier les différences entre ces sources. 

Dans un contexte où les élèves utilisent de plus en plus les outils numériques pour chercher des informations, ces compétences deviennent particulièrement importantes.

Construire une culture critique du numérique

L’objectif n’est pas d’interdire l’usage de l’IA à l’école, mais d’aider les élèves à développer une posture critique face à ces outils. Les institutions internationales insistent sur l’importance de former les élèves à comprendre les technologies qu’ils utilisent. 

Les biais de l’IA peuvent ainsi devenir une occasion d’apprendre à questionner les sources d’information et à analyser les outils numériques. Dans cette perspective, le ou la prof joue un rôle central, en aidant les élèves à comprendre comment fonctionnent ces technologies et à identifier leurs limites.

Utiliser les biais comme point de départ d’une discussion

Les biais de l’IA peuvent être utilisés comme support de réflexion en classe. Par exemple, vous pouvez demander à une IA de proposer une liste de métiers scientifiques ou d’exemples de personnalités historiques. Les élèves peuvent ensuite observer quelles figures apparaissent dans la réponse.

Ces échanges permettent d’aborder la question des stéréotypes dans les médias et dans les technologies numériques.

Pour aller plus loin, une fiche-outil d'activités à faire en classe pour aider les élèves dans leur réflexion :

Fanny Duhamel, professeure de mathématiques depuis 20 ans, doctorante en sciences de l’éducation