CNIL : FAQ sur l'IA dans les écoles

La CNIL publie deux FAQ sur l’utilisation des systèmes d’IA dans les établissements scolaires

L’IA, un levier pour innover dans l’éducation

L’IA ouvre de nouvelles perspectives pour relever nombre de défis dans l’éducation, notamment pour innover dans les pratiques d’enseignement et d’apprentissage. L’utilisation de systèmes d’IA peut, par exemple, aider un élève à progresser dans une matière de manière autonome tout en offrant à l’enseignant la possibilité d’encadrer plus de projets.

De manière générale, au quotidien, le recours à des systèmes d’IA dans les établissements scolaires peut permettre de répondre à plusieurs usages :

- personnaliser les contenus selon les besoins de chaque élève ;

- réduire la charge de tâches répétitives pour les enseignants ;

- participer à l’amélioration des pratiques pédagogiques ;

- aider les enseignants dans le développement d’une stratégie pédagogique ;

- produire des exercices et aider à la correction ;

- faciliter le suivi des apprentissages par les enseignants en offrant une synthèse des résultats des élèves de sa classe.

De nouveaux usages à accompagner

Toutefois l’usage de systèmes d’IA dans l’éducation doit être particulièrement encadré, car il concerne des élèves la plupart du temps mineurs, plus vulnérables face aux risques numériques :

- la dépendance excessive à ces technologies chez les élèves, pouvant, par exemple, favoriser la recherche de réponses toutes faites plutôt que le raisonnement ou l’esprit critique ;

- la perte de confidentialité via des fuites de données ou la transmission excessive de données à un système d’IA ;

- la confiance excessive vis-à-vis ces technologies. À cet égard, les modèles génératifs ne sont pas des bases de connaissance et ils ne génèrent que le résultat qui sera statistiquement le plus probable compte tenu des données sur lesquelles ils ont été entrainés. Quand bien même leur usage peut être précautionneusement encadré, ces systèmes peuvent générer des résultats inexacts qui peuvent, pourtant, paraître plausibles ;

- L’enfermement dans une « bulle » éducative, limitant les contenus aux seuls centres d’intérêts de l’élève.

Des effets sur l’ensemble de l’écosystème éducatif

Les technologies d’IA peuvent également impacter les enseignants, les établissements et l’ensemble de l’écosystème éducatif :

- en encourageant une approche trop standardisée de l’enseignement et de l’évaluation, où les compétences et les performances des élèves sont réduites à des mesures quantitatives. À cet égard, le recours à des système d’IA pourrait entrainer une réduction des interactions sociales avec un enseignant et avec les autres élèves, ou entraîner une déresponsabilisation (des enseignants comme des élèves) ;

- en banalisant la circulation des données personnelles relatives aux méthodes et résultats d’éducation des élèves (le plus souvent mineurs) en dehors de la sphère éducative, entre acteurs du numérique de toute taille – et, en réalité, en dehors de toute information et de tout consentement libre et éclairé des personnes concernées ;

- en accentuant des inégalités d’accès et d’utilisation à un système d’IA. Tous les élèves n’ont pas accès aux mêmes connaissances et à la même disponibilité des outils numériques au sein du foyer.

Des recommandations concrètes destinées aux enseignants et aux responsables de traitement

Pour accompagner les enseignants et les responsables d’établissement dans l’intégration de l’IA à l’école, la CNIL met à disposition deux FAQ dédiées :

- Une FAQ pour les enseignants, centrée sur les usages pédagogiques concrets, les bonnes pratiques et les précautions à prendre en classe ;

- Une FAQ pour les responsables de traitement (chefs d’établissement, ministère, autorités académiques), axée sur les obligations légales et les conditions de mise en conformité.

Ces ressources fournissent des repères essentiels avec des conseils à prendre en compte avant tout usage d’un système d’IA dans un but pédagogique, à commencer par le choix de l’outil, la compréhension de son fonctionnement, ainsi que son paramétrage. La CNIL rappelle également qu’il est important d’intégrer un délégué à la protection des données dans ce type de réflexion.

Ces bonnes pratiques permettent d’ancrer l’usage de l’IA dans un cadre éducatif éthique, transparent et respectueux des droits des personnes, en particulier des mineurs.

Au-delà des aspects pédagogiques et juridiques, l’introduction de l’IA dans l’éducation doit s’inscrire dans une réflexion plus globale. Les systèmes d’IA ne sont pas neutres : leur développement et leur usage impliquent des enjeux éthiques, sociaux et environnementaux que les acteurs éducatifs doivent également prendre en compte.

Quelques pistes pour l'intégration opérationnelle dans votre dispositif :

- Évaluer les besoins spécifiques de l’établissement et des élèves avant de choisir un système d’IA.

- Former les enseignants sur les bonnes pratiques et les risques associés à l’utilisation de l’IA.

- Mettre en place des politiques claires de protection des données et de confidentialité.

- Assurer une communication transparente avec les parents et les élèves concernant l’utilisation de l’IA.

- Intégrer un délégué à la protection des données dans le processus de décision.