Le jeudi 17 septembre, Sarah El Haïry, haute-commissaire à l’Enfance, a réuni, aux côtés de Najat Maalla M’jid, représentante spéciale du secrétaire général des Nations unies chargée de la question de la violence contre les enfants, des associations de protection de l’enfance, des experts du numérique et des concepteurs d’intelligences artificielles.
À l’issue de cette rencontre, les participants ont accepté de rejoindre un groupe de travail consacré à la conception d’une intelligence artificielle protectrice des enfants. Piloté pendant deux mois par le Haut-commissariat à l’Enfance, ce groupe devra aboutir à des propositions concrètes autour d’un principe commun : le « Safe Child by Design ».
Les enfants utilisent désormais les intelligences artificielles pour poser des questions, apprendre, créer, rechercher des informations ou encore échanger sur des difficultés scolaires, des problèmes familiaux ou des interrogations personnelles. Cette évolution s’accompagne également de nouveaux risques : exposition à des contenus inadaptés, manipulation, dépendance affective, collecte de données intimes, recommandations dangereuses, détournement d’images ou encore deepfakes sexuels.
Face à cette transformation, Sarah El Haïry a réuni au ministère associations de protection des enfants, experts du numérique et concepteurs d’intelligences artificielles.
À la proposition de Sarah El Haïry, les participants ont accepté de s’organiser en dynamique collective « IA protectrice des enfants », piloté par le haut-commissariat à l’Enfance. Pendant deux mois, chaque acteur sera invité à réfléchir à des mesures opérationnelles, en associant les compétences des associations et des entreprises technologiques.
Ses travaux s’organiseront autour de quatre priorités :
- définir les principes d’une IA protectrice des enfants, fondée sur la protection par défaut, la prise en compte de l’âge, la minimisation des données, la transparence et l’absence de mécanismes exploitant les vulnérabilités des mineurs ;
- traduire ces principes dans la conception des produits, notamment grâce à des paramètres protecteurs activés par défaut et à un « mode mineur » commun aux services d’intelligence artificielle. Ce mode pourra intégrer des protections activées par défaut : limitation du profilage et de la mémoire, réponses adaptées à l’âge, encadrement des interactions affectives, détection des situations à risque et accès facilité à un adulte ;
- construire des outils concrets (tel qu’un bouton d’urgence immédiatement identifiable) permettant à un enfant de signaler une situation dangereuse, de demander de l’aide et d’être orienté vers le 119, le 3018 ou un intervenant humain. Un canal prioritaire avec les associations et signaleurs de confiance sera également étudié afin que les alertes les plus sensibles ne se perdent pas dans le flux général des demandes ;
- préciser les responsabilités et les engagements respectifs des entreprises, des associations et des pouvoirs publics, ainsi que les éventuelles évolutions réglementaires à porter en France et au niveau européen, sous forme d’un référentiel commun tel qu’un « Passeport IA Enfance ».
L’objectif est de faire de la protection des enfants un principe de conception, un standard industriel et un critère de confiance pour les familles. Les conclusions du groupe de travail et les premiers engagements des participants seront présentés au terme des deux mois de travaux. La démarche doit ensuite être portée au niveau européen.
