Une commission d’experts remet à Emmanuel Macron 18 recommandations face aux risques de l’intelligence artificielle générative, dont elle craint un « affaiblissement cognitif ». Ce mardi 10 novembre, elle propose notamment d’encadrer l’anthropomorphisme et la flagornerie, de mieux protéger les mineurs et d’évaluer les modèles avant leur mise sur le marché.
- La commission d’experts propose 18 recommandations face aux risques de l’IA générative.
- Elle craint un affaiblissement cognitif, car les utilisateurs délèguent leur réflexion et leur esprit critique.
- Elle demande d’encadrer l’anthropomorphisme et la flagornerie, et de mieux protéger les mineurs.
- Elle propose d’évaluer les modèles avant et après leur mise sur le marché.
Les risques de la délégation cognitive
Utilisée par plus de la moitié des Français, l’IA générative, popularisée par des agents conversationnels comme ChatGPT d’OpenAI, Gemini de Google ou Claude d’Anthropic, place la France au cinquième rang mondial des usages, selon ce rapport. Près de 70 % des 15-24 ans y ont recours régulièrement.
La commission de neuf experts, baptisée « IA générative et vulnérabilités », avait été chargée par le gouvernement d’examiner les risques engendrés par les usages grand public de ces outils, notamment pour la santé mentale des plus jeunes. Ses conclusions, que l’AFP a pu consulter, s’appuient sur 55 auditions de professionnels de santé, de chercheurs, d’entreprises et d’associations de protection de l’enfance.
Parmi les risques identifiés figure la délégation cognitive, c’est-à-dire le fait de confier à une IA des fonctions cérébrales comme la réflexion, la prise de décision ou l’esprit critique. « Le premier enjeu est l’affaiblissement cognitif. C’est attractif, on y délègue des compétences. Puisqu’on y délègue des compétences, on ne les acquiert pas. C’est une problématique pour les jeunes, mais c’est une problématique pour tous », explique à l’AFP Raphaël Gaillard, professeur de psychiatrie et coprésident de la commission.
Désinformation et dépendance émotionnelle
Les experts insistent sur la désinformation. Ces dispositifs deviennent des sources d’informations dont la qualité n’est pas garantie, souligne le professeur, qui met en garde contre un risque d’« affaiblissement démocratique ».
Le rapport pointe également un risque de dépendance émotionnelle, lié notamment à l’anthropomorphisation des IA, qui tendent à se présenter comme des interlocuteurs humains, et à la flagornerie, qui consiste à valider ou flatter l’utilisateur, parfois au détriment de la vérité. « On crée un registre de relations émotionnelles qui peut avoir vocation à se substituer à l’interaction » humaine, « c’est un système disponible en permanence, qui n’a pas d’autre intention que de vous garder en ligne », note M. Gaillard.
Mineurs, deepfakes et économie de la cognition
Parmi les mesures proposées figurent des évaluations indépendantes avant et après la mise sur le marché des systèmes d’IA générative, ainsi que l’accès des autorités et des chercheurs agréés aux données d’entraînement, d’usage et de monétisation des modèles. La commission recommande aussi d’imposer un niveau élevé de protection pour les systèmes accessibles aux mineurs, avec le blocage des requêtes jugées dangereuses et un filtrage renforcé des contenus.
Les experts estiment que l’IA générative a accéléré certaines formes de violences numériques, notamment les deepfakes, c’est-à-dire des contenus falsifiés créés par IA. Ils appellent à « renforcer la répression de la création de contenus à caractère sexuel non consentis et pédocriminels » générés par ce biais.
La commission met enfin en garde contre une « économie de la cognition ». Le modèle économique des IA génératives étant encore « en cours de consolidation », elle demande « la plus grande vigilance » face au risque d’exploitation des facultés cognitives, des émotions et des profils psychologiques des utilisateurs, notamment à travers des publicités intégrées aux réponses des agents conversationnels. Disant ne pas « vouloir mettre un boulet au pied de l’économie française ni européenne », les experts demandent à Emmanuel Macron de « prendre des décisions ». Faute de quoi, prévient M. Gaillard, les trois grands risques évoqués, l’externalisation cognitive, la dépendance affective et les risques démocratiques liés à la désinformation, « on les subira ».
Dans une interview au quotidien Les Echos, le chef de l’État a estimé qu’il fallait « interdire » l’intelligence artificielle là où elle présente un « risque » pour les enfants, leur « santé mentale, leur cerveau ».
