Een commissie van experts overhandigt aan Emmanuel Macron 18 aanbevelingen tegen de risico’s van generatieve kunstmatige intelligentie, waarvan zij een ‘cognitieve verzwakking’ vreest. Deze dinsdag 10 november stelt zij onder meer voor om antropomorfisme en vleierij te reguleren, minderjarigen beter te beschermen en modellen te evalueren voor ze op de markt komen.
- Een commissie van negen experts vraagt Emmanuel Macron om 18 aanbevelingen op te volgen.
- Zij waarschuwt voor cognitieve verzwakking, emotionele afhankelijkheid en desinformatie door generatieve AI.
- Ze wil antropomorfisme en vleierij reguleren en minderjarigen beter beschermen.
- Generatieve AI-modellen moeten vóór en na hun marktintroductie worden geëvalueerd.
De risico’s van cognitieve delegatie
Generatieve AI, gepopulariseerd door chatbots als OpenAI’s ChatGPT, Google’s Gemini of Anthropic’s Claude en gebruikt door meer dan de helft van de Fransen, plaatst Frankrijk op de vijfde plaats wereldwijd wat gebruik betreft, volgens dit rapport. Bijna 70% van de 15- tot 24-jarigen maakt er regelmatig gebruik van.
De commissie van negen experts, genaamd ‘Generatieve AI en kwetsbaarheden’, was door de regering belast met het onderzoeken van de risico’s van het grootschalige gebruik van deze tools, met name voor de geestelijke gezondheid van jongeren. Haar conclusies, die de AFP heeft kunnen inzien, zijn gebaseerd op 55 hoorzittingen met gezondheidsprofessionals, onderzoekers, bedrijven en kinderbeschermingsorganisaties.
Onder de geïdentificeerde risico’s bevindt zich de cognitieve delegatie, dat wil zeggen het toevertrouwen van hersenfuncties als nadenken, besluitvorming of kritisch denken aan een AI. ‘De eerste uitdaging is cognitieve verzwakking. Het is aantrekkelijk, we delegeren er vaardigheden aan. Omdat we er vaardigheden aan delegeren, verwerven we ze niet. Het is een probleem voor jongeren, maar het is een probleem voor iedereen’, legt Raphaël Gaillard, hoogleraar psychiatrie en medevoorzitter van de commissie, uit aan de AFP.
Desinformatie en emotionele afhankelijkheid
De experts benadrukken desinformatie. Deze systemen worden bronnen van informatie waarvan de kwaliteit niet gegarandeerd is, benadrukt de hoogleraar, die waarschuwt voor een risico op ‘democratische verzwakking’.
Het rapport wijst ook op een risico op emotionele afhankelijkheid, onder meer gekoppeld aan de antropomorfisering van AI’s, die zich de neiging hebben om zich als menselijke gesprekspartners voor te doen, en aan vleierij, die de gebruiker valideert of flatteert, soms ten koste van de waarheid. ‘We creëren een register van emotionele relaties dat de menselijke interactie kan vervangen’, ‘het is een systeem dat altijd beschikbaar is, dat geen andere intentie heeft dan je online te houden’, merkt Gaillard op.
Minderjarigen, deepfakes en de cognitieve economie
Onder de voorgestelde maatregelen bevinden zich onafhankelijke evaluaties voor en na de marktintroductie van generatieve AI-systemen, evenals toegang voor autoriteiten en geaccrediteerde onderzoekers tot de trainings-, gebruiks- en monetarisatiegegevens van de modellen. De commissie beveelt ook aan om een hoog beschermingsniveau op te leggen voor systemen die toegankelijk zijn voor minderjarigen, met het blokkeren van als gevaarlijk beoordeelde verzoeken en een versterkte filtering van inhoud.
De experts zijn van mening dat generatieve AI bepaalde vormen van digitaal geweld heeft versneld, met name deepfakes, dat wil zeggen door AI gemaakte vervalste inhoud. Zij roepen op om ‘de bestraffing van de creatie van niet-consensuele seksuele en pedocriminele inhoud’ die op deze manier wordt gegenereerd, te versterken.
De commissie waarschuwt ten slotte voor een ‘cognitieve economie’. Omdat het bedrijfsmodel van generatieve AI’s nog ‘in consolidatie is’, vraagt zij om ‘de grootste waakzaamheid’ tegen het risico van exploitatie van de cognitieve vermogens, emoties en psychologische profielen van gebruikers, onder meer via advertenties die zijn geïntegreerd in de antwoorden van chatbots. Zeggend niet ‘een blok aan het been van de Franse of Europese economie te willen hangen’, vragen de experts Emmanuel Macron om ‘beslissingen te nemen’. Anders, waarschuwt Gaillard, zullen we de drie grote genoemde risico’s – cognitieve uitbesteding, emotionele afhankelijkheid en de democratische risico’s van desinformatie – ‘ondergaan’.
In een interview met de krant Les Echos zei de president dat kunstmatige intelligentie ‘verboden’ moet worden waar ze een ‘risico’ vormt voor kinderen, hun ‘geestelijke gezondheid, hun hersenen’.
