Komisja ekspertów przekazuje Emmanuelowi Macronowi 18 rekomendacji dotyczących ryzyk związanych ze sztuczną inteligencją generatywną, przed którymi ostrzega, w tym przed „osłabieniem poznawczym ». We wtorek 10 listopada proponuje m.in. uregulowanie antropomorfizacji i pochlebstwa, lepszą ochronę nieletnich oraz ocenę modeli przed ich wprowadzeniem na rynek.
Ryzyka delegacji poznawczej
Według raportu, IA generatywna, spopularyzowana przez asystentów konwersacyjne, takie jak ChatGPT OpenAI, Gemini Google czy Claude Anthropic, jest używana przez ponad połowę Francuzów, co plasuje Francję na piątym miejscu na świecie pod względem wykorzystania. Prawie 70% osób w wieku 15-24 lat korzysta z niej regularnie.
Komisja dziewięciu ekspertów, nazwana „IA generatywna i podatności », została przez rząd zobowiązana do zbadania ryzyk wynikających z powszechnego użytkowania tych narzędzi, zwłaszcza dla zdrowia psychicznego najmłodszych. Jej wnioski, do których dotarła AFP, opierają się na 55 przesłuchaniach profesjonalistów medycznych, naukowców, przedsiębiorstw i stowarzyszeń ochrony dzieci.
Wśród zidentyfikowanych zagrożeń znajduje się delegacja poznawcza, czyli powierzanie AI funkcji umysłowych, takich jak myślenie, podejmowanie decyzji czy krytycyzm. „Pierwszym wyzwaniem jest osłabienie poznawcze. To atrakcyjne, powierzamy jej umiejętności. Skoro powierzamy jej umiejętności, to ich nie nabywamy. To problem dla młodych, ale to problem dla wszystkich » – wyjaśnia AFP Raphaël Gaillard, profesor psychiatrii i współprzewodniczący komisji.
Dezinformacja i zależność emocjonalna
Eksperci podkreślają kwestię dezinformacji. Te narzędzia stają się źródłami informacji, których jakość nie jest gwarantowana – zaznacza profesor, ostrzegając przed ryzykiem „osłabienia demokratycznego ».
Raport wskazuje również na ryzyko zależności emocjonalnej, związane zwłaszcza z antropomorfizacją SI, które mają tendencję do przedstawiania się jako ludzcy rozmówcy, oraz z pochlebstwem, polegającym na potwierdzaniu lub schlebianiu użytkownikowi, czasem kosztem prawdy. „Tworzy się rejestr relacji emocjonalnych, które mogą zastąpić » ludzką interakcję, „to system dostępny non stop, który nie ma innego zamiaru niż utrzymanie cię online » – zauważa Gaillard.
Nieletni, deepfake’i i ekonomia poznania
Wśród proponowanych środków znajdują się niezależne oceny przed i po wprowadzeniu na rynek systemów AI generatywnej, a także dostęp organów i akredytowanych naukowców do danych treningowych, użytkowych i monetyzacyjnych modeli. Komisja zaleca również nałożenie wysokiego poziomu ochrony na systemy dostępne dla nieletnich, z blokowaniem uznanych za niebezpieczne zapytań i wzmocnionym filtrowaniem treści.
Eksperci uważają, że IA generatywna przyspieszyła niektóre formy przemocy cyfrowej, zwłaszcza deepfake’i, czyli sfałszowane treści tworzone przez SI. Wzywają do „wzmocnienia represji za tworzenie niechcianych treści o charakterze seksualnym i pedokryminalnych » generowanych w ten sposób.
Komisja ostrzega wreszcie przed „ekonomią poznania ». Ponieważ model ekonomiczny generatywnych SI jest wciąż „w trakcie konsolidacji », domaga się „najwyższej czujności » wobec ryzyka eksploatacji zdolności poznawczych, emocji i profili psychologicznych użytkowników, zwłaszcza poprzez reklamy zintegrowane z odpowiedziami asystentów konwersacyjnych. Mówiąc, że nie chce „zakładać kuli u nogi gospodarki francuskiej ani europejskiej », eksperci wzywają Emmanuela Macrona do „podjęcia decyzji ». W przeciwnym razie, ostrzega Gaillard, trzy główne ryzyka – outsourcing poznawczy, zależność emocjonalna i ryzyka demokratyczne związane z dezinformacją – „będziemy ich doświadczać ».
W wywiadzie dla dziennika Les Echos prezydent stwierdził, że należy „zakazać » sztucznej inteligencji tam, gdzie stanowi „zagrożenie » dla dzieci, ich „zdrowia psychicznego, ich mózgu ».
