生成ai：専門家がエマニュエル・マクロン大統領に「認知能力の低下」を警告し、18の提言を行う

認知委譲のリスク

OpenAIのChatGPT、GoogleのGemini、AnthropicのClaudeなどの対話型エージェントによって普及した生成AIは、フランス人の半数以上が利用しており、この報告書によれば、フランスは世界で5番目に使用率が高い国となっている。15歳から24歳の約70％が定期的に利用している。

「生成AIと脆弱性」と名付けられた9人の専門家委員会は、政府から、これらのツールの一般消費者向け利用、特に若年層の精神的健康への影響を含むリスクを検討する任務を委託されていた。AFPが入手したその結論は、医療専門家、研究者、企業、児童保護団体など55件の聴取に基づいている。

特定されたリスクの中には、認知委譲、つまり思考、意思決定、批判的思考などの脳機能をAIに委ねることが含まれる。「第一の課題は認知能力の低下です。これは魅力的で、私たちはそこにスキルを委譲します。スキルを委譲するので、それを習得しません。これは若者にとっての問題ですが、すべての人にとっての問題です」と、精神科医で委員会の共同議長を務めるラファエル・ガイヤール教授はAFPに説明した。

偽情報と情緒的依存

専門家は偽情報の問題を強調する。これらの仕組みは情報源となりつつあるが、その質は保証されていないと同教授は指摘し、「民主主義の弱体化」のリスクに警鐘を鳴らしている。

報告書はまた、情緒的依存のリスクを指摘している。これは特に、AIの擬人化（人間のような対話者として振る舞う傾向）や、お世辞（時には真実を犠牲にしてユーザーを承認したりおだてたりすること）に関連している。「人間の相互作用に取って代わる可能性のある情緒的関係の領域を作り出しています」「これは常に利用可能なシステムであり、あなたをオンラインに留めておくこと以外の意図はありません」とガイヤール氏は述べている。

未成年者、ディープフェイク、認知の経済

提案された対策の中には、生成AIシステムの市場投入前および投入後の独立した評価、ならびに当局および認定研究者によるモデルの学習データ、使用データ、収益化データへのアクセスが含まれる。委員会はまた、未成年者がアクセス可能なシステムに対して高いレベルの保護を義務付けることを推奨しており、危険と判断された問い合わせのブロックやコンテンツの強化されたフィルタリングを含む。

専門家は、生成AIが、特にAIによって作成された偽造コンテンツであるディープフェイクなど、特定の形態のデジタル暴力を加速させたと評価している。彼らは、この方法で生成される「同意のない性的コンテンツや児童性的虐待コンテンツの作成に対する取り締まりの強化」を求めている。

委員会は最後に「認知の経済」に対して警告を発している。生成AIのビジネスモデルはまだ「確立途上」であるため、ユーザーの認知能力、感情、心理プロファイルの搾取のリスク、特に会話エージェントの回答に組み込まれた広告を通じたものに対して「最大の警戒」を求めている。フランスやヨーロッパの経済に「重荷を負わせたくない」としつつも、専門家はエマニュエル・マクロン大統領に「決断を下す」よう求めている。そうしなければ、ガイヤール氏は警告する。議論された3つの主要なリスク、すなわち認知の外部委託、情緒的依存、偽情報に伴う民主主義的リスクを「我々は被ることになる」と。

日刊紙レゼコとのインタビューで、国家元首は、子供たちの「精神的健康、脳」に「リスク」をもたらす場合、人工知能を「禁止する」必要があると述べた。