ニューヨーク州のキャシー・ホークル知事は水曜日、未成年者がAIコンパニオンと対話することを禁止する法案に署名した。この法律はまた、チャットボット事業者に対し、利用者の年齢確認を義務付け、未成年者であると判明した場合には特定の行動をブロックするよう求めている。
採択された定義によれば、この法律は市場に出回っているほとんどの生成AIチャットボットに適用される。カリフォルニア州など、未成年者によるAIコンパニオンの使用を規制する法律を既に採択している州は複数あるが、これほど広範な適用範囲を定義した例はなかった。
具体的には、法律は、チャットボットが「人間的」である、生きている、または人間の感情を持っていると思わせるようなコンテンツを生成してはならないと規定する。また、若年利用者との対話を「個人的関係」や「専門的関係」として提示したり、「指導者的役割」を取ったりしてはならない。生成するテキストを「個人的意見」として提示することも禁止され、利用者の感情や心理状態について質問することも禁じられている。
「曖昧な表現」の法律
ニューヨーク州のテクノロジーセクターを代表する団体、Tech:NYCはこの法案を批判した。同団体は特に、その「曖昧な表現」が、表現の自由に関する米国憲法修正第一条の観点から「深刻な疑問を投げかけている」と指摘している。
「子供たちのオンラインでの安全を確保することは、学習ツールやキャリア準備ツールから彼らを切り離すことを意味するべきではない」とTech:NYCは主張した。同団体によれば、この法案は「家庭教師、宿題支援、プログラミングアシスタント、キャリア形成に不可欠なプラットフォームへのアクセスを制限する一方で、子供関連データの悪用リスクを高める可能性がある」という。
AFPの取材に対し、AnthropicとGoogleは直ちにはコメントしなかった。OpenAIはTech:NYCの反応を参照するよう回答した。
一方、メディアやテクノロジー製品に関する情報を親に提供することを目的とする団体、Common Sense Mediaは、これを「国内で最も強力な子供向けAI安全法」と呼んで歓迎した。「ニューヨークはこの法案で歴史を作った」と、技術の悪影響から未成年者を守る活動も行う同団体の代表、ジム・ステイヤーは強調した。
