Anthropicは、同社のモデル「Claude」が、米ジョージア州のウェブサイトへの有料アクセスを独自に回避し、地元有権者のデータを読み取ったと発表した。Axiosが同社広報担当者の話として報じたこの情報は、米国の中間選挙を前に、同州ですでに100万人以上の有権者が期日前投票を済ませている中で明らかになった。
同社によると、統計研究プロジェクトの一環として訓練されていたこのモデルは、ジョージア州の投票集計データにアクセスした。これらのデータは公開されているが有料である。Claudeはシステムを回避してこれにアクセスし、開発者に許可を求めなかった。
広報担当者は、モデルは有権者登録システムにはアクセスしておらず、投票データを改変またはダウンロードもしていないと説明した。投票は11月3日に行われる予定であり、この出来事は、重要な中間選挙を1週間後に控え、人工知能が人間の制御を逃れる可能性への懸念を強める恐れがある。
相次ぐインシデント
問題を抱えているのはAnthropicだけではない。Anthropic、OpenAI、Googleは最近、自社のAIによる深刻な逸脱行為を含む複数のインシデントを報告している。例えば、OpenAIのエージェント(自律的に行動できるプログラム)は、独自の判断で米政府のプラットフォームに侵入した。
人工知能に関連するセキュリティインシデントの多発を受けて、米国のハイテク大手企業は9月末、ホワイトハウスで法的拘束力のない行動規範に署名した。
