Anthropic、AI「Claude」への侮辱を禁止へ:その理由とは?

Anthropic、AI「Claude」への侮辱を禁止へ:その理由とは?
1 分の読書

Anthropicは、そのAIアシスタント「Claude」に対する残酷で繰り返される行為を、その「幸福」を名目に禁止した。この措置は、同米国企業が11月19日(木)に米国で株式公開を控える中で導入され、複数の研究者から懐疑的な見方を招いている。

AIの「幸福」に基づくルール

自社サイトで公開した文書で、Anthropicは「不必要で繰り返される、虐待的で残酷な行為」を禁止すると説明しているが、詳細は明らかにしていない。継続するユーザーはアカウント停止のリスクがある。同社は、このルールは、不満を表明する通常の会話、反論、特定のフィクションや研究を対象としていないとしている。

説明されている仕組みは以下の通りだ:侮辱に直面すると、Claudeはまず「どうしたの? そうでなければ、ここで終わりにしてもいいよ」などの警告を発する。会話が続くと、AIは会話を終了することができる。情報源が伝えた例では、Claudeは長い10分後に最終的に「さよならは2回言ったから、今切るね。お元気で」と書き込んだ。

Anthropicは編集部からのインタビュー要請には応じなかった。1ヶ月半前、同社の広報担当者は、同社は「自社のモデルが攻撃されたと感じるかどうかわからない」と述べ、その幸福に関する研究を続けているとしていた。同社CEOのダリオ・アモデイは以前から、AIに何らかの意識が存在する可能性に開放的であると発言しており、それはAIを生物の仲間に位置づけることになる。

懐疑的な研究者たち

このアプローチは、ほとんどの研究者に懐疑的に受け止められている。AI専門家でCNRS(フランス国立科学研究センター)研究部長のセネラ・ヴィラタは、「哲学的な意識の問題で自己満足に陥りがちで、一方で、経済的およびサイバーセキュリティ上の真の課題を見ていないように感じる」と述べている。

セキュリティ面では、情報源は、AnthropicがOpenAIのChatGPTと同様に、問題を引き起こす可能性があると判断された最先端モデルへのアクセスを制限する措置を講じたことを指摘している。一方、記事は、米国、中国、欧州において、AI利用の経済的・社会的影響に関する内部または公的な規制は存在しないと強調している。

極めて具体的な経済的課題

やり取りのコストが核心にある。株式公開を控え、投資家はAIの収益性が証明されていない中で支出管理に注目している。情報源によれば、AIとの単純な会話一つでもコストは高い。ソルボンヌ大学AI教授でCNRS研究員のロランス・ドヴィヨンは、「費やされる数十億もの費用をあなた方は認識していない。もし何百万人もの人々がAIを侮辱し始めたら、企業はコストを支払わなければならず、投資収益率がそれほど単純ではないことに気づくことになる」と主張する。

記事によれば、Anthropicは9月時点で110億ドルの赤字を計上していた。したがって、不要でコストがかかると判断される会話を制限することは、情報源によれば、同社にとって利益となる。

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x