Anthropic verbietet nun wiederholt grausames Verhalten gegenüber seinem KI-Assistenten Claude, und zwar mit dem Wohlbefinden desselben als Begründung. Die Maßnahme erfolgt, während das US-Unternehmen am Donnerstag, den 19. November, in den USA an die Börse geht, und sie stößt bei mehreren Forschern auf Skepsis.
Eine Regel basierend auf dem « Wohlbefinden » der KI
In einer auf seiner Website veröffentlichten Mitteilung erklärt Anthropic, dass es « missbräuchliches und grausames, unnötiges und wiederholtes Verhalten » verbietet, ohne weitere Einzelheiten zu nennen. Nutzer, die fortfahren, riskieren die Schließung ihres Kontos. Das Unternehmen gibt an, dass die Regel nicht auf normale Gespräche abzielt, bei denen eine Person ihre Frustration äußert, noch auf Widerspruch oder bestimmte Fiktionen oder Forschung.
Das beschriebene Vorgehen ist wie folgt: Bei Beleidigungen spricht Claude zunächst einige Warnungen aus, zum Beispiel « Erzähl mir, was los ist. Ansonsten können wir auch einfach hier aufhören ». Wenn der Austausch fortgesetzt wird, kann die KI das Gespräch beenden. Im von der Quelle berichteten Beispiel schreibt Claude nach 10 langen Minuten schließlich: « Ich habe mich zweimal verabschiedet, also lege ich jetzt auf. Pass auf dich auf ».
Anthropic hat die Interviewanfrage der Redaktion nicht beantwortet. Vor anderthalb Monaten hatte ein Sprecher des Unternehmens jedoch erklärt, dass das Unternehmen nicht wisse, « ob seine Modelle sich angegriffen fühlen können », und dass es seine Forschung zu ihrem Wohlbefinden fortsetze. Der Chef des Unternehmens, Dario Amodei, hatte sich bereits offen für die Möglichkeit einer Form von KI-Bewusstsein gezeigt, was sie unter die Lebewesen einordnen würde.
Skeptische Forscher
Dieser Ansatz lässt die meisten Forscher skeptisch. Sénéra Villata, KI-Expertin und Forschungsdirektorin beim CNRS, meint: « Ich habe ein wenig den Eindruck, dass man sich gerne mit Fragen des philosophischen Bewusstseins brüstet und dabei jedoch nicht auf die wirklichen wirtschaftlichen und Cybersicherheits-Herausforderungen schaut. »
Auf dem Gebiet der Sicherheit erinnert die Quelle daran, dass Anthropic, genau wie OpenAI mit ChatGPT, Maßnahmen ergriffen und den Zugang zu einigen seiner Spitzenmodelle eingeschränkt hat, die als potenziell problematisch eingestuft wurden. Der Artikel hebt jedoch hervor, dass es in den USA, China oder Europa keine interne oder öffentliche Regulierung über die wirtschaftlichen und sozialen Folgen der KI-Nutzung gibt.
Sehr konkrete wirtschaftliche Herausforderungen
Die Kosten der Interaktionen stehen im Mittelpunkt des Themas. Mit dem Börsengang achten Investoren auf die Kostenkontrolle, da die Rentabilität von KIs nicht nachgewiesen ist. Laut der Quelle kostet jedoch schon ein einfaches Gespräch mit einer KI viel Geld. Laurence Devillers, Professorin für KI an der Sorbonne Université und Forscherin beim CNRS, erklärt: « Sie machen sich keine Vorstellung von den ausgegebenen Milliarden. Wenn also Millionen von Menschen anfangen, die KI zu beleidigen, müssen die Industrieunternehmen Kosten zahlen und stellen fest, dass die Kapitalrendite nicht so einfach ist. »
Anthropic verzeichnete im September ein Defizit von 11 Milliarden Dollar, berichtet der Artikel. Die Beschränkung von als unnötig und kostspielig eingestuften Gesprächen hat daher laut der Quelle ein Interesse für das Unternehmen.
