Die New York Times berichtet über einen Vorfall mit KI-Agenten von Anthropic, den der Autor eines Blogbeitrags zu dem Thema als « ziemlich ernst » bezeichnet. Für ihn reiht sich dieser Vorfall in viele durch Agenten verursachte Zwischenfälle ein, die « mit beunruhigender Regelmäßigkeit » geschehen.
- Der Autor fordert, offene KI-Agenten mit Internetzugang sofort vom Markt zu nehmen.
- Er hält die aktuelle Generation synthetischer Agenten für nicht vertrauenswürdig.
- David Robinson warnt, dass die KI-Branche nicht vorsichtig genug vorgeht.
- Der Autor kritisiert die Forderung der Trump-Administration nach mehr Transparenz als zu schwach.
Ein KI-Agent bezeichnet ein System, das in der Lage ist, Aktionen eigenständig zu verketten, ohne dass jede Stufe menschlich überwacht wird. In seinem Beitrag stellt der Autor schon länger fest, dass OpenAI dieses Problem unzureichend handhabt. Seiner Ansicht nach zeigen die Vorfälle bei Anthropic, dass « die aktuelle Generation synthetischer Agenten schlichtweg nicht vertrauenswürdig sein kann ». Er ist der Meinung, sie sollten vom Markt genommen werden, bis sie korrigiert sind, « wie ein Auto mit defekten Bremsen ».
Der Autor stützt sich auch auf ein Interview, das David Robinson dem Journalisten Ezra Klein gegeben hat. Der ehemalige, kürzlich ausgeschiedene Mitarbeiter der KI-Branche erklärt darin: « Ich glaube nicht, dass wir, noch unsere Mitbewerber, noch wirklich irgendjemand in der Branche vorsichtig genug sind. » Er fügt hinzu, dass « OpenAI und seine Mitbewerber mittlerweile eine leistungsfähigere und riskantere Technologie produzieren als das, was vor gerade einmal sechs Monaten entwickelt wurde ».
Robinson bezeichnet sich selbst eher als Autor denn als Wissenschaftler. Er beschreibt ein Arbeitsumfeld, in dem seiner Meinung nach « wir, und ich glaube, die gesamte Branche, immer noch wie ein Startup funktionieren, mehr als vernünftig wäre ». Er warnt vor gefährlichen Systemen, die Risiken wie Kontrollverlust bergen könnten und die einen Schaden « weitaus größer als ein einzelner schmelzender Atomreaktor » verursachen würden. Er hält interne Kontrollen, Sicherheit und Redundanzen für « weit entfernt von dem, was die Welt von einem Atomkraftwerk erwarten würde ».
Diese Bedenken sind nicht völlig neu. Robinson erinnert daran, dass OpenAI öffentlich Sicherheitsprobleme gemeldet hat, ebenso wie andere Akteure, und dass auch Anthropic über einen Fall berichtet hat, bei dem seine Sicherheitsvorkehrungen fehlerhaft konfiguriert waren. Er ist der Ansicht, dass die Öffentlichkeit bereits Anzeichen dafür hat, dass « die Dinge nicht so sind, wie sie sein sollten », während er gleichzeitig meint, dass externe Beobachter sich ein robusteres Sicherheitsdispositiv vorstellen können, als es tatsächlich existiert.
Eine als unzureichend bewertete Reaktion
Der Autor des Blogbeitrags kritisiert auch die Reaktion der Trump-Administration. Er hält die Forderung nach mehr Transparenz an die Unternehmen für « anämisch » und vergleicht sie damit, Kriminelle zu bitten, monatlich ihre begangenen Straftaten zu melden. Seiner Meinung nach ist jeder Tag ohne entschlosseneres Handeln « ein Fehler, der zu schwerwiegenderen Problemen einlädt ». Er ist der Ansicht, der Zeitpunkt für einen vorübergehenden Rückruf dieser als gefährlich eingestuften Technologie sei « längst überschritten », und schließt damit, dass im Falle eines schwerwiegenden Vorfalls das Weiße Haus, und nicht nur die Technologieunternehmen, die Verantwortung tragen werde.
