Anthropic nutzt KI, um die Entwicklung seiner eigenen Modelle zu beschleunigen, so ein neuer Bericht der Forschungsorganisation für KI-Sicherheit METR. Laut diesem Dokument würden sich die Modelle des Unternehmens etwa doppelt so schnell weiterentwickeln wie noch vor einem Jahr, ohne offensichtliche Anzeichen einer Verlangsamung. Der Bericht wirft auch eine Frage auf: Was weiß die Öffentlichkeit wirklich über dieses Tempo und die damit verbundenen Risiken?
Der Bericht ist das Ergebnis einer elf Wochen dauernden Untersuchung innerhalb des Unternehmens im Rahmen einer Bewertung seiner Forschungs- und Entwicklungsaktivitäten im Bereich KI. Laut METR deuten die Benchmark-Ergebnisse darauf hin, dass Anthropic „in den letzten zwölf Monaten etwa zwei Jahre historischen Fortschritt erzielt hat ». Die Forscher sind „zuversichtlich », dass diese Beschleunigung nicht einfach auf die erhöhte Rechenleistung zurückzuführen ist, die zum Training der Modelle verwendet wird – ein Faktor, der lange Zeit als Hauptantrieb der Fortschritte galt.
KI beschleunigt die Forschung bei Anthropic
Laut METR ist der Großteil der im Oktober beobachteten Beschleunigung „auf KI zurückzuführen », und ihr Beitrag würde mit der Zeit zunehmen. Diese Feststellung stützt sich auf informelle Umfragen auf Slack und Interviews mit Mitarbeitern, die von erheblichen Produktivitätsgewinnen berichten. Im Durchschnitt geben die Mitarbeiter, die das leistungsstärkste interne Modell des Unternehmens nutzen, an, etwa 12-mal produktiver zu sein als ohne KI-Unterstützung – etwa doppelt so viel wie noch vor einigen Monaten mit Mythos 5.
Derzeit stammt diese Beschleunigung vor allem von einer KI, die menschliche Forscher unterstützt, nicht von einer KI, die eigenständig arbeitet. METR warnt jedoch, dass „einige Anzeichen darauf hindeuten, dass vollständig autonome Beiträge bald eine größere Rolle spielen werden ». Die Forscher haben keine klaren Anzeichen für abnehmende Erträge oder Engpässe festgestellt, die eine noch schnellere Beschleunigung verhindern könnten.
Drei neue Modelle von Anthropic haben zudem in den letzten sechs Monaten ihr Training abgeschlossen, ohne veröffentlicht worden zu sein. Sie tragen die Codenamen Model 2, Model 3 und Model 4, deren Training jeweils im Juli, zwischen August und September sowie zwischen September und Oktober abgeschlossen wurde. METR erwähnt außerdem ein nicht veröffentlichtes Modell aus dem Jahr 2022 namens Unreleased 2022. Die Forscher präzisieren, dass „dies die uns mitgeteilten Codenamen sind; wir verstehen, dass sie intern andere Namen haben ».
Zensierte Informationen
Anthropic gewährte METR Zugang zu nicht öffentlichen Informationen, darunter vertrauliche Forschungsdaten, Leistungsdaten der Modelle und Interviews mit Mitarbeitern. Der Bericht stellt jedoch klar, dass der Zugang nicht uneingeschränkt war. Anthropic hatte das Recht, die endgültige Version zu zensieren, und METR gibt an, einen etwa 100 Seiten umfassenden Bericht eingereicht zu haben, dessen öffentliche Version um „den Großteil der Beweise » gekürzt wurde, die die Organisation für am informativsten hielt.
Anthropic rechtfertigt diese Kürzungen mit dem Risiko, Konkurrenten zu begünstigen. METR schätzt hingegen, dass „der Großteil der zensierten Informationen sehr allgemein gehalten war », ohne eine Aussage über die kommerzielle Natur dieser Entscheidungen zu treffen. In einer langen Nachricht auf X räumt der Mitgründer von Anthropic, Sam McCandlish, ein: „Wir haben viel zensiert, und ich akzeptiere, dass dies die Überprüfung der Arbeit von METR erschwert. » Er erklärt, dass das Unternehmen „die richtige Entscheidung getroffen hat » und kündigt die baldige Veröffentlichung eines eigenen Berichts über die Geschwindigkeit der KI-Fortschritte an.
Wachsende Druck auf Transparenz
Der Bericht hat unter Forschern im Bereich KI-Sicherheit heftige Kritik ausgelöst. Daniel Kokotajlo, ehemaliger Forscher bei OpenAI und Leiter des AI Futures Project, wirft Anthropic vor, „rücksichtslos mit unseren Leben zu spielen ». Brianna Rosen, Forschungsleiterin für Sicherheit von Spitzentechnologiemodellen am Institute for AI Policy and Strategy, meint, der Bericht sei „nicht transparent genug bezüglich der Beweise ». Anthropic lehnte es ab, Fragen von The Verge zu beantworten, und verwies auf die Nachricht von Sam McCandlish.
Der New Yorker Abgeordnete Alex Bores forderte den Kongress auf, „RSI noch in diesem Jahr zu verbieten, wenn möglich ». RSI, oder rekursive Selbstverbesserung, bezeichnet KI-Systeme, die in der Lage sind, ohne menschliches Eingreifen immer leistungsfähigere Nachfolgesysteme zu entwickeln. Marius Hobbhahn, Gründer und Geschäftsführer von Apollo Research, hält die Ergebnisse für „im Großen und Ganzen im erwarteten Rahmen, vielleicht etwas schneller » und warnt: „Bereitet euch auf den Wahnsinn vor. Es geht sehr schnell. »
