Wenn ein Unternehmen erwägt, Aktien an der Wall Street zu verkaufen, muss es die Risiken für Investoren detailliert darlegen. Im Fall des KI-Unternehmens Anthropic umfassen diese Risiken die Möglichkeit, dass seine Produkte nichts Geringeres als die Menschheit selbst bedrohen.
Diese Risiken sind in der Einreichung des Unternehmens bei der Securities and Exchange Commission (SEC), der US-Finanzmarktaufsicht, aufgeführt. Sie reichen von der Nutzung von KI-Modellen durch böswillige Akteure zur Herstellung tödlicher Waffen bis hin zur Hypothese einer Technologie, die jeglicher Kontrolle entgleitet, mit « unberechenbaren » Folgen.
Von den 335 Seiten des Dokuments, die unter anderem Finanzen, Vergütung der Führungskräfte und Dividendenspolitik behandeln, sind 93 Seiten den « Risikofaktoren » gewidmet, also dem, was potenziellen Aktionären schaden könnte. Sein Konkurrent SpaceX listet auf über 250 Seiten 38 solcher Faktoren auf. Um Investoren zu gewinnen, präsentiert Anthropic seinen Börsengang als einen Schritt zur Reduzierung der Risiken, die seiner Ansicht nach von der KI ausgehen.
In einem Brief an künftige Aktionäre schreiben die Gründer: « KI zu entwickeln bedeutet, die Kognition selbst zu nutzen, und alles, was so mächtig ist, kann sowohl für Gutes als auch für Böses eingesetzt werden. » Sie fügen hinzu, Anthropic sei « eine Organisation, die tief von ihren Werten geleitet wird und weitgehend gegründet wurde, um der Welt zu helfen, die Vorteile der KI zu nutzen und ihre Gefahren zu vermeiden ».
Das Risiko einer außer Kontrolle geratenen Technologie
Anthropic gibt an, dass es möglich ist, dass sich seine Modelle so schnell entwickeln, dass das Unternehmen keine angemessenen Sicherheitsmaßnahmen ergreifen kann. Eine solche Situation « könnte die Wahrscheinlichkeit von Sicherheitsvorfällen, regulatorischen Eingriffen oder Reputationsschäden erhöhen und sich negativ auf sein Geschäft auswirken ». Der CEO, Dario Amodei, hatte im September gewarnt, dass KI innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, einen Schwarm von Agenten zu steuern, die das gesamte Internet übernehmen können.
Laut der Einreichung könnten Systeme, je « autonomer und fähiger sie werden, folgenschwere Entscheidungen mit weniger menschlicher Aufsicht zu treffen », eigenständig und in großem Maßstab schädliche Maßnahmen ergreifen. Das Unternehmen stellt klar, dass selbst wenn seine eigenen Modelle keinen solchen Schaden anrichten, ein schwerwiegender Sicherheitsvorfall mit einer hochmodernen KI der gesamten Branche schaden könnte.
Böswillige Nutzung und Rechengrenzen
Das Dokument erwähnt auch die Möglichkeit, dass fortschrittliche Systeme, wenn sie nicht mit ausreichenden Sicherheitsvorkehrungen ausgestattet sind, « katastrophale oder existenzielle Risiken für die Menschheit darstellen ». Anthropic nennt insbesondere die Herstellung chemischer Waffen und den Einsatz der Technologie durch autoritäre Führer zur Unterdrückung ihrer Bürger. Im September hatte das Unternehmen angegeben, Versuche blockiert zu haben, seine Modelle für böswillige Zwecke zu nutzen, darunter Cyberangriffe, Überwachung und Forschung, die zur Entwicklung biologischer Waffen führen könnte.
Das Unternehmen erwähnt auch die Rechenressourcen, also die Rechenleistung, die zum Trainieren, Testen und Verbessern von KI-Modellen benötigt wird, die teuer und sehr gefragt sind. Die Einreichung hebt außerdem hervor, dass der Bau von Rechenzentren « öffentliche Kontroversen und regulatorische Kontrolle » bezüglich ihrer Umweltauswirkungen, Land- und Wassernutzung sowie der Zuteilung begrenzter Energieressourcen ausgelöst hat.
Eine auf Sicherheit basierende Strategie
Anthropic hat sich als verantwortungsvolles KI-Unternehmen positioniert und hebt seine Sicherheitsvorkehrungen gegenüber professionellen Kunden hervor. « Wir sind der Ansicht, dass führende KI-Unternehmen in Sicherheit und Ausrichtung investieren müssen », heißt es in der Einreichung, um eine verantwortungsvolle Verbreitung dieser Technologie zu gewährleisten.
Brian Mulberry, Chief Market Strategist bei Zacks Investment Research, betont, dass Börsengänge die Risiken für Investoren « sehr klar » darlegen müssen. Seiner Ansicht nach ist dies einer der Vorteile der US-Kapitalmärkte: Die Notierung an einer US-Börse zwingt dazu, diese Risiken « sehr klar » offenzulegen, damit jeder versteht, was er mit seinem Geld finanziert.
