Das US-Startup Anthropic, Schöpfer der Künstlichen Intelligenz Claude, bereitet seinen Börsengang vor. Es hat seine Unterlagen für die Zulassung an der Wall Street veröffentlicht, in denen es vor den Risiken seiner eigenen Modelle warnt. Während mehrere Medien den November erwähnen, ist das genaue Datum noch nicht bekannt.
Dieser Börsengang könnte alle Rekorde brechen, insbesondere den von SpaceX. Anthropic verzeichnet ein schnelles Wachstum, verliert aber gleichzeitig enorme Summen. Das Unternehmen, das erst vor fünf Jahren gegründet wurde, erzielte in sechs Monaten einen Umsatz von 16 Milliarden Dollar – ein Ergebnis, das für ein Unternehmen dieses Alters als beispiellos dargestellt wird.
Diese Zahlen gehen jedoch mit hohen Ausgaben einher. Das Startup verlor im ersten Halbjahr mehr als 8 Milliarden Dollar und hat sich verpflichtet, enorme Summen für die Entwicklung seiner Künstlichen Intelligenzen aufzuwenden. Es plant unter anderem, in den nächsten 20 Jahren 265 Milliarden Dollar für die Anmietung von Rechenkapazitäten wie Cloud-Diensten, also ferngesteuerten Servern, auszugeben.
Warnungen im Kern des Dokuments
Das 350-seitige Dokument widmet fast 100 Seiten den Risiken. Anthropic räumt darin ein, dass seine Sicherheitssysteme bereits versagt haben oder falsch konfiguriert oder versehentlich deaktiviert wurden. Dieser Abschnitt richtet sich direkt an künftige Investoren, die das Unternehmen finanziell unterstützen sollen.
Das Unternehmen warnt auch davor, dass seine Modelle eigenständig handeln könnten, ohne dass ein Nutzer sie dazu auffordert, und Schäden und Gefahren verursachen könnten. Laut den Unterlagen könnten sich diese Risiken verschärfen, je autonomer die Künstliche Intelligenz wird, also je mehr sie ohne menschliches Eingreifen handeln kann.
Diese Warnung erfolgt zu einem Zeitpunkt, an dem Anthropic Milliarden von Dollar von Investoren einwirbt, um eine Technologie zu finanzieren, deren potenzielle Gefahren es selbst beschreibt.
