Het Amerikaanse start-upbedrijf Anthropic, maker van de kunstmatige intelligentie Claude, bereidt zich voor op een beursintroductie. Het heeft zijn aanvraagdossier voor Wall Street openbaar gemaakt, waarin het waarschuwt voor de risico’s van zijn eigen modellen. Hoewel verschillende media november noemen, is de exacte datum nog niet bekend.
Deze beursintroductie zou alle records kunnen breken, waaronder dat van SpaceX. Anthropic laat een snelle groei zien, maar lijdt tegelijkertijd aanzienlijke verliezen. Het bedrijf, slechts vijf jaar geleden opgericht, heeft in zes maanden tijd een omzet van 16 miljard dollar gerealiseerd, een resultaat dat wordt gepresenteerd als ongekend voor een bedrijf van deze leeftijd.
Deze cijfers gaan echter gepaard met zware uitgaven. Het start-upbedrijf heeft in de eerste helft van het jaar meer dan 8 miljard dollar verloren en heeft zich ertoe verbonden enorme bedragen te besteden aan de ontwikkeling van zijn kunstmatige intelligenties. Het is onder meer van plan om 265 miljard dollar uit te geven over 20 jaar voor het huren van computerkracht, zoals clouddiensten, dat wil zeggen op afstand toegankelijke servers.
Waarschuwingen centraal in het dossier
Het document, dat 350 pagina’s telt, wijdt bijna 100 pagina’s aan risico’s. Anthropic erkent daarin dat zijn beveiligingssystemen al hebben gefaald, of verkeerd zijn geconfigureerd of per ongeluk zijn uitgeschakeld. Dit deel richt zich rechtstreeks tot toekomstige investeerders, die financieel bij zouden moeten dragen aan het bedrijf.
Het bedrijf waarschuwt ook dat zijn modellen zelfstandig zouden kunnen handelen, zonder dat een gebruiker daarom vraagt, en schade en gevaren zouden kunnen veroorzaken. Volgens het dossier zouden deze risico’s kunnen verergeren naarmate de kunstmatige intelligentie autonomer wordt, dat wil zeggen, meer vermogen krijgt om te handelen zonder menselijke tussenkomst.
Deze waarschuwing komt op een moment dat Anthropic miljarden dollars bij investeerders probeert op te halen om een technologie te financieren waarvan het zelf de potentiële gevaren beschrijft.
