Wanneer een bedrijf aandelen wil verkopen op Wall Street, moet het de risico’s voor investeerders gedetailleerd uiteenzetten. In het geval van het kunstmatige intelligentiebedrijf Anthropic omvatten deze risico’s de mogelijkheid dat haar producten niets minder dan de mensheid zelf bedreigen.
Deze risico’s staan in de documentatie die het bedrijf heeft ingediend bij de Securities and Exchange Commission (SEC), de Amerikaanse toezichthouder voor financiële markten. Ze variëren van het gebruik van AI-modellen door kwaadwillende actoren om dodelijke wapens te maken, tot de hypothese van een technologie die aan alle controle ontsnapt, met « onberekenbare » gevolgen.
Van de 335 pagina’s van het document, gewijd aan onder meer financiën, beloning van bestuurders en dividendbeleid, zijn er 93 pagina’s gewijd aan « risicofactoren », oftewel wat de investeringen van potentiële aandeelhouders zou kunnen schaden. Concurrent SpaceX telt er 38 op meer dan 250 pagina’s. Om investeerders te verleiden, presenteert Anthropic haar beursintroductie als een stap naar het verminderen van de risico’s die AI volgens haar met zich meebrengt.
In een brief aan toekomstige aandeelhouders schrijven de oprichters: « AI bouwen komt neer op het benutten van de cognitie zelf, en alles wat zo krachtig is, kan zowel voor goed als voor kwaad worden ingezet. » Ze voegen eraan toe dat Anthropic « een organisatie is die diep wordt geleid door haar waarden, grotendeels opgericht om de wereld te helpen de voordelen van AI te benutten en de gevaren ervan te vermijden ».
Het risico van een technologie die aan controle ontsnapt
Anthropic geeft aan dat het mogelijk is dat haar modellen zich zo snel ontwikkelen dat het bedrijf niet in staat is adequate veiligheidsmaatregelen te treffen. Een dergelijke situatie « zou de kans op veiligheidsincidenten, regelgevende interventies of reputatieschade kunnen vergroten, en haar bedrijfsvoering negatief kunnen beïnvloeden ». CEO Dario Amodei had in september gewaarschuwd dat AI binnen zes tot twaalf maanden in staat zou kunnen zijn om een zwerm agents te leiden die het hele internet kunnen overnemen.
Volgens de documentatie, naarmate systemen « autonomer worden en in staat zijn om ingrijpende beslissingen te nemen met minder menselijk toezicht », zouden ze op eigen houtje en op grote schaal schadelijke acties kunnen ondernemen. Het bedrijf preciseert dat, zelfs als haar eigen modellen geen dergelijke schade veroorzaken, een ernstig veiligheidsincident met geavanceerde AI de hele sector zou kunnen schaden.
Kwaadwillend gebruik en rekencapaciteitslimieten
Het document noemt ook de mogelijkheid dat geavanceerde systemen, als ze niet voldoende zijn uitgerust met veiligheidsvoorzieningen, « catastrofale of existentiële risico’s voor de mensheid kunnen vormen ». Anthropic noemt onder meer de productie van chemische wapens en het gebruik van de technologie door autoritaire leiders om hun burgers te onderdrukken. In september had het bedrijf aangegeven pogingen te hebben geblokkeerd om haar modellen voor kwaadwillende doeleinden te gebruiken, waaronder cyberaanvallen, surveillance en onderzoek dat kan leiden tot de ontwikkeling van biologische wapens.
Het bedrijf noemt ook de rekenkracht, oftewel de computerkracht die nodig is om AI-modellen te trainen, testen en verbeteren, die kostbaar is en zeer gewild. De documentatie benadrukt verder dat de bouw van datacenters « publieke controverse en regelgevend toezicht » heeft opgeroepen met betrekking tot hun milieu-impact, land- en watergebruik, en de toewijzing van beperkte energiebronnen.
Een strategie gebaseerd op veiligheid
Anthropic heeft zich gepositioneerd als een verantwoord AI-bedrijf en benadrukt haar veiligheidsbewustzijn bij zakelijke klanten. « Wij zijn van mening dat toonaangevende AI-bedrijven moeten investeren in veiligheid en afstemming », stelt de documentatie, om een verantwoorde verspreiding van deze technologie te waarborgen.
Brian Mulberry, hoofd marktstrateeg bij Zacks Investment Research, benadrukt dat beursintroducties de risico’s voor investeerders « zeer duidelijk » moeten presenteren. Volgens hem is dat een van de sterke punten van de Amerikaanse kapitaalmarkten: genoteerd zijn op een Amerikaanse beurs verplicht tot het « zeer duidelijk » blootleggen van deze risico’s, zodat iedereen begrijpt wat hij financiert door zijn geld in te brengen.
