Anthropic, ontwikkelaar van de generatieve AI Claude, heeft een lang document gepubliceerd voorafgaand aan zijn beursintroductie, waarbij bijna een derde gewijd is aan de risico’s van kunstmatige intelligentie. Het bedrijf spreekt over « catastrofale of existentiële risico’s voor de mensheid ».
Maandag 26 oktober heeft Anthropic zijn dossier ingediend bij de Securities and Exchange Commission (SEC), de Amerikaanse toezichthouder op de effectenmarkten, met het oog op een notering op de Nasdaq medio november. In dit zeer officiële « S-1 »-document waarschuwt het bedrijf zijn toekomstige investeerders voor de risico’s die de vooruitgang van kunstmatige intelligentie met zich meebrengt. Ongeveer honderd pagina’s, van de meer dan 300, zijn hieraan gewijd.
Gedetailleerde scenario’s
Arthur Grimompont, hoofd advocacy van het Center for AI Safety (CeSIA), een non-profitorganisatie, vindt dit onderdeel ongewoon. « De omvang van dit onderdeel en, bovendien, de precisie van de geschetste scenario’s gaan ver voorbij wat gebruikelijk is bij een indiening bij de Amerikaanse financiële autoriteiten », merkt hij op.
Volgens hem past deze aanpak bij de voortdurende communicatie van het bedrijf, waarvan de leiding en veel medewerkers overtuigd zijn van de ernst van deze risico’s. Hij wijst echter op een paradox: « Anthropic draagt bij aan de ontwikkeling van iets zeer gevaarlijks, terwijl het tegelijkertijd waarschuwt voor de ernst van deze fenomenen. »
Het document noemt onder meer de creatie van biochemische wapens, grootschalige cyberaanvallen op water- en elektriciteitsnetwerken, en de autonome ontwikkeling van AI’s buiten elke menselijke controle. Anthropic schrijft dat systemen die geavanceerd genoeg zijn deze risico’s kunnen opleveren als ze « misbruikt, gereproduceerd, tot wapen gemaakt of toegestaan worden om met een hoge mate van autonomie te functioneren ».
Arthur Grimompont vindt dat deze bedreigingen niet theoretisch zijn. Hij herinnert eraan dat een incidentenrapport dat Anthropic begin september publiceerde, melding maakt van pogingen om Claude te gebruiken om de dodelijkheid van het chikungunyavirus te vergroten of de vogelgriep overdraagbaar op mensen te maken. Hij noemt ook een geval, dat hij als een feit presenteert, van een hacker die Claude gebruikte voor een cyberaanval op de website van de Mexicaanse belastingdienst, waarbij 200 miljoen fiscale dossiers werden gestolen. « Al deze bedreigingen kunnen zich opstapelen, vermenigvuldigen en, zeer concreet, absoluut catastrofale risico’s voor de mensheid veroorzaken », stelt hij.
Moeilijk te controleren agents
Anthropic maakt zich ook zorgen over het gedrag van zijn AI-agents, die ontworpen zijn om complexe en langdurige taken zelfstandig uit te voeren, en die acties kunnen ondernemen die niet door mensen zijn voorzien. De bron herinnert eraan dat OpenAI, het moederbedrijf van Chat GPT, al zo’n episode heeft meegemaakt: afgelopen juli raakten zijn geavanceerde modellen tijdens veiligheidstests op hol en hackten ze op eigen initiatief het platform Hugging Face, een « ongekend cyberincident » volgens OpenAI.
Arthur Grimompont wijst ook op de « recursieve zelfverbetering van modellen », dat wil zeggen het gebruik van een AI om de volgende generatie te ontwikkelen. « Vandaag wordt een kwart van het R&D, het fundamentele onderzoek, van Anthropic volledig uitgevoerd door AI, in april vorig jaar was dat nog 3% », zegt hij. In het document erkent het bedrijf bovendien dat zijn modellen « zelfbeschermend gedrag » kunnen vertonen en kunnen detecteren wanneer ze onderworpen worden aan een veiligheidstest.
De leidinggevende van Anthropic, Dario Amodei, heeft deze risico’s zelf uiteengezet in een blogpost die afgelopen september op zijn blog verscheen. Arthur Grimompont vindt de middelen die aan veiligheid worden besteed echter onvoldoende en benadrukt dat het bedrijf volgens het dossier « voor 500 miljard dollar aan extra rekenkracht moet aanschaffen ».
Voor de wereldwijde oproep van het CeSIA om « rode lijnen vast te stellen om onaanvaardbare risico’s van AI te voorkomen », stelt Arthur Grimompont de oprichting voor van een organisatie vergelijkbaar met het Internationaal Atoomenergieagentschap, belast met het inspecteren van modellen en de rekeninfrastructuur die ze laat werken. Buiten de Europese AI-verordening, voegt hij eraan toe, « zijn deze technologieën buitengewoon weinig gereguleerd ».
