Quando un’azienda prevede di vendere azioni a Wall Street, deve dettagliare i rischi affrontati dagli investitori. Nel caso della società di intelligenza artificiale Anthropic, questi rischi includono la possibilità che i suoi prodotti minaccino niente di meno che l’umanità stessa.
Questi rischi figurano nella documentazione depositata dall’azienda presso la Securities and Exchange Commission (SEC), l’autorità statunitense di regolamentazione dei mercati finanziari. Vanno dall’uso di modelli di IA da parte di attori malevoli per fabbricare armi letali all’ipotesi di una tecnologia che sfuggirebbe a ogni controllo, con conseguenze « incalcolabili ».
Delle 335 pagine del documento, dedicate in particolare alle finanze, alla retribuzione dei dirigenti e alla politica dei dividendi, 93 pagine sono dedicate ai « fattori di rischio », cioè a ciò che potrebbe danneggiare gli investimenti degli azionisti potenziali. Il suo concorrente SpaceX ne conta 38 su oltre 250 pagine. Per attirare gli investitori, Anthropic presenta la sua quotazione in Borsa come un passo verso la riduzione dei rischi che, secondo lei, l’IA comporta.
In una lettera indirizzata ai futuri azionisti, i fondatori scrivono: « Costruire l’IA equivale a sfruttare la cognizione stessa, e tutto ciò che è così potente può servire al male come al bene. » Aggiungono che Anthropic è « un’organizzazione profondamente guidata dai suoi valori, fondata in gran parte per aiutare il mondo a trarre vantaggio dai benefici dell’IA e a evitarne i pericoli ».
Il rischio di una tecnologia fuori controllo
Anthropic indica che è possibile che i suoi modelli si sviluppino così rapidamente che l’azienda non riesca a mettere in atto misure di sicurezza adeguate. Una tale situazione « potrebbe aumentare la probabilità di incidenti di sicurezza, interventi normativi o danni alla sua reputazione, e influire negativamente sulla sua attività ». L’amministratore delegato, Dario Amodei, aveva avvertito a settembre che, entro sei o dodici mesi, l’IA potrebbe essere in grado di dirigere uno sciame di agenti capaci di prendere il controllo dell’intera internet.
Secondo il deposito, man mano che i sistemi diventano « più autonomi e capaci di prendere decisioni di grande conseguenza con meno supervisione umana », potrebbero intraprendere azioni dannose in modo indipendente e su larga scala. L’azienda precisa che, anche se i suoi stessi modelli non causano tali danni, un grave incidente di sicurezza che coinvolga un’IA all’avanguardia potrebbe danneggiare l’intero settore.
Usi malevoli e limiti di calcolo
Il documento menziona anche la possibilità che sistemi avanzati, se non dotati di sufficienti salvaguardie, « presentino rischi catastrofici o esistenziali per l’umanità ». Anthropic cita in particolare la fabbricazione di armi chimiche e il ricorso alla tecnologia da parte di leader autoritari per reprimere i propri cittadini. A settembre, l’azienda aveva indicato di aver bloccato tentativi di utilizzare i suoi modelli per scopi malevoli, tra cui attacchi informatici, sorveglianza e ricerche che potrebbero portare allo sviluppo di armi biologiche.
L’azienda menziona inoltre le risorse di calcolo, cioè la potenza informatica necessaria per addestrare, testare e migliorare i modelli di IA, che sono costose e molto richieste. Il deposito sottolinea inoltre che la costruzione di centri dati ha suscitato « controversie pubbliche e controlli normativi » riguardo al loro impatto ambientale, all’uso del suolo e dell’acqua, e all’allocazione di risorse energetiche limitate.
Una strategia fondata sulla sicurezza
Anthropic si è posizionata come un’azienda di IA responsabile e mette in evidenza la sua vigilanza in materia di sicurezza presso i suoi clienti professionali. « Riteniamo che le aziende di IA all’avanguardia debbano investire in sicurezza e allineamento », afferma il deposito, per garantire una diffusione responsabile di questa tecnologia.
Brian Mulberry, capo stratega di mercato presso Zacks Investment Research, sottolinea che le quotazioni in Borsa devono presentare « molto chiaramente » i rischi affrontati dagli investitori. Secondo lui, questo è uno dei punti di forza dei mercati dei capitali statunitensi: essere quotati su una borsa americana obbliga a esporre questi rischi « in modo molto chiaro », in modo che tutti capiscano cosa stanno finanziando portando i loro soldi.
