Modelli di IA capaci di copiarsi da un dispositivo all’altro, partendo da oggetti connessi di consumo: lo scenario descritto da Anthropic rimane, secondo l’azienda, teorico a questo stadio. Un esperimento condotto con quindici box Android TV mostra che un modello da 26 miliardi di parametri può funzionare su hardware modesto, senza data center né scheda grafica.
Ogni box, acquistata per una cinquantina di dollari, dispone di 4 GB di memoria RAM, sufficienti per far girare Netflix e poco più. Connesse in rete su uno scaffale, hanno però fatto funzionare insieme un modello da 26 miliardi di parametri, alla ragione di 0,39 token al secondo. Un token è un’unità di testo che il modello elabora, spesso un frammento di parola. Il ritmo ottenuto corrisponde a malapena a una parola ogni tre secondi.
Il progetto è firmato Anthropic, la casa madre di Claude. In un post pubblicato il 12 ottobre, il team incaricato di individuare le capacità pericolose dei modelli di IA segnala un problema latente: i modelli piccoli potrebbero essere a pochi mesi dal poter autoriprodursi su oggetti connessi di consumo. Il meccanismo ricorda quello di un worm informatico, che si copia da una macchina all’altra senza intervento umano. Frigoriferi connessi, robot aspirapolvere, tosaerba o telecamere di sorveglianza dotate di chip di IA potrebbero essere adatti.
Modelli che imparano strada facendo
Queste IA sono anche capaci di imparare durante le copie. Ogni nuova copia eredita le note lasciate dalla precedente, e il tasso di successo passa dal 45% alla prima generazione all’84% nelle successive, secondo il post del blog dedicato all’esperimento. Per descrivere questo fenomeno, Anthropic utilizza l’immagine del « blob digitale », un organismo lento a replicarsi, ma capace di svilupparsi ovunque in modo esponenziale.
Una minaccia per il momento teorica
Per i suoi test, i ricercatori hanno volontariamente facilitato la parte di hacking: i dispositivi esponevano una porta di debug Android aperta, senza alcuna password. Anthropic lo riconosce, e i suoi risultati si allontanano quindi dalla situazione reale.
In materia di difesa, l’azienda punta sui fornitori di accesso a internet. Un modello di diversi gigabyte che atterra su una box TV, poi dispositivi che comunicano tra loro ad alta velocità, lascia tracce individuabili.
Nel frattempo, le precauzioni abituali restano valide: modificare le password di fabbrica dei propri dispositivi connessi, installare gli aggiornamenti quando esistono, e diffidare delle box Android a basso prezzo il cui produttore è sconosciuto.
