AI-modellen die zichzelf van apparaat naar apparaat kunnen kopiëren, via consumentenslimme apparaten: het scenario dat Anthropic beschrijft is volgens het bedrijf op dit moment nog theoretisch. Een experiment met vijftien Android TV-boxen toont dat een model van 26 miljard parameters kan werken op bescheiden hardware, zonder datacenter of grafische kaart.
Elke box, gekocht voor ongeveer vijftig dollar, heeft 4 GB werkgeheugen, genoeg om Netflix te draaien en weinig meer. Toch konden ze, aangesloten in een netwerk op een plank, samen een model van 26 miljard parameters laten werken, met een snelheid van 0,39 tokens per seconde. Een token is een tekstunit die het model verwerkt, vaak een fragment van een woord. Het behaalde tempo komt nauwelijks overeen met één woord per drie seconden.
Het project is van Anthropic, het moederbedrijf van Claude. In een bericht gepubliceerd op 12 oktober meldt het team dat gevaarlijke capaciteiten van AI-modellen opspoort een latent probleem: kleine modellen zouden slechts enkele maanden verwijderd kunnen zijn van het vermogen om zichzelf te repliceren op consumentenslimme apparaten. Het mechanisme doet denken aan een computervorm, die zich van machine naar machine kopieert zonder menselijke tussenkomst. Slimme koelkasten, robotstofzuigers, grasmaaiers of bewakingscamera’s uitgerust met AI-chips zouden geschikt kunnen zijn.
Modellen die onderweg leren
Deze AI’s kunnen ook leren tijdens het kopiëren. Elke nieuwe kopie erft de notities van de vorige, en het slagingspercentage stijgt van 45% in de eerste generatie naar 84% in de volgende, volgens het blogbericht over het experiment. Om dit fenomeen te beschrijven, gebruikt Anthropic het beeld van de ‘digitale blob’, een organisme dat traag repliceert, maar exponentieel overal kan groeien.
Een vooralsnog theoretische dreiging
Voor hun tests hebben de onderzoekers het hackgedeelte bewust vergemakkelijkt: de apparaten stelden een open Android-debugpoort bloot, zonder enig wachtwoord. Anthropic erkent dit, en de resultaten wijken daarom af van de realiteit.
Op het gebied van verdediging vertrouwt het bedrijf op internetproviders. Een model van meerdere gigabytes dat op een TV-box belandt, en apparaten die onderling op hoge snelheid communiceren, laat sporen na die opgemerkt kunnen worden.
Tot die tijd blijven de gebruikelijke reflexen belangrijk: de standaardwachtwoorden van slimme apparaten wijzigen, updates installeren wanneer ze beschikbaar zijn, en wantrouwig zijn tegenover goedkope Android-boxen van onbekende fabrikanten.
