Modele sztucznej inteligencji zdolne do kopiowania się z urządzenia na urządzenie, wykorzystując popularne przedmioty podłączone do internetu: scenariusz opisany przez Anthropic pozostaje, według firmy, na tym etapie teoretyczny. Eksperyment przeprowadzony z piętnastoma dekoderami Android TV pokazuje, że model o 26 miliardach parametrów może działać na skromnym sprzęcie, bez centrum danych ani karty graficznej.
Każdy dekoder, kupiony za około pięćdziesiąt dolarów, ma 4 GB pamięci RAM, wystarczającej do uruchomienia Netflixa i niewiele więcej. Połączone w sieć na jednej półce, uruchomiły jednak wspólnie model o 26 miliardach parametrów, z prędkością 0,39 tokena na sekundę. Token to jednostka tekstu przetwarzana przez model, często fragment słowa. Osiągnięte tempo odpowiada zaledwie jednemu słowu co trzy sekundy.
Projekt jest sygnowany przez Anthropic, firmę-matkę Claude’a. W poście opublikowanym 12 października zespół odpowiedzialny za wykrywanie niebezpiecznych zdolności modeli AI raportuje ukryty problem: małe modele mogą być zaledwie kilka miesięcy od możliwości samoreplikacji na popularnych urządzeniach podłączonych do internetu. Mechanizm przypomina robaka komputerowego, który kopiuje się z maszyny na maszynę bez interwencji człowieka. Inteligentne lodówki, roboty odkurzające, kosiarki czy kamery monitoringu wyposażone w układy AI mogłyby się do tego nadawać.
Modele, które uczą się w drodze
Te sztuczne inteligencje są również zdolne do uczenia się w trakcie kopiowania. Każda nowa kopia dziedziczy notatki pozostawione przez poprzednią, a wskaźnik sukcesu wzrasta z 45% w pierwszej generacji do 84% w kolejnych, zgodnie z wpisem na blogu poświęconym eksperymentowi. Aby opisać to zjawisko, Anthropic używa obrazu « cyfrowego śluzowca », organizmu powolnego w replikacji, ale zdolnego do wykładniczego rozwoju wszędzie.
Na razie teoretyczne zagrożenie
W swoich testach badacze celowo ułatwili część związaną z hakowaniem: urządzenia udostępniały otwarty port debugowania Android, bez żadnego hasła. Anthropic to przyznaje, więc jego wyniki odbiegają od sytuacji rzeczywistej.
Jeśli chodzi o obronę, firma stawia na dostawców usług internetowych. Model o wielkości kilku gigabajtów, który ląduje na dekoderze TV, a następnie urządzenia komunikujące się między sobą z dużą prędkością, pozostawia wykrywalne ślady.
W oczekiwaniu na rozwiązania, obowiązują zwykłe zasady ostrożności: zmiana domyślnych haseł w urządzeniach IoT, instalowanie dostępnych aktualizacji oraz ostrożność wobec tanich dekoderów Android od nieznanych producentów.
