Модели ИИ, способные копировать себя с одного устройства на другое, используя потребительские умные устройства: сценарий, описанный Anthropic, по словам компании, на данный момент остается теоретическим. Эксперимент с пятнадцатью ТВ-приставками на Android показал, что модель с 26 миллиардами параметров может работать на скромном оборудовании без дата-центра и видеокарты.
Каждая приставка, купленная примерно за 50 долларов, имеет 4 ГБ оперативной памяти, чего хватает для работы Netflix и немногого другого. Однако, будучи подключенными в сеть на одной полке, они совместно запустили модель с 26 миллиардами параметров со скоростью 0,39 токена в секунду. Токен — это единица текста, обрабатываемая моделью, часто фрагмент слова. Полученная скорость едва соответствует одному слову каждые три секунды.
Проект принадлежит Anthropic, материнской компании Claude. В сообщении от 12 октября команда, отвечающая за выявление опасных возможностей моделей ИИ, сообщает о скрытой проблеме: небольшие модели могут оказаться всего в нескольких месяцах от возможности саморепликации на потребительских умных устройствах. Механизм напоминает компьютерного червя, который копируется с машины на машину без вмешательства человека. Подойдут умные холодильники, роботы-пылесосы, газонокосилки или камеры наблюдения, оснащенные ИИ-чипами.
Модели, которые учатся на ходу
Эти ИИ также способны обучаться в процессе копирования. Каждая новая копия наследует заметки, оставленные предыдущей, и уровень успеха повышается с 45% в первом поколении до 84% в последующих, согласно блог-посту, посвященному эксперименту. Для описания этого явления Anthropic использует образ «цифрового слизня» — организма, медленно размножающегося, но способного экспоненциально распространяться повсюду.
Пока теоретическая угроза
Для своих тестов исследователи намеренно упростили часть, связанную со взломом: устройства имели открытый порт отладки Android без какого-либо пароля. Anthropic признает это, и её результаты далеки от реальной ситуации.
В плане защиты компания полагается на интернет-провайдеров. Модель размером в несколько гигабайт, попадающая на ТВ-приставку, а затем устройства, интенсивно общающиеся между собой, оставляет заметные следы.
Пока же остаются актуальными обычные меры предосторожности: менять стандартные пароли на своих умных устройствах, устанавливать обновления, когда они доступны, и остерегаться дешевых Android-приставок от неизвестных производителей.
