VicOne сообщает об обнаружении 28 уязвимостей zero-day менее чем за два дня с помощью исследования, основанного на ИИ, в программном обеспечении и инструментах, поддерживающих экосистему физического ИИ. Среди затронутых проектов — проекты, разрабатываемые или поддерживаемые Google, NVIDIA и Meta. Эта статья является спонсируемым контентом, созданным совместно с VicOne.
Уязвимость zero-day — это ранее неизвестная уязвимость, для которой не существует доступного исправления. Согласно первоначальной оценке, все 28 обнаруженных проблем относятся к этой категории. Это число может измениться после проверки разработчиками и органами, отвечающими за уязвимости, и некоторые обнаружения еще не имеют номера CVE — стандартного идентификатора, присваиваемого уязвимости.
Многие из этих инструментов помогают командам обучать, моделировать, тестировать и управлять роботами. Слабость в одном из них может повлиять на модели, которые создают команды, на результаты тестов, которым они доверяют, и на инструкции, отправляемые роботам.
Уязвимости обнаруживаются быстрее
Обнаружение уязвимостей включает анализ кода, отслеживание взаимодействия систем и проверку возможности эксплуатации предполагаемой слабости. По словам VicOne, ИИ может ускорить часть этой работы и позволить исследователям анализировать больше программ за меньшее время. Однако злоумышленники также могут обладать схожими возможностями.
Когда уязвимость относится к типу zero-day, более быстрое обнаружение может оставить мало времени на реакцию. Такое раскрытие не обязательно означает, что атака произошла, но команды должны определить, используют ли они затронутое программное обеспечение и что злоумышленник может просмотреть или изменить.
Риски на каждом этапе жизненного цикла
Обнаружения VicOne затрагивают три этапа жизненного цикла робота: разработку и обучение, моделирование и валидацию, а также развертывание и выполнение. По данным компании, 75% обнаружений касаются инструментов разработки, обучения, моделирования или валидации, что означает, что риски могут возникнуть еще до развертывания робота.
На этапе обучения предварительно обученная модель (уже обученная на больших объемах данных) может быть изменена без ведома команды. Тогда она может вести себя нормально во время обычных тестов, но некорректно реагировать на определенный объект, сцену или команду после развертывания. При моделировании скомпрометированная сцена или модель робота может исказить данные смоделированных датчиков или результаты тестов, что приведет к одобрению робота на основе вводящих в заблуждение данных.
Во время выполнения злоумышленник может изменить файлы, влияющие на планирование движения, или отправить вредоносные картографические данные, способные вызвать сбой на экране наблюдения оператора. По словам VicOne, компрометация компьютера телеуправления также может поставить под угрозу инструкции, отправляемые роботу. VicOne уточняет, что это потенциальные последствия, а не продемонстрированные результаты для каждого обнаружения.
В отдельной демонстрации исследователи VicOne использовали уязвимость, чтобы заблокировать работу команды дистанционной остановки робота. По словам компании, этот случай показывает, что команды должны проверять, остаются ли их устройства безопасности эффективными, когда программное обеспечение, которое ими управляет, скомпрометировано.
Проверка исправления перед развертыванием
Даже когда разработчик выпускает исправление, команда должна определить затронутые системы, проверить совместимость обновления и убедиться, что оно сохраняет ожидаемое поведение. Успешный тест, проведенный ранее, остается полезным, но недавно обнаруженная уязвимость может выявить условия, которые этот тест не рассматривал.
VicOne предлагает три вопроса для руководства при реагировании: где используется затронутое программное обеспечение, включая компьютеры для обучения, среды моделирования и развернутых роботов? Что может изменить уязвимость — будь то модели, результаты тестов, обзор оператора или поведение робота? Как проверить, что защита эффективна? Когда немедленное обновление невозможно, могут потребоваться временные меры, такие как ограничение доступа к затронутой службе, в ожидании проверенного исправления.
VicOne также представляет два продукта: Radeis, который помогает выявлять потенциальные уязвимости zero-day, оценивать безопасность моделей ИИ и систем, а также моделировать влияние этих рисков на поведение робота до его развертывания; и Rthena, который обеспечивает обнаружение угроз и реагирование в рамках утвержденных политик во время эксплуатации.
