A VicOne anunciou ter identificado 28 falhas zero-day em menos de dois dias, graças a uma investigação assistida por IA, em softwares e ferramentas que suportam o ecossistema da IA física. Entre os projetos afetados estão projetos desenvolvidos ou mantidos pela Google, NVIDIA e Meta. Este artigo é um conteúdo patrocinado realizado com a VicOne.
Uma falha zero-day é uma vulnerabilidade até então desconhecida e para a qual não existe nenhum patch disponível. De acordo com uma primeira validação, as 28 descobertas estão todas classificadas nesta categoria. Esta contagem pode evoluir após análise pelos editores e pelas autoridades responsáveis pelas vulnerabilidades, e algumas descobertas ainda não têm um número de rastreamento CVE, o identificador padrão atribuído a uma falha.
Muitas destas ferramentas ajudam as equipas a treinar, simular, testar e pilotar robôs. Uma fraqueza numa delas poderia, portanto, influenciar os modelos que as equipas concebem, os resultados dos testes em que confiam e as instruções enviadas aos robôs.
Falhas descobertas mais rapidamente
A descoberta de falhas consiste em examinar código, seguir a forma como os sistemas comunicam e verificar se uma fraqueza suspeita pode realmente ser explorada. Segundo a VicOne, a IA pode acelerar parte deste trabalho e permitir que os investigadores analisem mais software em menos tempo. No entanto, atacantes poderiam dispor de capacidades semelhantes.
Quando uma falha é do tipo zero-day, uma descoberta mais rápida pode deixar pouco tempo para reagir. Esta exposição não significa necessariamente que um ataque ocorreu, mas as equipas devem determinar se utilizam o software em questão e o que um atacante poderia consultar ou modificar.
Riscos em cada etapa do ciclo de vida
As descobertas da VicOne dizem respeito a três etapas do ciclo de vida de um robô: o desenvolvimento e o treino, a simulação e a validação, e depois a implementação e a execução. Segundo a empresa, 75% das descobertas dizem respeito a ferramentas de desenvolvimento, treino, simulação ou validação, o que significa que riscos podem surgir antes mesmo de o robô ser implementado.
No momento do treino, um modelo pré-treinado, ou seja, já aprendido com grandes quantidades de dados, pode ser modificado sem o conhecimento da equipa. Poderia então comportar-se normalmente durante os testes habituais, mas reagir de forma incorreta a um objeto, cena ou comando específico após a sua implementação. Durante a simulação, uma cena ou um modelo de robô comprometido poderia alterar os dados dos sensores simulados ou os resultados dos testes, o que levaria a aprovar um robô com base em provas enganosas.
Durante a execução, um atacante poderia modificar ficheiros que influenciam o planeamento de movimento, ou enviar dados cartográficos maliciosos capazes de fazer crashar o ecrã de supervisão do operador. Segundo a VicOne, o comprometimento de um computador de teleoperação também poderia colocar em perigo as instruções enviadas ao robô. A VicOne esclarece que se trata de consequências potenciais e não de resultados demonstrados para cada descoberta.
Numa demonstração separada, investigadores da VicOne exploraram uma vulnerabilidade para impedir o funcionamento do comando de paragem remota de um robô. Segundo a empresa, este caso mostra que as equipas devem verificar se os seus dispositivos de segurança permanecem eficazes quando o software que os faz funcionar está comprometido.
Verificar um patch antes de o implementar
Mesmo quando um editor publica um patch, uma equipa deve identificar os sistemas afetados, verificar a compatibilidade da atualização e garantir que esta preserva o comportamento esperado. Um teste bem-sucedido anteriormente continua útil, mas uma falha recentemente descoberta pode revelar condições que esse teste não tinha examinado.
A VicOne propõe três perguntas para orientar a resposta: onde é utilizado o software em questão, incluindo nos computadores de treino, nos ambientes de simulação e nos robôs implementados? O que poderia a falha modificar, sejam os modelos, os resultados dos testes, a visibilidade dos operadores ou o comportamento do robô? Como verificar que a proteção é eficaz? Quando uma atualização imediata é impossível, medidas provisórias, como a restrição do acesso a um serviço afetado, podem ser necessárias enquanto se aguarda por um patch validado.
A VicOne apresenta ainda dois produtos: o Radeis, que ajuda a identificar potenciais falhas zero-day, a avaliar a segurança dos modelos de IA e sistemas, e a simular o efeito destes riscos no comportamento de um robô antes da sua implementação, e o Rthena, que garante a deteção de ameaças e as respostas no âmbito de políticas aprovadas durante a operação.
