As ciberataques relacionadas com inteligência artificial estão a multiplicar-se. Os piratas roubam chaves de acesso a serviços de IA para as revender ou explorar e utilizam agentes de IA para acelerar as suas intrusões.
- Os ciberataques ligados à IA multiplicam-se e visam plataformas para programadores.
- Os piratas roubam chaves de acesso a serviços de IA para as revender ou explorar.
- A Chainstack e a WorkOS sofreram ataques associados à ferramenta Artex.
- Uma única intrusão numa plataforma pode expor as chaves de muitas contas.
No espaço de um mês, pelo menos uma dúzia de plataformas destinadas a desenvolvedores de IA foram visadas. Os incidentes mais recentes envolvem a CommandCode, Northflank, Trigger.dev, Chainstack e WorkOS. Entre as outras empresas mencionadas estão Andromeda, Brev (NVIDIA), Fireworks AI, Lightning AI, OpenCode, Railway, Warp e Zeabur, cujos atacantes procuravam principalmente segredos armazenados em nome dos seus clientes.
Em todos estes casos, os piratas parecem procurar tokens de acesso à IA, ou seja, credenciais que permitem utilizar modelos de linguagem, que podem depois monetizar. Os ataques não parecem estar interligados, embora sigam uma tendência comum. O ponto de entrada varia: credenciais comprometidas, dependências de prestadores de serviços terceiros ou exploração de vulnerabilidades.
Credenciais cobiçadas
A Cloud Security Alliance alerta para a própria natureza destas plataformas. «Os intrusos acedem às credenciais dos fornecedores de IA através da camada intermédia das plataformas de alojamento, dos serviços de avaliação e das consolas para desenvolvedores», escreve a organização. Como esta camada detém credenciais em nome de muitos clientes, «uma única intrusão pode expor simultaneamente as chaves de muitas contas de inferência».
Segundo a análise da Wiz, esta procura de credenciais explica-se pela ascensão do LLM-jacking, ou seja, o desvio de acesso a modelos de linguagem, e pelo desenvolvimento de infraestruturas de intermediários que dão acesso a esses modelos. Estes mecanismos tornam os tokens roubados fáceis de monetizar, o que deverá, segundo a empresa de cibersegurança, atrair mais atores maliciosos para o roubo de credenciais. A Wiz observa também que esta procura é alimentada pela distillation, que consiste em treinar um modelo mais barato a partir das respostas de um modelo mais avançado, uma prática que a empresa associa a laboratórios de IA chineses, sem que isso esteja confirmado.
A Wiz indica ter observado piratas a explorar credenciais empresariais comprometidas durante estes ataques. Dois casos partilharam «uma primeira atividade não autorizada idêntica, ocorrida nos 30 minutos seguintes ao acesso às credenciais reportado na violação do fornecedor». A empresa também constatou que vários atores maliciosos utilizavam as mesmas chaves comprometidas, o que, segundo ela, «sugere um mercado robusto para este tipo de credencial».
Artex, uma ferramenta de automação
Esta semana, a Chainstack, fornecedora de infraestruturas blockchain e serviços Web3, e a WorkOS, plataforma de interfaces de programação para aplicações empresariais, anunciaram ciberataques baseadas no Artex, uma estrutura open source de teste de intrusão assistida por IA. Várias empresas também associaram ao Artex ataques atribuídos ao APT chinês Storm-0940, incluindo uma campanha que visou clientes da ConnectWise.
A Chainstack foi atingida a 26 de outubro. Os atacantes acederam a um ambiente de desenvolvimento e a parte do ambiente de produção da empresa através de um componente de terceiros. Segundo a empresa, a base de dados consultada continha informações sobre as contas dos clientes, incluindo nomes de organizações, nomes dos titulares das contas, endereços de correio eletrónico e impressões digitais de palavras-passe. As credenciais dos nós também podem ter sido expostas, e a Chainstack pediu aos seus clientes que as renovassem.
A 30 de outubro, a WorkOS indica que os piratas comprometeram uma aplicação interna utilizada pela sua equipa comercial. Acederam a dados de contacto profissionais e a resumos de comunicações com clientes, bem como a informações sobre a utilização dos produtos WorkOS.
