Alex Stamos, diretor de segurança (CISO) da empresa Cognition e professor na Universidade de Stanford, considera que a cibersegurança está a atravessar um período particularmente confuso, com a inteligência artificial a amplificar ondas de intrusões e ataques. Numa entrevista ao podcast *Decoder* de The Verge, afirma que a indústria da segurança, tal como a conhecemos, está « essencialmente atrasada » face a estas ofensivas, e que está a entrar no que ele chama uma « idade das trevas ».
Para ilustrar este cenário, Alex Stamos cita vários incidentes recentes. Segundo ele, a empresa Fireworks, fornecedora de serviços de IA para várias empresas, foi pirateada, e chaves de API (as credenciais que permitem aos softwares comunicarem entre si) terão sido roubadas. Estas chaves teriam permitido entrar na Cursor, onde um plugin malicioso terá sido distribuído para cerca de 5 000 empresas, o que terá provocado 5 000 brechas potenciais. Ele qualifica ainda o ataque à Binance como « o maior roubo da história da humanidade ».
Descreve também a forma como estes ataques são conduzidos. Fala de « kill chain », ou cadeia de ataque, ou seja, o conjunto de etapas necessárias para atingir um alvo. Tradicionalmente, os atacantes preparavam previamente as falhas e os programas de exploração, antes de um humano os implementar. Com a IA, e nomeadamente os modelos de pesos abertos (cujo funcionamento é acessível a todos), esta cadeia poderá ser automatizada: segundo ele, um sistema pode detetar as falhas e escrever os exploits em tempo real. Cita uma ferramenta de código aberto chinesa disponível no GitHub, que, associada a um modelo chamado « obliterated GLM-5.3 », terá permitido infiltrar-se em três bancos sul-coreanos e, depois, segundo ele, em cerca de 200 empresas adicionais.
Um mundo que se assemelha aos anos 1990
Alex Stamos compara a situação ao final dos anos 1990, quando o Windows era, nas suas palavras, « um desastre em termos de segurança ». A diferença, esclarece, é que o mundo inteiro funciona hoje na Internet, e que os ataques podem agora ser automatizados em grande escala. Evoca também os atores envolvidos: segundo ele, os ataques contra as empresas de IA são conduzidos pelo que se chama a « Chinese cottage access industry », pequenos subcontratados chineses que revendem os seus acessos a empresas maiores, enquanto o roubo de bitcoins na Binance seria sobretudo da responsabilidade da Coreia do Norte, com, segundo ele, uma engenharia social muito elaborada.
Custos de defesa demasiado elevados
O desequilíbrio económico ocupa um lugar central no seu raciocínio. Alega que o custo por token para os atacantes tende para zero, enquanto o custo da defesa permanece elevado. Cita um colega que trabalha numa grande plataforma de segurança, segundo o qual uma única investigação conduzida com um modelo cibernético de ponta custa 900 dólares. Para responder a este problema, a Cognition treina os seus próprios modelos, ou retreina modelos de pesos abertos, de forma a reduzir estes custos.
Alex Stamos evoca também uma solução mais radical: a reescrita do núcleo do Linux em Rust, uma linguagem mais segura em termos de memória. Considera que um tal projeto, conduzido pela Google ou pela Amazon, custaria 100 milhões de dólares, um montante que considera modesto face aos custos sociais das correções sucessivas. Acrescenta que o número de correções publicadas todos os meses não para de aumentar: segundo ele, a edição mais recente do Patch Tuesday continha « 900 e tal » correções.
Questionado sobre a verificação de conteúdos, considera que é mais fiável provar a autenticidade de uma imagem do que detetar conteúdos gerados por IA. Recorda que a Adobe já oferece uma verificação criptográfica para fotógrafos profissionais, e que os iPhone integram agora uma função semelhante.
