Um modelo de IA diz-se alinhado quando o seu comportamento corresponde às intenções de quem o concebe e utiliza. Os testes realizados pelo AI Security Institute (AISI) britânico ao GPT-6 Astra, da OpenAI, mostram que um modelo apresentado como muito alinhado pode prosseguir objetivos não previstos. O assunto ganha um peso particular com os agentes de IA, capazes de agir sozinhos.
- Um modelo alinhado age conforme as intenções de quem o concebe e utiliza.
- Um modelo desalinhado persegue objetivos mal formulados, mesmo sem qualquer malícia.
- Os métodos de alinhamento reduzem os desvios, mas nenhum garante que um modelo esteja alinhado.
- Os agentes de IA executam ações concretas, pelo que as empresas devem limitar os seus acessos e validar as ações sensíveis por um humano.
O que é um modelo desalinhado?
Um modelo está desalinhado quando prossegue algo diferente do que se espera dele, sem que isso implique qualquer malícia. Na maioria das vezes, otimiza com aplicação um objetivo mal formulado ou um indicador imperfeito. O matemático Norbert Wiener descrevia já esta armadilha em 1960, num artigo da revista Science. Aí imaginava uma fábrica de garrafas programada para produzir o máximo possível, que acabaria por arruinar o seu proprietário com um stock invendável. Era necessário, segundo ele, estar « completamente seguro de que o objetivo confiado à máquina é aquele que realmente desejamos, e não apenas uma imitação sedutora ».
Com os grandes modelos de linguagem, o desalinhamento assume várias formas. O contorno do objetivo, ou reward hacking, foi descrito pela OpenAI em março de 2025: um modelo em treino, encarregado de fazer passar testes unitários, tinha modificado a função de verificação para que esta respondesse sempre « verdadeiro », considerando a correção verdadeira demasiado difícil. A complacência ilustrou-se em abril de 2025, quando uma atualização do GPT-4o tornou o ChatGPT tão rápido em agradar que a OpenAI o retirou ao fim de alguns dias. A empresa reconheceu ter dado demasiado peso aos retornos a curto prazo, como os polegares levantados sob as respostas. Por fim, a deceção e o excesso de perímetro designam um modelo que age para além do que lhe era permitido ou que presta um relato inexato do que realizou.
Como se alinha um modelo?
Ao sair do pré-treino, um modelo sabe prolongar um texto, mas ainda não sabe seguir uma instrução. O alinhamento intervém depois, em várias camadas. A aprendizagem por reforço a partir de retornos humanos, ou RLHF, consiste em fazer classificar por anotadores várias respostas do modelo, que é depois treinado para produzir aquelas que eles preferem. A OpenAI implementou-o já em janeiro de 2022 com o InstructGPT. A IA constitucional, apresentada pela Anthropic em dezembro de 2022, substitui uma parte das anotações humanas por uma lista de princípios redigidos em linguagem natural, a partir dos quais o modelo critica e reescreve as suas próprias respostas.
Outros métodos completam este dispositivo. Laboratórios e organismos públicos submetem os modelos a cenários concebidos para os levar ao erro, antes da sua implantação. Outra abordagem consiste em fazer rever por um segundo modelo a cadeia de raciocínio do primeiro, de modo a detetar uma intenção de trapacear. A OpenAI observa, contudo, que penalizar estes « maus pensamentos » não elimina a maioria dos desvios, e ensina sobretudo ao modelo a dissimular as suas intenções.
O desalinhamento não se confunde com a alucinação. Uma alucinação é um erro: o modelo apresenta como verdadeira uma informação falsa. O desalinhamento diz respeito ao objetivo. Aquele que reescreve um teste para o fazer passar não está a alucinar. A geração aumentada pela recuperação (RAG), que fornece fontes fiáveis ao modelo, reduz as alucinações sem alterar o que ele procura realizar.
O que isto muda para as empresas
Enquanto um modelo se limitava a responder, um desalinhamento produzia uma má resposta que o utilizador podia reler. Os agentes, por sua vez, enviam e-mails, atualizam fichas de clientes e executam código. O desalinhamento torna-se então uma ação, por vezes difícil de recuperar.
A OpenAI lançou o GPT-6 Astra no início de setembro, apresentando-o como « o modelo mais inteligente e melhor alinhado do mundo ». Os testes realizados pelo AISI antes da sua saída, publicados a 28 de setembro, matizam esta afirmação. Numa avaliação de cibersegurança simulada, com filtros de segurança desativados, o Astra realizou ataques à cadeia de abastecimento de software contra alvos exteriores à sua missão em 29% dos casos, contra 6,3% para o GPT-5.6 Sol. Criou também identidades falsas para enganar programadores. O instituto britânico convida à prudência, tendo o modelo frequentemente assinalado que se encontrava numa simulação.
A OpenAI também desistiu de lançar o GPT-6.1 Astra, previsto para outubro. Numa declaração transmitida à imprensa, Saachi Jain, responsável pelos sistemas de segurança da empresa, indicou que o modelo « não atingiu completamente o nível esperado em matéria de respeito pelo perímetro e pelas autorizações, nem na forma como presta contas ao utilizador do trabalho realizado ». No lançamento do Astra, a OpenAI destacava a sua própria avaliação, onde o modelo nunca saía do perímetro autorizado. Nenhum método permite hoje garantir que um modelo está alinhado: só se pode testá-lo, cenário a cenário. Daí o interesse, para as empresas, em limitar os direitos de acesso dos agentes e fazer validar as ações sensíveis por um humano, em vez de confiar apenas na etiqueta « alinhado ».
