Quando um sistema de IA empresarial fornece uma resposta pouco fiável, o diagnóstico habitual aponta para o modelo. No entanto, segundo o artigo fonte, uma falha mais frequente e mais difícil de detetar reside noutro lado: um grande modelo de linguagem (LLM) pode raciocinar corretamente a partir de um contexto mal selecionado.
Os remédios mais comuns são um modelo mais poderoso, um prompt mais longo, mais documentos recuperados ou uma janela de contexto mais ampla, ou seja, a quantidade de informações que um modelo pode processar de uma vez. Cada um pode ajudar, mas nenhum resolve diretamente este problema. Nos sistemas analíticos, o cálculo pode estar correto e a explicação ser coerente, e a resposta continuar a ser falsa: o sistema escolheu as provas erradas, seguiu uma ligação incorreta entre tabelas ou deu a um termo empresarial ambíguo uma definição que o utilizador não tinha em mente. O erro ocorre antes de qualquer cálculo.
Tomemos uma pergunta simples: quantas horas trabalha o Cam em média por dia? A palavra « dia » não está definida. Pode designar cada dia civil do período, um ano de trabalho padronizado, cada registo de horário ou cada data em que o Cam efetivamente trabalhou. Dividir o total de horas pelos dias civis dá uma média mais baixa do que dividi-lo pelos dias realmente trabalhados sempre que o Cam tem dias de descanso. Um controlo clássico, que verifica se os totais coincidem, não deteta necessariamente esta má escolha de denominador.
Uma pergunta empresarial, um programa de análise
A pergunta « Qual marca melhorou a confiança este trimestre? » parece uma simples pesquisa. Responder-lhe pressupõe, no entanto, decidir vários pontos: qual pergunta do questionário mede a confiança, quais ondas de inquérito formam « este trimestre », qual é o perímetro dos inquiridos, se os resultados são ponderados e o que conta como uma melhoria.
O artigo apresenta um caso ilustrativo. Duas tabelas cruzadas parecem corresponder ao pedido, com uma descrição que só difere em poucas palavras. A primeira, ponderada, diz respeito ao conjunto dos inquiridos e mostra uma ligeira subida. A segunda, não ponderada, diz respeito apenas aos inquiridos que conhecem a marca e mostra uma ligeira descida. Uma ferramenta de pesquisa baseada na similaridade classificá-las-ia quase em pé de igualdade. Um sistema que retenha o primeiro resultado fornece uma resposta fundamentada e argumentada, que pode ser falsa, sem que a escolha efetuada apareça no resultado final. Um sistema baseado num percurso, por sua vez, deteta a diferença de população e de ponderação e pergunta ao utilizador qual o perímetro a reter. O custo desta pergunta de clarificação é, segundo o autor, muito inferior ao de um número falso que se assemelha ao correto.
Benchmarks que medem sistemas
Os trabalhos de investigação vão no mesmo sentido. O Spider 2.0, um benchmark empresarial de text-to-SQL composto por 632 problemas provenientes de fluxos de trabalho reais, foi publicado no final de 2024. O seu sistema mais performante, um agente construído sobre o o1-preview, resolveu cerca de 17% das tarefas, contra cerca de 91% para os melhores sistemas no benchmark original Spider. A classificação evoluiu desde então: a sua pista Snow exibe uma pontuação de 96,7%, submetida por um editor, proveniente de um sistema de agente. As pontuações são enviadas pelas próprias equipas, e o artigo nota que os melhores resultados assentam em sistemas concebidos em torno do modelo, e não em modelos isolados.
Alargar o contexto também não basta. Um estudo da Chroma, intitulado « Context Rot », conclui que os modelos se tornam menos fiáveis à medida que o comprimento da entrada aumenta, mesmo em tarefas simples, e que distratores de aparência semelhante agravam o problema.
Um percurso em vez de uma pilha
Perante a incerteza, o reflexo consiste em fornecer mais informações ao modelo. Ora, isso pode multiplicar as interpretações concorrentes. A abordagem descrita consiste em organizar o contexto de forma sequencial: primeiro a intenção do estudo, depois a estrutura do questionário, as perguntas e as suas definições, os segmentos, os mercados, as ondas e as regras de ponderação, e finalmente a tabela cruzada que contém a prova. Cada camada herda as restrições da que a precede.
A Anthropic apresenta a engenharia do contexto como a continuação natural da engenharia do prompt, definindo-a como a gestão de todo o contexto de um agente, considerado um recurso finito. O artigo considera este enquadramento pertinente, mas coloca-o uma etapa a montante: trata-se de saber o que significa a pergunta e que provas lhe podem responder. Para o caso da confiança na marca, o procedimento segue cinco etapas: resolver a intenção, aplicar as regras do estudo, identificar as fontes, validar o percurso, depois calcular com uma ferramenta autorizada e apresentar o resultado com a sua definição, a sua base de inquiridos, a sua ponderação e a sua fonte.
O autor insiste finalmente na rastreabilidade. Cada resultado deve poder ser ligado à sua tabela fonte, à sua definição, aos seus filtros, à sua ponderação, ao seu período e ao cálculo utilizado.
