Harness² melhora o desempenho dos agentes de IA sem alterar o modelo

Harness² melhora o desempenho dos agentes de IA sem alterar o modelo
3 min de leitura

A Google Research apresenta o Harness², um método que visa melhorar um agente de IA sem tocar no seu modelo, ajustando o dispositivo que o envolve. Este dispositivo, chamado «harnais» (harness), agrupa as instruções, as ferramentas, a memória e o ciclo de controlo que enquadram o modelo. A abordagem visa adaptar este harnais no momento da execução, inclusive para tarefas que os seus criadores não tinham previsto.

  • A Google Research propõe o Harness², que melhora agentes de IA ajustando o harnais, sem alterar o modelo.
  • Reescrever automaticamente as instruções pode degradar resultados, pois consome tokens.
  • Cada modificação só é mantida se corrigir uma falha concreta e observável.
  • Os ganhos chegam a 11,5 pontos, mas a demonstração do autor permanece incompleta.

O ponto de partida é simples: nenhum harnais é o melhor em todo o lado. De acordo com os elementos apresentados, o Claude Code obtém melhores resultados em código e folhas de cálculo, enquanto o Codex lidera nas tarefas web. Um harnais fixo deixa, portanto, desempenhos de lado.

Porque é que a reescrita automática das instruções falha

Deixar um agente reescrever o seu próprio prompt de sistema, ou seja, as instruções iniciais que lhe são dadas, parece promissor. Na prática, isso pode degradar os resultados. Estas instruções são relidas ao longo da tarefa, e quanto mais se alongam, mais consomem tokens, as unidades de texto que o modelo processa. Quando este orçamento se esgota, o agente pode falhar antes de terminar.

O Harness² não atua, portanto, no texto das instruções. Modifica oito componentes agrupados em quatro famílias: o contexto, a interface das ferramentas, a delegação a subagentes e os «middlewares», extensões que intervêm no ciclo de utilização das ferramentas. Uma regra inscrita num prompt permanece um conselho, enquanto uma regra colocada no ciclo de controlo é aplicada. Dois exemplos ilustram esta diferença: um mecanismo de monitorização que força o agente a redigir antes de esgotar o seu orçamento, e um script que bloqueia o fim de uma tarefa enquanto uma folha de cálculo contiver fórmulas em falta.

Propor, testar, compor

O processo decorre em três etapas. O agente executa a tarefa uma vez, depois dois editores analisam o registo de execução: um examina os mecanismos do fluxo de trabalho, o outro propõe regras de negócio. O harnais modificado é depois relançado na mesma tarefa, e as duas tentativas são comparadas. Uma modificação só é mantida se corrigir uma falha concreta e observável. De acordo com os trabalhos, esta etapa de teste é determinante: sem ela, o desempenho teria caído cerca de 10%.

Resultados anunciados e limites

Os testes incidem sobre três bancos de benchmarks profissionais, em quatro configurações de modelo e harnais, com o GLM-5 e o Gemini 3.5 Flash. Os ganhos reportados vão até 11,5 pontos no WorkBuddy-Bench, 4,5 pontos no JobBench e 11,8 pontos percentuais no LAB, em taxa de sucesso parcial. Um harnais otimizado com um modelo poderoso também melhorou os resultados de um modelo mais pequeno, em 17 pontos. Inversamente, o ReasoningBank, uma base de memória de referência, obteve 6,6 pontos a menos do que o harnais de base nas tarefas de programação.

O autor do artigo fonte instalou o projeto, que funciona em Linux com Python 3.12, e lançou a sua demonstração, que terminou sem falhas em duas tarefas contabilísticas. Salienta, no entanto, que a demonstração não é o método: a maioria dos componentes permanece vazia ou no estado de simples espaços reservados, e a parte descrita pelo artigo só aparece uma vez ligado um modelo.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x