BotPsy : um assistente pessoal no dispositivo com um modelo de linguagem agentico de menos de mil milhões de parâmetros

BotPsy : um assistente pessoal no dispositivo com um modelo de linguagem agentico de menos de mil milhões de parâmetros
3 min de leitura

A Tether AI Research apresenta o BotPsy, um modelo de 0,8 mil milhões de parâmetros concebido para a chamada de funções e fluxos de trabalho agenticos, ou seja, a capacidade de um modelo utilizar ferramentas para realizar uma tarefa. Construído a partir do Qwen3.5-0.8B, destina-se a funcionar diretamente no dispositivo do utilizador.

  • O BotPsy é um modelo de 0,8 mil milhões de parâmetros que usa ferramentas e funciona diretamente no dispositivo.
  • Segundo a empresa, duplica o desempenho do modelo base em vários testes e reduz as respostas perigosas para 21%.
  • Não se destina a decisões de alto risco nem a aplicações ligadas a dinheiro, dados pessoais ou saúde.
  • Foi treinado sobretudo em inglês, tem menos desempenho em hindi e russo, e será publicado com pesos abertos.

Segundo a empresa, os grandes modelos alojados na cloud acarretam custos operacionais elevados, que podem variar de forma imprevisível. Depender destes modelos de terceiros também expõe a riscos, uma vez que os seus fornecedores podem alterar, restringir ou retirar o acesso a qualquer momento. A Tether AI Research considera que nem todas as tarefas exigem um nível máximo de inteligência, e que pequenos agentes especializados podem ser tão eficazes em tarefas específicas, por um custo significativamente inferior.

O BotPsy apresenta-se como um «assistente pessoal» capaz de realizar tarefas simples através de ferramentas, em domínios como a pesquisa na web, viagens, comércio e finanças, gestão do dispositivo e do veículo, ficheiros, calendário ou correio eletrónico. Devido ao seu tamanho, é mais adequado para tarefas de dificuldade baixa a média.

Resultados anunciados superiores à sua categoria

De acordo com os resultados publicados pela empresa, o BotPsy obtém pontuações aproximadamente duas vezes superiores às do seu modelo base em vários testes. No BFCL v4, passa de 23,4 para 44,0, no ACEBench de 30,1 para 58,7, e no τ-bench de 23,2 para 51,5. Supera o Qwen3.5-2B-Think, um modelo 2,5 vezes maior, em cinco dos seis benchmarks de agentes testados. Apenas no Claw-Eval fica atrás, com 48,9 contra 46,5.

A Tether AI Research também destaca a segurança. Em testes automatizados que abrangem seis categorias de risco, o BotPsy produz respostas perigosas em 21% dos casos, contra 36% do seu modelo base. Trata-se da taxa mais baixa entre os modelos de 1,2 mil milhões de parâmetros ou menos testados, onde o LFM2.5-1.2B-Think atinge 35% e o MiniCPM5-1B-Think 47%. No raciocínio, a empresa indica que o BotPsy utiliza aproximadamente três vezes menos tokens, as unidades de texto processadas pelo modelo, do que o seu modelo base para responder corretamente ao benchmark GPQA Diamond, com 3.690 tokens contra 11.563.

Um método de treino em quatro etapas

O BotPsy é treinado em quatro etapas sucessivas, a partir de uma aprendizagem supervisionada em conversas de utilização de ferramentas, seguida de uma destilação multi-professores, antes de duas séries de aprendizagem por reforço. A destilação consiste aqui em fazer o modelo aluno responder enquanto recebe, token a token, o feedback de três modelos professores Qwen3.5-4B, cada um especializado numa área. As etapas de reforço baseiam-se em recompensas calculadas por regras e verificadores, e não em juízos humanos.

Limitações e publicação

A Tether AI Research esclarece que o BotPsy continua a ser um modelo pequeno que comete erros, e que não se destina a decisões automatizadas de alto risco, nem a aplicações relacionadas com dinheiro, informações pessoais ou saúde. O modelo foi principalmente treinado e testado em inglês. O seu desempenho cai em hindi, com uma pontuação de 24,5 no Multi-IF, e em russo, com 57,6. O BotPsy será publicado com pesos abertos sob licença Apache 2.0, para uso em investigação e educação, em três precisões: bf16, Q8 e Q4.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x