BotPsy : een persoonlijke assistent op het apparaat met een agentisch taalmodel van minder dan een miljard parameters

BotPsy : een persoonlijke assistent op het apparaat met een agentisch taalmodel van minder dan een miljard parameters
2 min lezen

Tether AI Research stelt BotPsy voor, een model van 0,8B parameters ontworpen voor functieaanroepen en agentische workflows, dat wil zeggen de mogelijkheid van een model om tools te gebruiken om een taak uit te voeren. Gebouwd op basis van Qwen3.5-0.8B, is het bedoeld om direct op het apparaat van de gebruiker te draaien.

  • BotPsy is een model van 0,8 miljard parameters dat tools gebruikt en direct op het apparaat draait.
  • Het scoort ongeveer twei keer beter dan zijn basismodel en overtreft Qwen3.5-2B-Think op vijf van zes agent-benchmarks.
  • Het geeft minder gevaarlijke antwoorden, 21% tegenover 36% voor het basismodel, maar blijft fouten maken.
  • Het is vooral getraind in het Engels, wordt uitgebracht met open gewichten onder Apache 2.0 en is niet bedoeld voor gevoelige toepassingen.

Volgens het bedrijf brengen grote, in de cloud gehoste modellen hoge operationele kosten met zich mee, die onvoorspelbaar kunnen variëren. Afhankelijkheid van deze modellen van derden brengt ook risico’s met zich mee, aangezien hun aanbieders de toegang op elk moment kunnen wijzigen, beperken of intrekken. Tether AI Research is van mening dat niet alle taken maximale intelligentie vereisen, en dat kleine, gespecialiseerde agents net zo goed kunnen presteren op specifieke taken, tegen aanzienlijk lagere kosten.

BotPsy presenteert zichzelf als een ‘persoonlijke assistent’ die eenvoudige taken kan uitvoeren met behulp van tools, op gebieden zoals webonderzoek, reizen, handel en financiën, apparaat- en voertuigbeheer, bestanden, agenda of e-mail. Vanwege zijn omvang is het vooral geschikt voor taken met een lage tot gemiddelde moeilijkheidsgraad.

Gepubliceerde resultaten beter dan zijn categorie

Volgens de door het bedrijf gepubliceerde resultaten behaalt BotPsy scores die ongeveer twee keer zo hoog zijn als die van zijn basismodel op verschillende tests. Op BFCL v4 gaat het van 23,4 naar 44,0, op ACEBench van 30,1 naar 58,7, en op τ-bench van 23,2 naar 51,5. Het presteert beter dan Qwen3.5-2B-Think, een model dat 2,5 keer groter is, op vijf van de zes geteste agent-benchmarks. Alleen op Claw-Eval doet het iets minder, met 48,9 tegen 46,5.

Tether AI Research benadrukt ook de veiligheid. Tijdens geautomatiseerde tests die zes risicocategorieën omvatten, produceert BotPsy in 21% van de gevallen gevaarlijke antwoorden, tegenover 36% voor zijn basismodel. Dit is het laagste percentage onder de geteste modellen van 1,2B parameters of minder, waarbij LFM2.5-1.2B-Think 35% haalt en MiniCPM5-1B-Think 47%. Op het gebied van redeneren geeft het bedrijf aan dat BotPsy ongeveer drie keer minder tokens gebruikt, de tekstverwerkingseenheden van het model, om correct te antwoorden op de GPQA Diamond-benchmark, met 3.690 tokens tegenover 11.563.

Een vierstaps trainingsmethode

BotPsy wordt getraind in vier opeenvolgende stappen, te beginnen met supervised learning op toolgebruiksgesprekken, gevolgd door multi-teacher distillatie, voorafgaand aan twee reeksen reinforcement learning. De distillatie bestaat hier uit het laten antwoorden van het studentmodel terwijl het, token voor token, feedback ontvangt van drie Qwen3.5-4B teachermodellen, elk gespecialiseerd in een domein. De reinforcement-stappen zijn gebaseerd op beloningen berekend door regels en verifiers, en niet op menselijke beoordelingen.

Beperkingen en publicatie

Tether AI Research preciseert dat BotPsy een klein model blijft dat fouten maakt, en dat het niet bedoeld is voor geautomatiseerde beslissingen met hoge inzet, noch voor toepassingen met betrekking tot geld, persoonlijke informatie of gezondheid. Het model is voornamelijk getraind en getest in het Engels. De prestaties dalen in het Hindi, met een score van 24,5 op Multi-IF, en in het Russisch, met 57,6. BotPsy zal worden gepubliceerd met open gewichten onder de Apache 2.0-licentie, voor onderzoek en educatief gebruik, in drie precisies: bf16, Q8 en Q4.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x