BotPsy : Ein persönlicher Assistent auf dem Gerät mit einem agentischen Sprachmodell unter einer Milliarde Parameter

BotPsy : Ein persönlicher Assistent auf dem Gerät mit einem agentischen Sprachmodell unter einer Milliarde Parameter
3 Minuten Lesezeit

Tether AI Research stellt BotPsy vor, ein Modell mit 0,8 Milliarden Parametern, das für Funktionsaufrufe und agentische Workflows konzipiert ist, also die Fähigkeit eines Modells, Werkzeuge zur Aufgabenerledigung zu nutzen. Basierend auf Qwen3.5-0.8B ist es für den direkten Betrieb auf dem Gerät des Nutzers gedacht.

Laut dem Unternehmen führen große, cloud-gehostete Modelle zu hohen Betriebskosten, die unvorhersehbar schwanken können. Die Abhängigkeit von solchen Drittanbieter-Modellen birgt auch Risiken, da deren Anbieter den Zugang jederzeit ändern, einschränken oder entziehen können. Tether AI Research ist der Ansicht, dass nicht alle Aufgaben maximale Intelligenz erfordern und dass kleine, spezialisierte Agenten bei bestimmten Aufgaben genauso leistungsfähig sein können – bei deutlich geringeren Kosten.

BotPsy präsentiert sich als ein « persönlicher Assistent », der einfache Aufgaben mithilfe von Werkzeugen in Bereichen wie Websuche, Reisen, Handel und Finanzen, Geräte- und Fahrzeugverwaltung, Dateien, Kalender oder E-Mail erledigen kann. Aufgrund seiner Größe eignet er sich vor allem für Aufgaben mit niedrigem bis mittlerem Schwierigkeitsgrad.

Angekündigte Ergebnisse über dem Durchschnitt seiner Kategorie

Laut den vom Unternehmen veröffentlichten Ergebnissen erzielt BotPsy in mehreren Tests etwa doppelt so hohe Werte wie sein Basismodell. Bei BFCL v4 steigt es von 23,4 auf 44,0, bei ACEBench von 30,1 auf 58,7 und bei τ-bench von 23,2 auf 51,5. Es übertrifft Qwen3.5-2B-Think, ein 2,5-mal größeres Modell, in fünf der sechs getesteten Agenten-Benchmarks. Nur bei Claw-Eval liegt es mit 48,9 zu 46,5 zurück.

Tether AI Research hebt auch die Sicherheit hervor. In automatisierten Tests, die sechs Risikokategorien abdecken, produziert BotPsy in 21 % der Fälle gefährliche Antworten, verglichen mit 36 % für sein Basismodell. Dies ist die niedrigste Rate unter den getesteten Modellen mit 1,2 Milliarden Parametern oder weniger, bei denen LFM2.5-1.2B-Think 35 % und MiniCPM5-1B-Think 47 % erreichen. Beim logischen Denken gibt das Unternehmen an, dass BotPsy etwa dreimal weniger Tokens – die vom Modell verarbeiteten Texteinheiten – benötigt als sein Basismodell, um den Benchmark GPQA Diamond korrekt zu beantworten: 3.690 Tokens gegenüber 11.563.

Ein vierstufiges Trainingsverfahren

BotPsy wird in vier aufeinanderfolgenden Stufen trainiert, beginnend mit überwachtem Lernen anhand von Werkzeugnutzungs-Dialogen, gefolgt von Multi-Teacher-Distillation, bevor zwei Phasen des Reinforcement Learning folgen. Die Distillation besteht hier darin, dass das Schüler-Modell Antworten generiert und dabei Token für Token Rückmeldungen von drei Qwen3.5-4B-Lehrermodellen erhält, die jeweils auf ein Gebiet spezialisiert sind. Die Verstärkungsschritte basieren auf Belohnungen, die durch Regeln und Prüfer berechnet werden, nicht auf menschlichen Bewertungen.

Einschränkungen und Veröffentlichung

Tether AI Research weist darauf hin, dass BotPsy ein kleines Modell bleibt, das Fehler macht, und nicht für automatisierte Entscheidungen mit hohen Risiken oder für Anwendungen im Zusammenhang mit Geld, persönlichen Informationen oder Gesundheit gedacht ist. Das Modell wurde hauptsächlich auf Englisch trainiert und getestet. Seine Leistung fällt bei Hindi auf einen Score von 24,5 bei Multi-IF und bei Russisch auf 57,6 ab. BotPsy soll mit offenen Gewichten unter der Apache-2.0-Lizenz für Forschungs- und Bildungszwecke in drei Genauigkeiten veröffentlicht werden: bf16, Q8 und Q4.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x