Google erweitert sein Portfolio an KI-Beschleunigern mit den TPU 8tx und TPU 8i Max, die am 9. November 2026 vorgestellt wurden. Diese beiden Konfigurationen ergänzen die achte Generation der Tensor Processing Units (TPU), der vom Konzern für KI-Berechnungen entwickelten Chips, und adressieren zwei unterschiedliche Herausforderungen: die Absicherung der Verarbeitung sensibler Daten und die Bewältigung von Workloads mit hohem Speicherbedarf.
Mit dieser Ankündigung erhöht sich die Zahl der von Google 2026 vorgestellten TPU-Systeme der achten Generation auf vier. Im April hatte der Konzern die TPU 8t für das Training großer Modelle und die TPU 8i für Inferenz und Reasoning mit niedriger Latenz präsentiert, also für die Erzeugung von Antworten mit minimaler Verzögerung.
Zwei TPUs für Vertraulichkeit und großskalige Verarbeitung
Die TPU 8tx richtet sich an Unternehmen und Behörden, die KI-Modelle und autonome Agenten auf sensiblen Daten ausführen möchten. Google hebt insbesondere Branchen hervor, die regulatorischen Anforderungen unterliegen und für die die Vertraulichkeit von Informationen während der Verarbeitung entscheidend ist. Hardwaretechnisch übernimmt das System das Silizium der TPU 8t und integriert Host-Prozessoren der fünften Generation von AMD EPYC. Es verfügt zudem über hardwarebasierte Sicherheitsmechanismen, die Daten und Modellgewichte – also die Parameter, die ihr Funktionieren definieren – während der Nutzung im Speicher schützen, und nicht nur bei der Speicherung oder Übertragung über das Netzwerk.
Google kombiniert die TPU 8tx mit seinem Boardfly-Netzwerk, das für Kommunikation mit niedriger Latenz ausgelegt ist. Laut Anbieter kann diese Architektur die Latenz im Vergleich zur TPU 8t um bis zu das Zweifache reduzieren, ohne die Leistung signifikant zu beeinträchtigen. Die Konfiguration soll es Unternehmen ermöglichen, mehrere Operationen auf derselben Infrastruktur durchzuführen, darunter Training, Fine-Tuning auf privaten Daten – also die Anpassung eines Modells an einen spezifischen Datensatz – Modell-Distillation und Reinforcement Learning von KI-Agenten.
Die TPU 8i Max hingegen adressiert Anwendungen, die erhebliche Speicherressourcen beanspruchen. Google nennt insbesondere Agenten, die große Codebasen, lange Videosequenzen oder Kontexte mit über einer Million Tokens analysieren können, wobei Tokens die Texteinheiten sind, die Modelle verarbeiten. Um die verfügbaren Ressourcen zu erhöhen, hat der Hersteller zwei TPU-8i-Chips in einem gemeinsamen Package zusammengefasst. Im Vergleich zur TPU 8i verdoppelt diese Konfiguration die Rechenkapazität, den SRAM-Speicher und die Bandbreite des HBM-Speichers. Google gibt zudem an, dass sie doppelt so viel Silizium auf demselben Rack-Footprint unterbringt, also im Platz, den ein Server-Rack einnimmt.
Google will sein TPU-Ökosystem weiter öffnen
Parallel zu diesen Hardware-Ankündigungen treibt Google die Öffnung seiner Software-Umgebung voran. Der Konzern gibt an, dass TorchTPU, als Open-Source veröffentlicht, die Ausführung von PyTorch-Code und Hugging-Face-Modellen auf seinen Beschleunigern ermöglicht. Integrationen werden auch für die Inferenz-Engines vLLM und SGLang angeboten. Eine TPU-Agenten-Suite ist zudem als Vorschauversion verfügbar. Sie soll bestimmte Integrations-, Diagnose- und Optimierungsvorgänge für die Kernel automatisieren, also die kleinen Programme, die die Berechnungen auf den Chips ausführen. Google kündigt an, dass diese Suite mit mehreren Entwicklungswerkzeugen kompatibel ist, darunter Claude Code, Cursor und Google Antigravity.
Der Anbieter stellt auch TPU Sync vor, eine Software-Schicht zur Vereinheitlichung der Verwaltung von HBM-Speicher, Host-DRAM-Speicher und gemeinsamem Speicher. Sie soll insbesondere den Transfer der KV-Caches erleichtern, die von generativen Modellen zur Beschleunigung der Texterzeugung genutzt werden. Google behauptet, dass diese Technologie bestimmte mit diesen Transfers und der Generierungszeit des ersten Tokens verbundene Latenzen um über 90 % reduzieren kann.
Schließlich ist Cloud Pathways nun allgemein auf Google Kubernetes Engine (GKE) verfügbar. Die Lösung ermöglicht die Orchestrierung verteilter Workloads über mehrere TPU-Cluster hinweg von einem einzigen Controller aus.
