Google apresenta dois novos sistemas TPU para inferência e processamento de contexto longo

Google apresenta dois novos sistemas TPU para inferência e processamento de contexto longo
4 min de leitura
,

A Google está a expandir a sua gama de aceleradores dedicados à IA com os TPU 8tx e TPU 8i Max, apresentados a 9 de novembro de 2026. Estas duas configurações completam a oitava geração de Tensor Processing Units (TPU), os chips concebidos pelo grupo para cálculos de inteligência artificial, e respondem a dois desafios distintos: a segurança dos processamentos em dados sensíveis e a gestão de cargas de trabalho que exigem muita memória.

Este anúncio eleva para quatro o número de sistemas TPU de oitava geração apresentados pela Google em 2026. Em abril, o grupo tinha apresentado os TPU 8t, destinados ao treino de grandes modelos, e os TPU 8i, otimizados para inferência e raciocínio de baixa latência, ou seja, para a produção de respostas com um tempo de espera reduzido.

Dois TPU para confidencialidade e processamento em grande escala

O TPU 8tx dirige-se a empresas e administrações que pretendem executar modelos de IA e agentes autónomos em dados sensíveis. A Google destaca, nomeadamente, os setores sujeitos a exigências regulamentares, para os quais a confidencialidade das informações durante o seu processamento constitui um desafio maior. A nível de hardware, o sistema retoma o silício do TPU 8t e integra processadores hospedeiros AMD EPYC de quinta geração. Incorpora também mecanismos de segurança de hardware destinados a proteger os dados e os pesos dos modelos, ou seja, os parâmetros que definem o seu funcionamento, durante a sua utilização em memória, e não apenas quando estão armazenados ou transmitidos pela rede.

A Google associa o TPU 8tx à sua rede Boardfly, concebida para comunicações de baixa latência. Segundo o fornecedor, esta arquitetura permite dividir até duas vezes a latência em comparação com o TPU 8t, sem degradação significativa do desempenho. A configuração deve permitir às empresas realizar várias operações na mesma infraestrutura, nomeadamente o treino, o fine-tuning em dados privados, ou seja, a adaptação de um modelo a um conjunto de dados específico, a destilação de modelos e a aprendizagem por reforço de agentes de IA.

O TPU 8i Max responde, por sua vez, às aplicações que mobilizam recursos de memória importantes. A Google cita, nomeadamente, agentes capazes de analisar grandes bases de código, sequências de vídeo longas ou contextos que ultrapassam o milhão de tokens, sendo os tokens as unidades de texto manipuladas pelos modelos. Para aumentar os recursos disponíveis, o fabricante agrupou dois chips TPU 8i no mesmo pacote. Em comparação com o TPU 8i, esta configuração duplica as capacidades de cálculo, a memória SRAM e a largura de banda da memória HBM. A Google indica também que permite integrar o dobro do silício na mesma pegada de rack, ou seja, no espaço ocupado por uma baia de servidores.

Google quer abrir mais o seu ecossistema TPU

Em paralelo com estes anúncios de hardware, a Google prossegue a abertura do seu ambiente de software. O grupo indica que o TorchTPU, publicado em open source, permite executar código PyTorch e modelos Hugging Face nos seus aceleradores. São também propostas integrações para os motores de inferência vLLM e SGLang. Uma suite de agentes TPU está, além disso, disponível em pré-visualização. Destina-se a automatizar certas operações de integração, diagnóstico e otimização dos kernels, esses pequenos programas que executam os cálculos nos chips. A Google anuncia que esta suite é compatível com várias ferramentas de desenvolvimento, incluindo Claude Code, Cursor e Google Antigravity.

O fornecedor apresenta também o TPU Sync, uma camada de software destinada a unificar a gestão da memória HBM, da memória DRAM dos hospedeiros e do armazenamento partilhado. Deve, nomeadamente, facilitar a transferência das caches KV, utilizadas pelos modelos generativos para acelerar a produção de texto. A Google afirma que esta tecnologia pode reduzir em mais de 90% certas latências associadas a estas transferências e ao tempo de geração do primeiro token.

Por fim, o Cloud Pathways está agora disponível de forma geral no Google Kubernetes Engine (GKE). A solução permite orquestrar cargas de trabalho distribuídas por vários conjuntos de TPU a partir de um único controlador.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x