Google anuncia novos chips TPU para impulsionar agentes de inteligência artificial

O Google revelou nesta segunda-feira (9) o TPU 8i Max e o TPU 8tx, dois novos aceleradores de inteligência artificial voltados para otimizar o trabalho de agentes autônomos no setor produtivo. Os lançamentos expandem a oitava geração de chips da empresa e respondem à crescente demanda do mercado por infraestrutura avançada.

“Com a computação migrando da escala humana para a escala de agentes, as empresas estão pedindo aceleradores que possam raciocinar sobre as massivas janelas de contexto dos modelos de IA. Além disso, alguns clientes, altamente regulamentados, estão pedindo recursos de criptografia especializados para cargas de trabalho únicas”, afirmou Amin Vahdat, Diretor de Tecnologia e Vice-Presidente Sênior de IA e Infraestrutura do Google, em comunicado.

Maior segurança e poder computacional

Com foco em proteção de dados, o TPU 8tx traz segurança integrada diretamente na camada de hardware. O recurso mantém informações sensíveis e pesos de modelos isolados e protegidos durante o uso ativo, apresentando ainda latência duas vezes menor que a versão 8t apresentada em abril.

O processador também permite executar e customizar modelos simultaneamente em um único sistema, combinando computação em nível de treinamento e rede de inferência rápida. A tecnologia possibilita o ajuste fino de modelos com dados privados, utilizando hosts CPU AMD personalizados e o mesmo silício do modelo 8t.

Outras capacidades associadas incluem a destilação de modelos grandes em opções menores e o treinamento de agentes de IA por aprendizado por reforço, tudo sem a necessidade de transferir dados sigilosos entre clusters separados. O TPU 8tx é especialmente recomendado para corporações e órgãos governamentais que buscam treinar modelos avançados e proprietários com níveis elevados de segurança.

Por sua vez, o TPU 8i Max foi desenvolvido para solucionar gargalos de memória decorrentes da execução simultânea de dezenas de agentes. O componente entrega o dobro de poder computacional, de memória SRAM e de largura de banda de HBM em comparação com o TPU 8i, garantindo fluidez em fluxos de trabalho intensos. A big tech destacou que a arquitetura abriga o dobro de silício na mesma estrutura, permitindo que data centers ofereçam maior densidade de processamento por metro quadrado e por watt.

Como o Google usa TPUs?

As Unidades de Processamento Tensorial são empregadas pela companhia em diversas frentes, como no treinamento de modelos proprietários para demandas de agentes disponibilizadas aos clientes do Google Cloud.

Atualmente, quase 100 clientes utilizam a tecnologia em suas infraestruturas em nuvem para atender à alta demanda, abrangendo universidades, laboratórios de ponta, redes varejistas e empresas do setor financeiro.