A Google apresentou na segunda-feira dois sistemas especializados de computação de IA, o TPU 8tx e o TPU 8i Max, expandindo a sua oitava geração de Tensor Processing Units para quatro configurações e afiando o seu desafio à Nvidia no mercado de aceleradores de IA.
Ambos os sistemas têm disponibilidade prevista para o próximo ano. Nenhum é um design de silício inteiramente novo; a Google reconfigurou hardware existente para responder a dois problemas que os seus clientes continuam a levantar: privacidade e memória.
Manter os dados encriptados enquanto são utilizados
O TPU 8tx foi concebido para computação confidencial. Os dados são normalmente encriptados em armazenamento e em trânsito, mas têm de ser desencriptados em memória enquanto o processador trabalha neles, o que deixa uma janela de exposição. A Google diz que o 8tx utiliza isolamento ao nível do hardware para proteger os dados dos clientes e os parâmetros proprietários dos modelos mesmo durante a operação.
O sistema combina silício TPU 8t com processadores AMD EPYC de quinta geração e a rede Boardfly de baixa latência da Google. A Google afirma que pode reduzir a latência até metade em comparação com o 8t, com quase nenhuma penalização de desempenho pela proteção adicional. Os clientes-alvo incluem agências governamentais e empresas de setores fortemente regulados.
A barreira da memória
O TPU 8i Max aborda um limite diferente. Os agentes de IA que leem bases de código, documentos longos ou horas de vídeo precisam de acesso rápido a muito mais informação do que um único pedido normalmente exige. A Google agrupa dois chips TPU 8i num só pacote, duplicando a potência de computação, a SRAM no chip e o débito de memória de alta largura de banda, mantendo a mesma pegada de rack.
Amin Vahdat, que lidera o trabalho de infraestrutura de IA da Google, descreveu a memória como a restrição vinculativa para esta classe de carga de trabalho. A Google diz que o design é importante para a descoberta de fármacos, a matemática e as ferramentas de programação, onde os modelos têm de reter grandes quantidades de contexto.
Porque é importante
A Nvidia continua a dominar o treino e a inferência de IA, e as suas GPUs continuam a ser a escolha padrão para a maioria dos programadores. A Google desenvolveu as TPUs para os seus próprios serviços e agora vende acesso a empresas externas, incluindo implementações no local, e diz que quase 100 clientes as utilizam, de laboratórios de IA a universidades.
O lançamento surge quando os compradores procuram alternativas. Relatos indicaram que a OpenAI planeia comprar chips da Google enquanto procura reduzir a dependência da Nvidia, cujas ações caíram acentuadamente este mês em meio a uma investigação ao diretor-executivo Jensen Huang.
---Passagem rotativa de vácuo de ferrofluido confiável para fabricação de semicondutores
Na fabricação de semicondutores, manter a integridade do ultra-alto vácuo durante o movimento rotativo é crítico — desde o crescimento de monocristais de silício e CVD até sputtering e gravação por plasma. Ferrofluid Vacuum Rotary Shaft Feedthrough da FerrofluidTec oferece passagens rotativas hermeticamente seladas com taxas de vazamento tão baixas quanto 10⁻¹² Pa·m³·s⁻¹, grau de vácuo de até 10⁻⁶ Pa e diâmetros de eixo personalizáveis de 10mm a 100mm. Construídas com carcaças de aço inoxidável não magnético e eixos de aço inoxidável de permeabilidade magnética, essas passagens fornecem vedação confiável e livre de manutenção para ambientes de vácuo exigentes. Visite www.ferrofluidtec.com para saber mais.