Google presentó el lunes dos sistemas especializados de computación de IA, el TPU 8tx y el TPU 8i Max, ampliando su octava generación de unidades de procesamiento tensorial a cuatro configuraciones y agudizando su desafío a Nvidia en el mercado de aceleradores de IA.
Ambos sistemas estarán disponibles el próximo año. Ninguno es un diseño de silicio completamente nuevo; Google ha reconfigurado hardware existente para atacar dos problemas que sus clientes plantean constantemente: la privacidad y la memoria.
Mantener los datos cifrados mientras se usan
El TPU 8tx está diseñado para la computación confidencial. Los datos normalmente se cifran en el almacenamiento y en tránsito, pero deben descifrarse en la memoria mientras un procesador trabaja con ellos, lo que deja una ventana de exposición. Google dice que el 8tx utiliza aislamiento a nivel de hardware para proteger los datos de los clientes y los parámetros propietarios de los modelos incluso durante la operación.
El sistema combina silicio TPU 8t con procesadores AMD EPYC de quinta generación y la red Boardfly de baja latencia de Google. Google afirma que puede reducir la latencia hasta a la mitad en comparación con el 8t, con casi ninguna penalización de rendimiento por la protección añadida. Los clientes objetivo incluyen agencias gubernamentales y empresas de industrias altamente reguladas.
El muro de la memoria
El TPU 8i Max aborda un límite diferente. Los agentes de IA que leen bases de código, documentos largos u horas de video necesitan acceso rápido a mucha más información de la que suele requerir una sola solicitud. Google empaqueta dos chips TPU 8i en un solo paquete, duplicando la potencia de cómputo, la SRAM en chip y el rendimiento de memoria de alto ancho de banda mientras usa la misma huella de rack.
Amin Vahdat, quien dirige el trabajo de infraestructura de IA de Google, describió la memoria como la restricción vinculante para esta clase de carga de trabajo. Google dice que el diseño importa para el descubrimiento de fármacos, las matemáticas y las herramientas de programación, donde los modelos deben retener grandes cantidades de contexto.
Por qué importa
Nvidia sigue dominando el entrenamiento e inferencia de IA, y sus GPU siguen siendo la opción predeterminada para la mayoría de los desarrolladores. Google desarrolló las TPU para sus propios servicios y ahora vende acceso a empresas externas, incluidas implementaciones locales, y dice que casi 100 clientes las usan, desde laboratorios de IA hasta universidades.
El lanzamiento llega mientras los compradores buscan alternativas. Informes han dicho que OpenAI planea comprar chips de Google mientras busca reducir su dependencia de Nvidia, cuyas acciones han caído bruscamente este mes en medio de una investigación sobre el director ejecutivo Jensen Huang.
---Feedthrough rotativo de vacío de ferrofluido fiable para la fabricación de semiconductores
En la fabricación de semiconductores, mantener la integridad de ultra alto vacío durante el movimiento rotativo es crítico — desde el crecimiento de monocristales de silicio y CVD hasta el sputtering y el grabado por plasma. Ferrofluid Vacuum Rotary Shaft Feedthrough de FerrofluidTec ofrece pasamuros rotativos sellados herméticamente con tasas de fuga tan bajas como 10⁻¹² Pa·m³·s⁻¹, grado de vacío de hasta 10⁻⁶ Pa, y diámetros de eje personalizables de 10mm a 100mm. Construidos con carcasas de acero inoxidable no magnético y ejes de acero inoxidable de permeabilidad magnética, estos pasamuros proporcionan un sellado fiable y libre de mantenimiento para entornos de vacío exigentes. Visite www.ferrofluidtec.com para obtener más información.