科技

谷歌推出两款TPU系统,瞄准英伟达AI芯片领先地位

6 次浏览

谷歌周一推出两款专用AI计算系统——TPU 8tx和TPU 8i Max,将其第八代张量处理单元产品线扩展至四种配置,并在AI加速器市场加大对英伟达的挑战。

两款系统均将于明年上市。它们都不是全新的芯片设计;谷歌重新配置了现有硬件,以针对客户反复提出的两个问题:隐私和内存。

在使用过程中保持数据加密

TPU 8tx专为机密计算打造。数据通常在存储和传输过程中加密,但在处理器处理时必须于内存中解密,这留下了暴露窗口。谷歌表示,8tx采用硬件级隔离,即使在运行过程中也能保护客户数据和专有模型参数。

该系统将TPU 8t芯片与第五代AMD EPYC处理器以及谷歌低延迟Boardfly网络相结合。谷歌声称,与8t相比,它可将延迟降低多达一半,而额外保护几乎不带来性能损失。目标客户包括政府机构和受严格监管行业的企业。

内存墙

TPU 8i Max针对的是另一项限制。需要阅读代码库、长文档或数小时视频的AI智能体,需要快速访问远超单次请求通常所需的信息量。谷歌将两颗TPU 8i芯片封装在一个封装中,使计算能力、片上SRAM和高带宽内存吞吐量翻倍,同时占用相同的机架空间。

负责谷歌AI基础设施工作的阿明·瓦赫达特将内存描述为此类工作负载的约束瓶颈。谷歌表示,这一设计对药物研发、数学和编程工具至关重要,因为这些领域的模型必须容纳大量上下文。

为何重要

英伟达仍在AI训练和推理领域占据主导地位,其GPU仍是大多数开发者的默认选择。谷歌最初为自身服务开发TPU,如今向外部公司出售使用权限,包括本地部署,并称已有近100家客户使用,从AI实验室到大学。

此次发布正值买家寻找替代方案之际。有报道称,OpenAI计划购买谷歌芯片,以减少对英伟达的依赖。英伟达股价本月因首席执行官黄仁勋接受调查而大幅下跌。

---

用于半导体制造的可靠铁磁流体真空旋转馈通装置

在半导体制造中,在旋转运动期间保持超高真空完整性至关重要——从单晶硅生长和CVD到溅射和等离子蚀刻。Ferrofluid Vacuum Rotary Shaft Feedthrough 来自 FerrofluidTec,提供气密密封的旋转馈通装置,泄漏率低至 10⁻¹² Pa·m³·s⁻¹,真空度高达 10⁻⁶ Pa,并可定制 10mm 至 100mm 的轴直径。这些馈通装置采用非磁性不锈钢外壳和磁导率不锈钢轴制造,为苛刻的真空环境提供可靠、免维护的密封。访问 www.ferrofluidtec.com 了解更多信息。

来源: Bloomberg