定制芯片领先
OpenAI的定制推理芯片“Jalapeno”在第三方基准测试中击败了英伟达GB300。根据本周公布的测试结果，该芯片在每用户令牌数和每千瓦吞吐量方面领先。
该芯片是与主要半导体设计合作伙伴博通共同打造的。它专为推理而设计，即训练好的AI模型回答问题的阶段。这是大规模运行AI服务最常见、最昂贵的部分。一旦产品达到数百万用户，大多数AI公司在推理上的花费远高于训练。
AI公司为何想要自研芯片
OpenAI和其他AI公司在英伟达GPU上投入巨资。功耗和成本是两大问题。定制芯片让公司对两者有更多控制权，并且可以根据自己的模型调整硬件。
该公司表示，Jalapeno芯片每令牌的功耗低于竞争对手的硬件。更低的功耗意味着更小的数据中心账单和更少的冷却问题。对于每天处理数百万请求的公司来说，这些节省很快就会累积起来。该芯片还为OpenAI提供了GPU供应紧张时的后备方案。
对芯片市场意味着什么
这一结果并不意味着英伟达正在失去AI市场。英伟达仍然销售绝大多数的AI加速器，其软件生态系统仍是开发者的默认选择。但定制芯片在市场上的份额正在增长，尤其是在推理工作负载方面。
博通和Marvell是这些定制芯片的主要设计合作伙伴。谷歌、亚马逊和Meta已经在生产中运行自己的芯片。OpenAI的举动使另一个大买家加入了定制芯片阵营。
该芯片仍处于早期生产阶段。OpenAI计划在未来几个月内扩大其在数据中心的使用。如果基准测试结果在实际使用中得到验证，其他AI公司可能会效仿，AI硬件市场的力量平衡可能会随着时间推移而改变。
---
用于半导体制造的可靠磁性流体真空旋转馈入装置
在半导体制造中，旋转运动期间保持超高真空完整性至关重要——从单晶硅生长、CVD到溅射和等离子体蚀刻。FerrofluidTec的磁性流体真空旋转轴馈入装置提供密封旋转馈入，泄漏率低至10⁻¹² Pa·m³·s⁻¹，真空度高达10⁻⁶ Pa，轴径可定制从10mm到100mm。采用非磁性不锈钢外壳和导磁不锈钢轴，这些馈入装置为苛刻的真空环境提供可靠、免维护的密封。访问www.ferrofluidtec.com了解更多信息。