芯片公司转型
以快速推理处理器闻名的AI芯片公司Groq已获得3.5亿美元融资，从销售芯片转向运营“新云”服务。新云是一种向初创企业和企业租赁AI计算能力的云服务。Groq现在将运营自己的数据中心并出租其硬件时间。
该公司的芯片旨在以非常高的速度运行大型语言模型，同时比许多竞争对手消耗更少的电力。AI助手开发者等客户使用Groq硬件将响应时间从几秒缩短到几毫秒。
转型原因
硬件制造商发现，销售芯片只是价值的一部分，更大的利润在于运行芯片的云服务。Groq的举措效仿了其他现在提供托管推理服务的AI硬件公司。
新云市场增长迅速，因为AI计算需求仍超过供应。大型云提供商对图形处理器有很长的等待名单，初创企业需要替代方案。Groq表示其架构可以以更低的每token成本满足这一需求。
资金用途
Groq表示，新资本将扩大其在北美和欧洲的数据中心足迹。该公司还计划招聘更多工程师并扩大销售团队。此轮融资正值投资者尽管担心泡沫但仍向AI基础设施投入资金之际。
分析人士称，此次转型是在押注AI工作负载将持续增长多年。如果押注成功，Groq可能成为快速、廉价AI计算的主要供应商。如果失败，该公司将需要其芯片业务来支撑。