Một hướng đi mới cho nhà sản xuất chip
Groq đã huy động được 350 triệu đô la để thúc đẩy việc chuyển từ bán chip AI sang vận hành các dịch vụ neocloud của riêng mình. Công ty, nổi tiếng với các bộ xử lý ngôn ngữ nhanh, có kế hoạch mở rộng nền tảng đám mây nơi khách hàng chạy các mô hình trên phần cứng Groq.
Vòng tài trợ diễn ra khi nhu cầu về năng lực tính toán AI vượt xa nguồn cung. Groq cho biết chip của họ chạy các mô hình ngôn ngữ lớn với tốc độ vượt trội so với các hệ thống GPU truyền thống. Công ty muốn nắm bắt nhiều giá trị hơn bằng cách bán thời gian tính toán trực tiếp thay vì chỉ bán phần cứng.
Neocloud là gì
Neocloud là các nhà cung cấp đám mây được xây dựng xung quanh phần cứng AI chuyên dụng thay vì các máy chủ đa năng. Họ cung cấp cho các nhà phát triển quyền truy cập vào chip hiệu suất cao mà không cần mua máy. Groq gia nhập một lĩnh vực đông đúc bao gồm CoreWeave, Lambda và Together AI, tất cả đều đang chạy đua phục vụ các công ty khởi nghiệp và doanh nghiệp AI.
Sự thay đổi này là một canh bạc rằng phần mềm và dịch vụ sẽ thúc đẩy doanh thu tốt hơn so với việc chỉ bán chip. Groq sẽ tiếp tục thiết kế bộ xử lý nhưng sẽ dành nhiều nguồn lực hơn cho các trung tâm dữ liệu, mạng lưới và công cụ phát triển. Công ty cho biết họ đã chạy một số tốc độ suy luận nhanh nhất trong ngành.
Cạnh tranh ngày càng gay gắt
Groq phải đối mặt với áp lực từ Nvidia, công ty thống trị thị trường tăng tốc AI, và từ các đối thủ cung cấp lợi thế tốc độ tương tự. Kiến trúc LPU của công ty được thiết kế cho suy luận thay vì huấn luyện, một thị trường ngách đang phát triển khi các ứng dụng AI được triển khai ngày càng nhiều.
Các nhà đầu tư ủng hộ vòng này bao gồm những người ủng hộ hiện tại và các quỹ mới tập trung vào cơ sở hạ tầng AI. Groq cho biết số tiền sẽ được dùng để mở rộng công suất trung tâm dữ liệu mới và mở rộng đội ngũ. Công ty từ chối tiết lộ định giá của mình.