Công ty chip đổi hướng
Groq, công ty chip AI nổi tiếng với bộ xử lý suy luận nhanh, đã huy động 350 triệu đô la để chuyển từ bán chip sang vận hành neocloud. Neocloud là dịch vụ đám mây cho thuê sức mạnh tính toán AI cho các startup và doanh nghiệp. Groq sẽ vận hành trung tâm dữ liệu riêng và cho thuê thời gian sử dụng phần cứng.
Chip của công ty được thiết kế để chạy các mô hình ngôn ngữ lớn ở tốc độ rất cao trong khi tiêu thụ ít điện năng hơn nhiều đối thủ. Khách hàng như nhà phát triển trợ lý AI đã dùng phần cứng Groq để giảm thời gian phản hồi từ vài giây xuống mili giây.
Vì sao chuyển hướng
Các nhà sản xuất phần cứng nhận thấy bán chip chỉ là một phần giá trị. Tiền lớn hơn nằm ở dịch vụ đám mây chạy chip. Động thái của Groq theo sau các bước tương tự của các công ty phần cứng AI khác hiện cung cấp dịch vụ suy luận được quản lý.
Thị trường neocloud đang tăng trưởng nhanh vì nhu cầu tính toán AI vẫn vượt cung. Các nhà cung cấp đám mây lớn có danh sách chờ dài cho bộ xử lý đồ họa, và startup cần lựa chọn thay thế. Groq cho biết kiến trúc của họ có thể phục vụ nhu cầu đó với chi phí thấp hơn mỗi token.
Số tiền sẽ dùng vào việc gì
Groq cho biết vốn mới sẽ mở rộng trung tâm dữ liệu ở Bắc Mỹ và châu Âu. Công ty cũng dự kiến tuyển thêm kỹ sư và phát triển đội ngũ bán hàng. Vòng gọi vốn diễn ra khi nhà đầu tư đổ tiền vào hạ tầng AI dù lo ngại về bong bóng.
Các nhà phân tích cho rằng việc chuyển hướng là đặt cược rằng khối lượng công việc AI sẽ tiếp tục tăng trong nhiều năm. Nếu đặt cược thành công, Groq có thể trở thành nhà cung cấp lớn về tính toán AI nhanh, rẻ. Nếu không, công ty sẽ cần mảng chip để gánh vác.