Groq, công ty khởi nghiệp nổi tiếng với việc thiết kế chip suy luận AI của riêng mình, đã huy động được 350 triệu USD trong vòng gọi vốn mới với định giá 3,5 tỷ USD. Số tiền này sẽ đẩy nhanh quá trình chuyển đổi của công ty từ một nhà sản xuất chip thuần túy sang nhà cung cấp "neocloud" cho thuê sức mạnh tính toán cho các nhà phát triển và doanh nghiệp.
Từ chip đến đám mây
Groq xây dựng danh tiếng nhờ silicon tùy chỉnh gọi là LPU, hay bộ xử lý ngôn ngữ, được thiết kế để chạy khối lượng công việc AI nhanh hơn và chi phí thấp hơn so với chip đa năng. Công ty đặt mục tiêu thách thức Nvidia trong lĩnh vực suy luận, tức là khả năng tính toán cần thiết để chạy các mô hình AI đã được huấn luyện trong thời gian thực.
Nhưng sau khi mất các thành viên chủ chốt của đội ngũ chip, Groq đã thay đổi hướng đi. Thay vì chỉ dựa vào phần cứng của riêng mình, công ty hiện vận hành các trung tâm dữ liệu kết hợp GPU Nvidia với công nghệ của riêng mình. Khoản tài trợ mới hỗ trợ "những người cần sử dụng các cụm máy tính tăng tốc Nvidia cỡ vừa và lớn cho việc huấn luyện và suy luận", công ty cho biết.
Dấu chân ngày càng mở rộng
Groq hiện vận hành 13 trung tâm dữ liệu trên khắp Bắc Mỹ, Châu Âu, Trung Đông và Châu Á - Thái Bình Dương, phục vụ hơn 6 triệu nhà phát triển, doanh nghiệp và các công ty AI thuần túy. Công ty có kế hoạch mở rộng công suất điện từ 54 megawatt lên hơn 200 megawatt vào năm 2027. Vào tháng 6, công ty đã huy động được 650 triệu USD để bắt đầu quá trình chuyển đổi; Nvidia là một trong những nhà đầu tư trong đợt tài trợ mới.
Mô hình neocloud đã thu hút sự quan tâm rộng rãi khi nhu cầu về sức mạnh tính toán AI vượt xa nguồn cung. Các công ty khởi nghiệp trong lĩnh vực này mua GPU với số lượng lớn và bán lại quyền truy cập theo giờ, cung cấp một giải pháp thay thế cho các đám mây công cộng lớn.
Ý nghĩa của số tiền này
Đối với Groq, việc huy động vốn là một canh bạc rằng thị trường muốn có sự lựa chọn về nơi chạy các mô hình AI. Công ty vẫn giữ chip suy luận của mình trong hỗn hợp, nhưng không còn phụ thuộc vào chúng nữa. Nguồn vốn bổ sung cho công ty không gian để mở rộng công suất trong khi các đối thủ đổ hàng tỷ USD vào cùng một cuộc đua. Khi khối lượng công việc AI tăng lên, nhu cầu về tính toán nhanh, linh hoạt cũng tăng theo, và Groq đang định vị mình ở cả hai phía của thị trường đó.