칩 기업의 방향 전환
빠른 추론 프로세서로 유명한 AI 칩 기업 그록이 칩 판매에서 네오클라우드 운영으로 방향을 전환하기 위해 3억 5천만 달러를 조달했다. 네오클라우드는 스타트업과 기업에 AI 컴퓨팅 성능을 임대하는 클라우드 서비스다. 그록은 이제 자체 데이터 센터를 운영하고 자체 하드웨어 사용 시간을 임대할 예정이다.
이 회사의 칩은 많은 경쟁사보다 적은 전력을 사용하면서 대규모 언어 모델을 매우 빠른 속도로 실행하도록 설계되었다. AI 비서 개발자와 같은 고객들은 그록 하드웨어를 사용하여 응답 시간을 몇 초에서 몇 밀리초로 줄였다.
전환 이유
하드웨어 제조사들은 칩을 판매하는 것이 가치의 일부일 뿐임을 깨닫고 있다. 더 큰 수익은 칩을 실행하는 클라우드 서비스에 있다. 그록의 움직임은 이제 관리형 추론 서비스를 제공하는 다른 AI 하드웨어 기업들의 유사한 조치를 따른 것이다.
AI 컴퓨팅 수요가 여전히 공급을 초과하기 때문에 네오클라우드 시장은 빠르게 성장하고 있다. 대형 클라우드 제공업체는 그래픽 프로세서에 대한 긴 대기 명단을 보유하고 있으며, 스타트업은 대안이 필요하다. 그록은 자사의 아키텍처가 토큰당 더 낮은 비용으로 그러한 수요를 충족할 수 있다고 말한다.
자금 사용처
그록은 새 자본이 북미와 유럽의 데이터 센터 입지를 확장하는 데 사용될 것이라고 밝혔다. 또한 더 많은 엔지니어를 고용하고 영업 팀을 늘릴 계획이다. 이번 자금 조달은 거품에 대한 우려에도 불구하고 투자자들이 AI 인프라에 돈을 쏟아붓는 시기에 이루어졌다.
분석가들은 이번 전환이 AI 워크로드가 수년간 계속 성장할 것이라는 베팅이라고 말한다. 그 베팅이 성공한다면 그록은 빠르고 저렴한 AI 컴퓨팅의 주요 공급업체가 될 수 있다. 그렇지 않다면 회사는 칩 사업이 부담을 짊어져야 할 것이다.