Un nuevo rumbo para el fabricante de chips
Groq ha recaudado 350 millones de dólares para impulsar un giro de la venta de chips de IA a la operación de sus propios servicios de neocloud. La empresa, conocida por sus rápidas unidades de procesamiento de lenguaje, planea expandir la plataforma en la nube donde los clientes ejecutan modelos en hardware de Groq.
La ronda de financiación llega en un momento en que la demanda de cómputo de IA supera la oferta. Groq dice que sus chips ejecutan grandes modelos de lenguaje a velocidades que superan a los sistemas tradicionales de GPU. La empresa quiere capturar más de ese valor vendiendo tiempo de cómputo directamente en lugar de solo hardware.
Qué es un neocloud
Los neoclouds son proveedores de nube construidos alrededor de hardware de IA especializado en lugar de servidores de propósito general. Ofrecen a los desarrolladores acceso a chips de alto rendimiento sin comprar máquinas ellos mismos. Groq se une a un campo concurrido que incluye a CoreWeave, Lambda y Together AI, todos compitiendo para servir a startups y empresas de IA.
El cambio es una apuesta a que el software y los servicios generarán más ingresos que la venta de chips por sí sola. Groq seguirá diseñando procesadores, pero pondrá más recursos en centros de datos, redes y herramientas para desarrolladores. La compañía dijo que ya ejecuta algunas de las velocidades de inferencia más rápidas de la industria.
La competencia se intensifica
Groq enfrenta presión de Nvidia, que domina el mercado de aceleradores de IA, y de rivales que ofrecen ventajas de velocidad similares. La arquitectura LPU de la compañía está diseñada para inferencia en lugar de entrenamiento, un nicho que crece a medida que se multiplican las aplicaciones de IA desplegadas.
Los inversores que respaldan la ronda incluyen partidarios existentes y nuevos fondos centrados en infraestructura de IA. Groq dijo que el dinero financiará nueva capacidad de centros de datos y ampliará su equipo. La compañía no reveló su valoración.