Una empresa de chips cambia de rumbo
Groq, la empresa de chips de IA conocida por sus rápidos procesadores de inferencia, ha recaudado 350 millones de dólares para pasar de vender chips a operar una neocloud. Una neocloud es un servicio de nube que alquila potencia de cómputo de IA a nuevas empresas y empresas establecidas. Groq ahora operará sus propios centros de datos y alquilará tiempo en su hardware.
Los chips de la empresa están diseñados para ejecutar modelos de lenguaje grandes a muy alta velocidad usando menos energía que muchos rivales. Clientes como desarrolladores de asistentes de IA han utilizado el hardware de Groq para reducir los tiempos de respuesta de segundos a milisegundos.
Por qué el cambio
Los fabricantes de hardware están descubriendo que vender chips es solo parte del valor. El dinero más grande está en los servicios de nube que ejecutan los chips. El movimiento de Groq sigue pasos similares de otras empresas de hardware de IA que ahora ofrecen servicios de inferencia gestionada.
El mercado de neocloud está creciendo rápido porque la demanda de cómputo de IA aún supera la oferta. Los grandes proveedores de nube tienen largas listas de espera para procesadores gráficos, y las nuevas empresas necesitan alternativas. Groq dice que su arquitectura puede satisfacer esa demanda a un costo menor por token.
En qué se gastará el dinero
Groq dice que el nuevo capital expandirá su huella de centros de datos en América del Norte y Europa. La empresa también planea contratar más ingenieros y hacer crecer su equipo de ventas. La ronda de financiación llega en un momento en que los inversores están vertiendo dinero en infraestructura de IA a pesar de las preocupaciones sobre una burbuja.
Los analistas dicen que el cambio es una apuesta a que las cargas de trabajo de IA seguirán creciendo durante años. Si la apuesta da resultado, Groq podría convertirse en un proveedor importante de cómputo de IA rápido y barato. Si no, la empresa necesitará que su negocio de chips cargue con el peso.