Nvidia pagó a Groq 20 mil millones de dólares y contrató a sus mejores ingenieros. Ahora Groq está recaudando 650 millones de dólares para lo que queda.
TL; DR
Después de la contratación no adquirida de Nvidia por 20.000 millones de dólares, Groq está recaudando 650 millones de dólares de inversores existentes para su nube especulativa. Dos rondas profesionales garantizadas.
Groq está recaudando 650 millones de dólares de inversores existentes para financiar su negocio especulativo en la nube, informa Axios. El aumento se produce seis meses después de que Nvidia lograra una contratación sin adquisición de 20.000 millones de dólares que pagó en efectivo a los inversores de Groq, contrató a varios ingenieros superiores y obtuvo la licencia de la tecnología de hardware de Groq.
A los mismos inversores que retiraron dinero en diciembre ahora se les ha pedido que reinviertan. Disruptive e Infinitum han acordado completar la ronda si otros inversores existentes rechazan su participación prorrateada. De hecho, la financiación está garantizada.
La empresa está dirigida de forma interina por el director ejecutivo Adam Winter y el director financiero Matt Engin. Varios empleados de alto nivel se mudaron a Nvidia como parte del acuerdo de diciembre. Lo que queda es el negocio Inference Cloud de Groq, que permite a los desarrolladores y empresas alojar aplicaciones con gran cantidad de inferencias en el hardware de la unidad de procesamiento de lenguaje propiedad de Groq.
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
La inferencia, el procesamiento que ocurre después de enviar una solicitud de IA, es ahora un mercado mucho más grande que el entrenamiento de modelos. Cada consulta de ChatGPT, cada respuesta en la nube, cada acción del agente de IA requiere cálculos de inferencia. La economía favorece el silicio especialmente diseñado que puede entregar tokens a un costo menor y a mayor velocidad que las GPU de uso general.
La arquitectura LPU de Groq está diseñada específicamente para estas cargas de trabajo. La compañía ha enviado sus chips a múltiples proveedores de modelos y clientes de la nube. Su velocidad de estimación, medida en tokens por segundo, se compara constantemente por encima de las estimaciones basadas en GPU de Nvidia a precios comparables.
El acuerdo de diciembre por 20.000 millones de dólares fue inusual. No fue una adquisición completa. Nvidia pagó en efectivo a los inversores de Groq en lo que podría ser el mayor precio de compra jamás realizado por Nvidia. Obtuvo la licencia de la tecnología de chips de Groq. Se trata de ingenieros superiores. Pero la empresa no lo aprovechó. El resultado es un Groq que ha sido reajustado financieramente, agotado tecnológicamente en los niveles superiores y ahora levantado para reconstruirse en torno a un modelo de estimación como servicio estrecho pero potencialmente rentable.
El mercado de chips de inferencia está atrayendo capital a un ritmo fenomenal. Cerebras salió a bolsa con una valoración de 95.000 millones de dólares en un terreno de juego optimizado para la especulación. Fractile recaudó 220 millones de dólares en Londres para fabricar chips que unen computación y memoria en el mismo chip. Google envía millones de TPU Ironwood diseñados específicamente para proyección
Dipsic redujo permanentemente el precio de su V4 Pro en un 75% esta semana, reduciendo la economía de ingresos por token de la que dependen los proveedores de la nube. El modelo de negocio de Groq requiere que su hardware proporcione tokens lo suficientemente baratos como para competir con la inferencia basada en GPU y los precios de API de los propios proveedores de modelos. Los bajos recortes de precios hacen que esa competencia sea más dura.
Los 650 millones de dólares son una apuesta a que el hardware de inferencia diseñado específicamente tiene una ventaja sostenible sobre las GPU, incluso cuando Nvidia impulsa sus propias capacidades de inferencia con cada nueva arquitectura. Blackwell de Nvidia y las próximas plataformas Vera Rubin están diseñadas para cerrar la brecha de rendimiento de inferencia que empresas como Groq han dejado abierta.
La pregunta de los 650 millones de dólares es si Groq puede reconstruir su liderazgo en ingeniería, escalar su nube de inferencia y mantener una ventaja de costos frente a las mejoras de hardware de Nvidia y los agresivos recortes de precios de los proveedores de modelos. A los inversores que retiraron 20.000 millones de dólares se les pide que apuesten nuevamente por una versión más pequeña y ágil de la misma empresa. Dos de ellos aceptaron garantizar la ronda. Es convicción u obligación.
