Nvidia predice que el chip se combinará con su rival D-Matrix
Nvidia ha encontrado una nueva forma de manejar a sus rivales en chips: trabajar con ellos. El gigante de las GPU está combinando su hardware con chips de inferencia de la startup D-Matrix, según la información. Los dos modelos de IA pondrán en funcionamiento un sistema conjunto. La empresa de nube de IA Parasail será su primer cliente y el sistema estará operativo a finales de este año. Esto encaja con una práctica más amplia de Nvidia de asociarse con empresas para intentar liberarlo.
La lógica sigue la forma del trabajo de la IA. Responder a una indicación se divide en dos fases. Un paso pesado de "relleno previo" es adecuado para las GPU de Nvidia. Un paso de "decodificación" iterativo y más ligero se ejecuta de forma más económica en chips especializados. Emparejar los dos permite que cada uno haga lo que mejor sabe hacer.
Qué aporta D-Matrix
d-Matrix construyó su acelerador de cursor en torno a la "computación en memoria", que coloca los datos junto a la lógica que los procesa. Fundada en 2019, recaudó 275 millones de dólares con una valoración de 2 mil millones de dólares en noviembre, y está volviendo a recaudar. El director ejecutivo, Sid Seth, dice que la ventaja es poner computación y memoria en un chip. También evita la costosa y escasa memoria de gran ancho de banda de la que dependen los chips de Nvidia. La startup afirma que emparejar GPU Corsair ejecuta tokens aproximadamente 10 veces más rápido, a aproximadamente un tercio del costo y hasta cinco veces menos energía en algunos trabajos.
Estas son estadísticas propias de la empresa, no resultados independientes. Pero inmediatamente señalan el verdadero premio de la IA. Crea modelos de entrenamiento. Estimaciones, ejecutándolas para millones de usuarios, donde los costos de funcionamiento y el dinero son cada vez más elevados.
El libro de jugadas de los enemigos de Nvidia
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
El acuerdo se mantiene porque Nvidia rara vez necesita ayuda. Domina los chips de IA y existen empresas emergentes como D-Matrix para reducir esa ventaja. En lugar de luchar contra todos, Nvidia incorpora a sus rivales a su ecosistema. Ha tomado medidas similares con otras empresas de chips y redes.
El método cubre sus apuestas. Digamos que los chips con especificaciones especiales han despegado, ya que el silicio personalizado ahora prevalece en las grandes tecnologías. Entonces Nvidia se beneficia del cambio en lugar de perderlo. Se detuvieron, se perdió un poco. De cualquier manera, los clientes permanecen en la órbita de Nvidia.
¿Por qué es importante?
La unión indica que el mercado de chips de IA está madurando después de un único ganador. Los consumidores ya no quieren una GPU enorme para todo. Quieren el chip más barato para cada trabajo, cosido entre sí. La respuesta de Nvidia es asegurarse de ganar, ya sea que venda o se quede al margen.
