Thinking Machine Inkling: el primer modelo de peso abierto de Murati
"Creemos en mantener viva la rareza". Esa línea proviene de un manifiesto del laboratorio de Meera Murati publicado la semana pasada. Esta es también la idea detrás del primer modelo del laboratorio.
Thinking Machines Lab, fundado por el ex director de tecnología de OpenAI, publicó Inkling. Es de código abierto, por lo que cualquier desarrollador o empresa puede descargar el modelo y modificarlo. Esto por sí solo lo distingue de los buques insignia vendidos por OpenAI, Anthropic y Google.
La perspectiva es grande. Es un sistema de mezcla experto con 975 mil millones de parámetros totales, aunque sólo utiliza alrededor de 41 mil millones para cualquier tarea. Gestiona una ventana de contexto de hasta 1 millón de tokens y está entrenado en 45 billones de textos, imágenes, audio y vídeo. Maneja texto, imágenes y audio, pero por ahora sólo escribe texto con código y datos estructurados.
Un modelo que admite que no es el mejor
Aquí está el giro. Thinking Machines no afirma que Inkling esté en la cima de las listas. Sus propios materiales lo califican como "no es el modelo más resistente disponible en la actualidad, ni cerrado ni abierto".
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
Los laboratorios persiguen algo más: alcance y adaptabilidad. Thinking Machine Inkling pretende ser una base amplia y equilibrada que las organizaciones afinan para su propio trabajo, no un chatbot terminado. Los usuarios pueden aumentar o disminuir su "esfuerzo de pensamiento" para cambiar precisión por velocidad. En una prueba de codificación, dijo la compañía, Inkling emparejó el Nemotron 3 Ultra de Nvidia usando un tercio de los tokens.
El laboratorio también presentó un modelo más ligero, Inkling-Small, con 12 mil millones de parámetros activos. Es perfecto para trabajos donde el costo y la velocidad son primordiales.
Apuesta: ponte en forma
Todo el lanzamiento depende de una apuesta. La IA entrenada en un lugar y luego congelada, argumenta el laboratorio, pierde frente a la IA que cada organización puede estructurar en torno a su propia experiencia. Los clientes ajustan Inkling a través de Tinker, la plataforma de personalización de Thinking Machine, y son dueños de los resultados. También conllevan riesgos de seguridad para lo que construyen.
El laboratorio señala como prueba un proyecto con el fondo de cobertura Bridgewater. Los dos entrenaron un modelo abierto sobre el conocimiento financiero de Bridgewater y obtuvo una puntuación del 84,7% en una prueba de razonamiento financiero, superando a los mejores modelos propietarios a una fracción del costo. Estas cifras provienen de evaluaciones propias de dos empresas, no de una independiente.
La lógica se está poniendo al día. Satya Nadella de Microsoft advirtió recientemente que las empresas que utilizan modelos cerrados entregan el conocimiento incorporado en ellos dos veces, una como pago y otra según sus indicaciones. Los modelos abiertos más baratos, muchos de ellos procedentes de China, funcionan de manera similar.
Nueve meses, con alguna ayuda prestada
La Máquina Pensante desea enfatizar su velocidad. OpenAI tardó unos cinco años en enviarse y generar ingresos, y Anthropic unos tres años, señaló TechCrunch. El laboratorio de Murat dice que lo hizo en unos nueve meses.
Corta algunas esquinas para llegar allí. Para comenzar a entrenar al Inkling, el laboratorio se apoyó en otros modelos expuestos, conocidos como Patan, incluido el Km K2.5 de Moonshot. Su próximo modelo, insiste, se entrenará completamente solo. Inkling se ejecutó en el sistema GB300 de Nvidia, parte del acuerdo de marzo de un gigavatio de Nvidia Compute.
El dinero y la gente han sido excelentes. El laboratorio recaudó 2.000 millones de dólares con una valoración de 12.000 millones de dólares el año pasado y tiene pendiente una ronda de 50.000 millones de dólares. Dos cofundadores se marcharon a principios de este año, aunque la plantilla ha vuelto a rondar los 200. Por ahora, Thinking Machine no cobrará nada por Inkling. Su significado proviene de retoques y depende de las peculiaridades del caso.
