Apple echa un vistazo a la IA en el dispositivo de PrismML para iPhone
Apple está en conversaciones iniciales con PrismML, una startup que reduce grandes modelos de IA para ejecutarlos directamente en teléfonos. La propuesta de IA en el dispositivo de la compañía podría ayudar a Apple a mantener una mayor parte del trabajo de Siri fuera de la nube.
El director ejecutivo de PrismML, Babak Hasibi, dijo a CNBC que Apple y otras empresas están evaluando su tecnología. Convocó las conversaciones demasiado pronto y dijo que no estaba claro hacia dónde conducirían, pero que "las cosas están avanzando muy bien". Apple no hizo comentarios. La información informó por primera vez del interés de Apple la semana pasada.
La startup es una empresa derivada del Instituto de Tecnología de California respaldada por Khosla Venture. Caltech posee las patentes subyacentes y las licencia exclusivamente a PrismML. La compañía recaudó una ronda inicial de 16,25 millones de dólares en marzo.
En qué se basa PrismML
El martes, PrismML lanzó Bonsai 27B. Es una versión comprimida del modelo Queen de código abierto de Alibaba, no uno nuevo entrenado desde cero. La compañía lo ha reducido aproximadamente de 54 GB a 3,9 GB.
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
PrismML se entrega en dos versiones bajo una licencia gratuita. Una compilación ternaria se ejecuta en una computadora portátil. Una pequeña construcción de 1 bit, alrededor de 3,9 GB, está diseñada para caber dentro del presupuesto de memoria de un iPhone 17 Pro. PrismML dice que es el primer modelo de este tamaño que se ejecuta en un teléfono.
El truco está en cómo el modelo almacena sus valores internos. PrismML reduce cada uno de 16 bits a solo uno o tres valores posibles. Dice que reduce el uso de memoria de 10 a 15 veces, acelera las respuestas de seis a ocho veces y reduce el consumo de energía de tres a seis veces.
Hay costos. Hassibi dice que los modelos comprimidos pierden algunos puntos porcentuales en rendimiento. El recuerdo de hechos se debilita primero antes que habilidades como el razonamiento, las matemáticas y la codificación, dice. PrismML dice que sus compilaciones tienen aproximadamente un 95% de rendimiento total en la versión ternaria y un 90% en la versión de 1 bit.
¿Por qué le importa a Apple?
El tiempo no es un accidente. Apple lanzó el modelo PrismML un día después de abrir la versión beta pública de iOS 27, que incluye la revisión de Siri, que se retrasó mucho tiempo. Apple está intentando que Siri sea competitiva con OpenAI y Anthropic’s Assistant.
Será útil ejecutar más IA en el dispositivo. Apple ya envía solicitudes complejas a modelos en la nube. Mantener más trabajo local reducirá la latencia, reducirá los costos de la nube y respaldará el discurso de privacidad de la empresa. Algunas funciones también funcionarán sin conexión.
También está el ángulo de los costos. Morgan Stanley estima que los costos de la memoria de Apple podrían aumentar considerablemente en su año fiscal 2027. El banco espera que la empresa aumente los precios del iPhone para proteger los márgenes. Los modelos más pequeños ayudan a Apple a integrar IA capaz en hardware más compacto sin pagar por más memoria.
La afirmación aún está probada.
Los analistas han pedido precaución. Los jóvenes lectores de Counterpoint Research dicen que la verdadera prueba serán millones de preguntas en miles de dispositivos. El consumo de energía es la mayor pregunta abierta, dice Phil Solis de IDC, ya que un modelo que funciona con frecuencia aún puede agotar la batería.
El comunicado también debate si las ganancias en eficiencia reducirán la demanda de memoria y chips de centros de datos. El analista de DA Davidson, Gil Luria, dijo que los modelos cada vez más reducidos no eliminarán la necesidad de procesadores. Simplemente trasladará algunos de ellos del centro de datos al teléfono, parte de un cambio más amplio hacia la IA de vanguardia.
El modelo Gemma de código abierto de Google sigue más adelante, modelos Frontier más grandes en proceso, dijo Hassiby. "Es muy importante que la inteligencia pueda ser local y que pueda moverse rápidamente", afirmó.
