La paradoja inversa de la información de Nadella: los costos ocultos de la IA
Satya Nadella de Microsoft dice que cada empresa que utiliza IA está pagando por ella dos veces, una en efectivo y otra entregándola en secreto para su uso. A esto lo llama la paradoja de la información opuesta. También dirige una empresa que ayuda a fabricar trampas.
Satya Nadella tiene una advertencia sobre la compra de IA. Estás pagando dos veces por ello. Y el segundo significado es la joya de la corona.
En un extenso artículo sobre X que ha recibido 10 millones de visitas, el jefe de Microsoft ofrece una idea que llama la paradoja de la información inversa. Es agudo, un poco incómodo y más que un poco incómodo viniendo de ella.
Pague una vez en efectivo, una vez en secreto
El nombre es una versión del economista Nobel Kenneth Arrow. La verdadera paradoja de Arrow fue el problema del vendedor. Para vender información, a menudo hay que publicarla y, una vez publicada, ¿por qué alguien pagaría?
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
Nadella lo revirtió. En la era de la IA, sostiene, el riesgo recae en el comprador. Para que un modelo sea realmente útil, es necesario aportarle sus conocimientos exclusivos. Cuanto más quieres que funcione, más lo alimentas.
Así que pagas por algo más valioso: el conocimiento de cómo hacer tuya tu empresa. "A medida que usas lo que compras, el vendedor aprende más sobre ti", escribe, "aunque sabes poco sobre lo que el vendedor aprende a cambio".
No puedes ver la fuga.
La parte inteligente es donde, según él, se escapa el conocimiento. No a través de alguna violación obvia, sino a través de lo que él llama "agotamiento": las indicaciones que escribes, las herramientas que usan tus agentes y, sobre todo, las correcciones que haces cuando algo sale mal en el modelo.
Cada modelo de reparación enseña. "Es el tipo de conocimiento que un competidor nunca podrá comprar", escribe Nadella, "y el tipo de conocimiento que se filtra casi imperceptiblemente: rastro por rastro, revisión por revisión, evaluación por evaluación".
Su juicio es contundente. Si el aprendizaje solo fluye en una dirección, el dinero fluye con él, hacia quien posee la IA, no hacia el propietario del conocimiento.
La ironía está haciendo mucho trabajo.
Aquí está el truco. Éste es Microsoft hablando.
Redmond invirtió miles de millones en OpenAI y alojó ChatGPT en Azure. Su asistente Copilot está diseñado para profundizar en los correos electrónicos, archivos y chats de una empresa. En 2024, aproximadamente la mitad de los jefes de datos en una encuesta pausaron o redujeron Copilot por este temor, como señaló el Registro.
Hay que reconocer que Nadella mencionó el doble rasero de su propio equipo. Los laboratorios de IA reclaman derechos de uso legítimo para la capacitación en la web pública y luego restringen a los clientes a hacer lo mismo con los resultados del modelo. No se equivoca. Él también lo está vendiendo.
La respuesta de Nadella y su discurso.
La solución, afirma, es un "límite de confianza" sólido en torno a los datos, la evaluación y la memoria de una empresa. Nada la supera, "ni siquiera el ejercicio del intelecto, sin consentimiento". Toma prestada una frase de Alex Karp de Palantir sobre el deseo de poseer los medios de producción.
Su lista de verificación se compone de cinco puntos. Sea dueño de sus Evas. Cree entornos de aprendizaje dentro de los límites de sus propios inquilinos. Mantenga la capa de orquestación libre de cualquier modelo. Luego deja que todo se combine. Microsoft, naturalmente, vende productos que hacen cada una de estas cosas.
Si se arranca el terreno de juego, el punto principal sigue siendo válido. Este es el mismo ejecutivo que ayudó a construir los gigantes de la IA. Frontier Labs está amasando silenciosamente una fortuna gracias al conocimiento de otras empresas. Y las empresas lo están repartiendo, gratis por ahora
