Los 'médicos' generados por IA que ofrecen curas falsas en TikTok son un 'gran peligro', advierten los expertos
El consejo viene de la confianza de un médico. Cocinar comida de plástico en el microondas te produce cáncer, mezclar una cucharada de Coca-Cola con cebolla aliviará tu dolor y un suplemento llamado "Hyalethinap Plus Pro Max" arreglará tu cabello, uñas y articulaciones al mismo tiempo. El médico del parto no existe.
Un estudio publicado este mes por la agencia de marketing digital Hallam del Reino Unido encontró que el contenido generado por IA apareció en el 40% de los videos de salud más vistos en TikTok, aumentando al 84% de los clips revelados por búsquedas de "consejos de salud". Los investigadores analizaron 1.198 vídeos y los principales vídeos generados por IA promediaron 2,5 millones de visitas.
Los resultados llegan a una plataforma que ya está repleta de medios sintéticos. Aproximadamente el 60% de los videos de los nuevos usuarios de TikTok muestran una caída de la IA, según una encuesta separada encontrada a principios de este año, y las afirmaciones dudosas de que la IA ha superado a los médicos ya han emitido advertencias de que la escala podría engañar a los pacientes.
Los médicos citados en el estudio fueron directos sobre lo que estaba en juego. "Las plataformas como TikTok deben hacer más para detener el aumento de peligrosos consejos médicos falsos". La Dra. Emma Runwick, vicepresidenta del Consejo de la Asociación Médica Británica, dijo:
💜 de tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
Profesor Frankie Swords, director médico nacional del NHS de Inglaterra, muchos médicos "Un número cada vez mayor de pacientes informan que se sienten ansiosos y confundidos debido a consejos falsos".
Alex Ruaney, investigador de información errónea sobre salud en el University College de Londres, todavía fue agudo al describir el incidente. "Explotación de la industrialización de la confianza".
Los videos siguen una plantilla reconocible. Un avatar pulido, construido con equipos disponibles en el mercado, sincroniza los labios con un guión que es una mitología no probada y un discurso para un producto que a menudo no parece existir.
No se ha encontrado ningún rastro en línea de HallamHylethinap Plus Pro Max”Un clip ampliamente compartido habla sobre remedios antienvejecimiento. Otros clips reciclan mitos familiares sobre el cáncer sobre cómo cocinar alimentos de plástico en el microondas, desodorantes y dormir cerca de teléfonos.
El patrón no es casualidad. Existen muchas cuentas para vender algo, ya sean suplementos de marca, enlaces de afiliados o suscripciones, y las batas blancas falsas son persuasivas. El polaco va al grano, al igual que la verosimilitud.
Esta no es la primera alarma. En febrero, la organización sin fines de lucro Science Feedback identificó 18 cuentas de este tipo en cuestión de horas, con decenas de miles de seguidores y videos que alcanzaron 14 millones de visitas.
Los avatares afirman que la cúrcuma reduce los niveles altos de azúcar en sangre y que el cacao crudo y la remolacha "obstruyen las arterias", impulsando el uso de suplementos no probados. Algunos clonan los rostros de médicos reales sin consentimiento, falsificaciones como ésta que han generado una pequeña industria en la detección de deepfakes.
La escala inquietó al establishment médico a ambos lados del Atlántico. John White, director ejecutivo de la Asociación Médica Estadounidense, advirtió en febrero que los estafadores estaban clonando "rostros y voces de médicos reales y acreditados" y pidió que las identidades de los médicos fueran tratadas como activos profesionales protegidos.
Señaló que a la propia madre de un médico se le mostró un video falso en el que aparecía su hija, una medida de cuán creíbles se han vuelto los clips. Las mismas herramientas que prometen avances en la atención médica asistida por IA ahora se están volviendo contra los mismos pacientes a los que debían atender.
TikTok ha cuestionado el estudio. Dijo que los resultados provienen de "una empresa de marketing con intereses comerciales" y "no son un reflejo exacto de nuestra plataforma", y agregó que elimina información errónea y perjudicial para la salud y se asocia con la Organización Mundial de la Salud y el NHS.
Sus reglas ya prohíben tanto la suplantación como el contenido engañoso generado por IA, y la investigación de Science Response señaló que la compañía elimina activamente la mayoría del contenido infractor. La brecha está entre la política y la alimentación.
Las herramientas de detección están mejorando, pero la economía dicta lo contrario. Una sola aplicación de vídeo genera alrededor de 3 millones de clips al mes, y las cuentas extraídas por suplantación de identidad se pueden volver a ver en una hora. Puede que el médico no sea genuino, pero el suplemento se vende.
