El piloto de prescripción de IA de Utah ha alertado a su junta médica
TL; DR
Utah se ha convertido en el primer estado de EE. UU. en permitir que un chatbot de IA, Doctronic, renueve recetas sin un médico, a través de un entorno de pruebas regulatorio que renuncia a las leyes de licencia. La junta de licencias médicas del estado, sorprendida por el lanzamiento de enero, pidió en abril detener el piloto debido a riesgos de seguridad, pero el estado se negó. El caso expone el vacío regulatorio federal-estatal en torno a la IA en la medicina.
Según Associated Press, Utah se ha convertido silenciosamente en el primer estado de EE. UU. en permitir que un chatbot de IA renueve recetas sin un médico. El programa, dirigido por una empresa llamada Doctronic, se lanzó en enero y ha provocado una feroz controversia médica.
Los residentes pueden evitar el consultorio del médico y surtir recetas en línea a través de chatbots. Pregunta sobre sus medicamentos e historial, verifica una base de datos de farmacias nacional y renueva el guión o acude a un médico humano.
El lanzamiento fue posible sólo a través de una "zona de pruebas regulatoria" que permitió a los funcionarios de Utah renunciar a las leyes para hacer promesas de IA. Las regulaciones estatales y federales restringen las recetas a profesionales médicos autorizados.
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
El Dr. Eric Bresman, de la Universidad de Pensilvania, dijo a la AP: "Hemos cruzado la línea al otorgar una licencia médica a no humanos, nos guste llamarlo así o no". Él y otros dicen que no se oponen a la prescripción de IA, pero quieren que se cumpla con los mismos estándares estrictos que los médicos humanos.
ese tablero esta caído
La junta de licencias médicas de Utah dijo que sólo se enteró del programa cuando se conoció la noticia del lanzamiento en enero. En una carta de abril, 11 miembros pidieron que se detuviera el piloto, citando el riesgo de renovación automática de medicamentos con efectos secundarios o interacciones.
"Básicamente nos dijeron: 'Sí, esto está sucediendo. Y no, ustedes no tienen voz y voto'", dijo el Dr. Alan Smith, un médico de familia que preside la junta pero habló en nombre propio.
El estado se ha negado a suspenderlo, señalando que los médicos humanos aún revisan cada reabastecimiento en esta etapa inicial.
Actualmente, el programa está supervisado por una junta de cinco miembros de expertos en IA, ninguno de los cuales es médico. Doctronic espera pasar pronto a recargas totalmente automáticas
Smith advierte que los riesgos son reales y señala que alrededor de 190 de los medicamentos recargables de Doctronic contienen anticoagulantes, que se vuelven peligrosos si un paciente tiene una hemorragia interna. La Asociación Médica Estadounidense se hizo eco de esta preocupación de que "las renovaciones de recetas no son casillas de verificación de rutina".
Un regulador es vacío por diseño.
El caso revela un enredo jurisdiccional, ya que la tecnología médica está regulada a nivel federal mientras que los profesionales médicos son supervisados por los estados. Doctronics encuadra su IA como parte de la práctica médica regulada por el estado, aunque algunos expertos sostienen que ha cruzado al territorio de la FDA.
La compañía no dijo si ha solicitado la aprobación de la FDA. La agencia dijo a la AP que no ha aprobado ningún chatbot de IA, pero quiere fomentar la innovación, una postura de no intervención que se presta a una relajación más amplia de la supervisión de las herramientas de salud de la IA.
Los críticos ven la historia como algo borroso, y Bressman compara el momento con la medicina aleatoria de principios del siglo XX, antes de que existieran juntas y puntos de referencia. El modelo para otorgar licencias de servicios médicos de IA en otros estados proviene del Instituto Cicero, un grupo de expertos pro-IA fundado por el cofundador de Palantir, Joe Lonsdale.
Las cicatrices no son abstractas, ya que los investigadores de seguridad advierten que los chatbots médicos pueden parecer autoritarios y al mismo tiempo ofrecer consejos peligrosos. Otros advierten que retirar a las personas de la atención podría socavar sus prometedores resultados.
Los rivales también están luchando por mapear esos modos de falla. Los chatbots competidores se hacen pasar por metaadolescentes para probar cómo manejan temas delicados.
Doctronics planea realizar estudios revisados por pares a finales de este año, aunque hasta ahora su único artículo publicado fue escrito por sus propios científicos y no ha sido revisado de forma independiente. Como lo expresó un profesor de derecho de Utah, las empresas corren el riesgo de dejar que la tecnología se descontrole sin pruebas y traicionar la confianza del público en el proceso.
