La prohibición de las redes sociales en Canadá también apunta a los chatbots de IA
Canadá ha presentado un proyecto de ley que prohibiría a los menores de 16 años acceder a las redes sociales y, en un giro que lo diferencia de otros países, regularía los chatbots de inteligencia artificial en la misma reestructuración.
La Ley de Seguridad Digital, presentada el miércoles, es la última de una ola global de gobiernos que toman medidas enérgicas contra las plataformas que dañan a los niños. La versión de Canadá es más amplia que la mayoría.
Esta no es una prohibición total. Las plataformas pueden solicitar una exención si pueden demostrar que cumplen con estrictos estándares de seguridad, un procedimiento diseñado para presionar a las empresas a rediseñar sus servicios para proteger a los niños en lugar de bloquearlos.
"No se puede pensar demasiado en la seguridad de los niños", dijo el ministro canadiense de Identidad y Cultura, Mark Miller, que está a cargo del proyecto de ley para el gobierno de Mark Carney.
Chatbot en la mira
Espacio de coworking de TNW City: donde ocurre tu mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
La característica más novedosa del proyecto de ley es que trata a los chatbots de IA como una cuestión de seguridad infantil en sí misma. Creará un regulador digital para establecer estándares de seguridad tanto para las redes sociales como para los servicios de chatbot.
Las plataformas necesitan identificar riesgos, incorporar diseños apropiados para la edad y ofrecer herramientas de bloqueo y señalización, algunas de las cuales han comenzado a agregar ellas mismas, como la configuración global de cuentas para adolescentes de Matter. El proyecto de ley apunta específicamente a la maquinaria de interacción, los feeds algorítmicos, la reproducción automática y el desplazamiento sin fin, que según el gobierno exacerban el daño.
El enfoque de los chatbots no es abstracto en Canadá. El proyecto de ley llega semanas después de que las familias de las víctimas de uno de los peores tiroteos masivos del país demandaran a OpenAI, alegando que la compañía sabía por las conversaciones de ChatGPT del atacante que estaba planeando violencia y no alertó a la policía. OpenAI no ha sido declarado responsable y las afirmaciones no están fundamentadas.
El incumplimiento será costoso: hasta el 3 por ciento de los ingresos globales o 10 millones de dólares canadienses, lo que sea mayor. Las plataformas también deben eliminar imágenes íntimas no consensuadas dentro de las 24 horas posteriores a la denuncia.
Seguida por Australia pero más adelante
Australia se convirtió en el primer país en prohibir el acceso de los menores de 16 años a las redes sociales en diciembre, inhabilitando casi 50 millones de cuentas de adolescentes. Canadá claramente está tratando de ir más allá, regulando el diseño y los chatbots, no solo el acceso.
Lo atrapado es la aplicación de la ley. El propio regulador de Australia descubrió que, a pesar de la inactividad masiva, alrededor de siete de cada diez niños mantienen una cuenta de todos modos, un recordatorio de que redactar la ley es la parte fácil.
El proyecto de ley canadiense, C-34, tiene un largo camino por recorrer. Las autoridades dicen que el regulador podría tardar un año y otros 18 meses en ponerse de pie. Francia, Dinamarca, Polonia y Grecia pesan el mismo límite, por lo que los resultados se verán mucho más allá de Ottawa.
