Google demanda a una red china de cibercrimen que utilizó Gemini para crear sitios de phishing y enviar 2,5 millones de mensajes de texto fraudulentos
TL; DR
Google está demandando a Outsider Enterprises, una red china de cibercrimen que utilizó Gemini AI para crear sitios de phishing y enviar 2,5 millones de mensajes de texto fraudulentos durante dos semanas. El FBI está involucrado.
Google presentó una demanda el viernes buscando desmantelar la infraestructura detrás de una operación de cibercrimen china llamada Outsider Enterprises. El grupo utilizó IA, incluido el propio Gemini de Google, para crear sitios web de phishing y enviar mensajes de texto fraudulentos haciéndose pasar por Google y otras marcas. Envió 2,5 millones de mensajes de texto fraudulentos a usuarios de Android en dos semanas.
La operación desplegó 9.000 sitios web falsos y 1 millón de dominios web falsos diseñados para robar contraseñas y números de tarjetas de crédito. Google dijo que el grupo había cometido fraude financiero "Cientos de miles de víctimas"con daño"Se estiman millones.En sólo dos semanas de mayo, los usuarios de Android denunciaron 55.000 mensajes de texto no deseados, más de dos quejas por minuto.
Los detalles más perjudiciales son los expedientes judiciales. Los miembros de Outsider Enterprise se alentaron activamente entre sí a utilizar Gemini para crear códigos personalizados para sitios web de phishing, que luego se importaron al paquete de software del grupo y se convirtieron en páginas fraudulentas en vivo. Se utilizó la propia IA de Google para crear herramientas dirigidas a los propios usuarios de Google.
El grupo coordina y distribuye vía Telegram”Kits de pesca"que permite a delincuentes de bajo nivel lanzar campañas de texto falsas haciéndose pasar por marcas confiables. Google dice que usa"Herramientas basadas en IA para combatir las estafas basadas en IA.” interceptando más de 10 mil millones de mensajes fraudulentos por mes a través de su sistema de detección.
Espacio de coworking TNW City: donde ocurre su mejor trabajo
Un espacio de trabajo diseñado para el crecimiento, la colaboración y un sinfín de oportunidades de networking en el corazón de la tecnología.
Google dijo que se está coordinando con el FBI, que está tomando medidas policiales no especificadas. La compañía también está trabajando con AT&T, T-Mobile y Verizon para bloquear los mensajes de texto fraudulentos antes de que lleguen a los usuarios. El FBI no respondió a una solicitud de comentarios.
El caso es civil, no penal, lo que significa que Google busca cerrar la infraestructura en lugar de encarcelar a nadie. Las grandes empresas de tecnología lo utilizan cada vez más para llevar a cabo actividades de delitos cibernéticos cuando las fuerzas del orden actúan con lentitud o no actúan en absoluto, especialmente cuando los delincuentes se encuentran en jurisdicciones fuera del alcance de las autoridades occidentales.
La escala de la operación ilustra cuán baratas se han vuelto las estafas impulsadas por IA. Se necesitan desarrolladores capacitados para crear miles de páginas de phishing creíbles. Ahora un grupo de Telegram puede utilizar modelos de inteligencia artificial de Frontier para crear código e implementarlo a escala. La IA está abaratando las herramientas de ataque en todas las categorías, desde el descubrimiento de vulnerabilidades hasta la ingeniería social. Outsider Enterprise es lo que parece la distribución: fraude a escala industrial creado con inteligencia artificial disponible en el mercado.
Google dijo que continuará invirtiendo en la detección de estafas basada en inteligencia artificial e instó a los usuarios a habilitar sus funciones de protección contra spam en Android. Pero la incómoda verdad es que las mismas empresas que venden IA ahora están demandando a quienes la utilizaron para cometer delitos. La seguridad de los agentes de IA no es sólo una cuestión de características del producto. Cuando las herramientas son tan poderosas y accesibles, la carrera armamentista entre creadores y abusadores es permanente.
