Los “NUDIFY” BOTS CREAN IMÁGENES AI NUDAS EN SEGUNDOS Y SE CONVIERTEN EN UNA AMENAZA EN TELEGRAM

Publicado el 15 de octubre de 2024 por Brooke Kato

Los chatbots en línea están generando imágenes desnudas de personas reales a pedido de los usuarios, lo que ha suscitado preocupación entre los expertos, quienes temen que estos deepfakes explícitos creen “un escenario verdaderamente aterrador”.

Una investigación de Wired sobre la aplicación de mensajería Telegram descubrió docenas de chatbots impulsados por inteligencia artificial que supuestamente “crean fotos o videos explícitos de personas con solo unos pocos clics”. Algunos “eliminan ropa” de las imágenes proporcionadas por los usuarios, mientras que otros afirman poder fabricar fotos X-rated de personas participando en actividades sexuales.

La publicación estimó que aproximadamente 4 millones de usuarios al mes aprovechan las capacidades de deepfake de estos chatbots, de los cuales se estima que hay unos 50. Estos bots generativos de IA prometen entregar “cualquier cosa que quieras sobre la cara o la ropa de la foto que me des”, reportó Wired.

“Estamos hablando de un aumento significativo y de órdenes de magnitud en el número de personas que claramente están usando y creando este tipo de contenido”, dijo Henry Ajder, experto en deepfakes, quien fue uno de los primeros en descubrir este mundo subterráneo de chatbots explícitos en Telegram hace cuatro años.

“Es muy preocupante que estas herramientas, que están arruinando vidas y creando un escenario verdaderamente aterrador principalmente para las chicas jóvenes y mujeres, aún sean tan fáciles de acceder y encontrar en la superficie web, en una de las aplicaciones más grandes del mundo”.

Los deepfakes pornográficos han afectado a celebridades como Taylor Swift y Jenna Ortega, pero también hay informes recientes sobre adolescentes que han sido utilizadas para crear fotos desnudas deepfake, algunas de las cuales se han utilizado en casos de “sextorsión”. Una encuesta reciente reveló que el 40% de los estudiantes en EE.UU. informaron sobre la circulación de deepfakes en sus escuelas.

A pesar de que los sitios de deepfake han prosperado, han sido objeto de intensa escrutinio por parte de los legisladores. En agosto, la oficina del fiscal de San Francisco demandó a más de una docena de sitios web que “desnudan” a mujeres y niñas.

En Telegram, los bots pueden ser utilizados para traducciones, juegos y alertas o, en este caso, para crear deepfakes peligrosos. Cuando Wired se puso en contacto sobre el contenido explícito de los chatbots, la compañía no respondió, pero los bots y canales asociados desaparecieron repentinamente, aunque los creadores prometieron “crear otro bot” al día siguiente.

“Estos tipos de imágenes falsas pueden dañar la salud y bienestar de una persona al causar trauma psicológico y sentimientos de humillación, miedo, vergüenza y pena”, afirmó Emma Pickering, responsable de abuso facilitado por tecnología y empoderamiento económico de la organización de abuso doméstico Refuge.

Sin embargo, los expertos opinan que Telegram debería ser considerado responsable. “Telegram proporciona la funcionalidad de búsqueda, por lo que permite identificar comunidades, chats y bots”, dijo Ajder.

“Proporciona la funcionalidad de alojamiento de bots, por lo que es un lugar que efectivamente proporciona las herramientas. Luego es también el lugar donde puedes compartirlo y ejecutar el daño en términos del resultado final”.

Conclusión

El auge de los chatbots que generan imágenes desnudas a través de la IA plantea serias preocupaciones sobre la privacidad y la seguridad de las personas afectadas. Estos desarrollos resaltan la necesidad urgente de regulaciones más estrictas que protejan a las personas, en particular a las jóvenes, de ser víctimas de este tipo de abusos digitales. Es esencial que plataformas como Telegram tomen acciones más decisivas para abordar estos problemas y resguardar a sus usuarios.

Preguntas para la Audiencia

¿Qué opinas sobre la falta de regulación en el uso de IA para crear deepfakes?

¿Cómo crees que estas tecnologías impactarán a la privacidad de las personas en el futuro?

¿Consideras que las plataformas tecnológicas hacen lo suficiente para proteger a sus usuarios de estas amenazas?