Una investigación de WIRED revela cómo Telegram alberga bots que generan desnudos falsos mediante IA, planteando un desafío inmenso para la protección de la privacidad y la moderación. Mientras se intenta frenar la difusión de estos contenidos, el problema se agrava con el avance de la tecnología y la facilidad para crear imágenes sintéticas.
Bots en Telegram: desnudos falsos con IA al alcance de millones
Desde 2019, la tecnología de IA ha evolucionado, y lo que comenzó con herramientas como DeepNude se ha convertido hoy en un problema global. Actualmente, Telegram aloja decenas de bots que crean imágenes falsas de personas desnudas, muchas veces sin su consentimiento, afectando a millones de usuarios. Según WIRED, al menos 50 de estos bots operan con más de cuatro millones de usuarios mensuales, representando una violación directa de la privacidad y el honor de las personas.
Cómo funcionan estos bots y por qué son tan difíciles de eliminar
Estos bots funcionan mediante el uso de tokens que los usuarios compran con dinero real o criptomonedas, ofreciendo la promesa de crear imágenes precisas y personalizadas. Sin embargo, el problema real es que Telegram, al ser una plataforma con opciones de anonimato y pocos filtros de contenido, se convierte en un espacio ideal para que estos bots operen. Aunque Telegram ha eliminado algunos bots reportados, la capacidad para detectarlos y eliminarlos es limitada, y muchos logran resurgir bajo otros nombres.
Los esfuerzos y desafíos de la industria contra los deepfakes
Frente a este problema, algunas empresas de tecnología han comenzado a implementar marcas de agua invisibles en el contenido generado con IA para facilitar su detección. Sin embargo, esta solución depende de que todas las herramientas de IA, tanto comerciales como de uso personal, adopten estas marcas. A nivel legal, algunos países como Corea del Sur han endurecido las penas por poseer o generar contenido de deepfake, pero la regulación global sigue siendo insuficiente.
Una batalla constante en la moderación de contenido sintético
La creación de deepfakes es una problemática cada vez más compleja, y luchar contra su proliferación en plataformas como Telegram es un desafío monumental. Mientras tanto, el avance de la tecnología IA hace que sea más sencillo crear este tipo de contenido, aumentando la dificultad para diferenciar entre lo real y lo falso.