En un mundo donde la tecnología avanza a pasos agigantados, algunas aplicaciones están cruzando líneas que nunca debieron ser traspasadas. Hablamos de DeepNude, una app que cerró sus puertas en 2019, pero no sin dejar su huella. Imagina que uno de cada diez menores en Estados Unidos reconoce conocer a alguien que ha usado inteligencia artificial para crear desnudos falsos. Suena alarmante, ¿verdad? Esta es una de las impactantes conclusiones de un estudio publicado por la ONG Thorn, dedicada a proteger la infancia del abuso sexual.
La inquietante realidad de las ‘nudify apps’
No se trata solo de acoso escolar; el problema va mucho más allá. Estas herramientas de IA generativa están al alcance de cualquiera y representan un peligro real para nuestra sociedad. En España, el Consejo de Ministros ya ha tomado cartas en el asunto, aprobando una ley que castiga con hasta dos años de cárcel la creación y difusión de imágenes sexuales generadas por IA.
Meta, la empresa matriz detrás de Facebook e Instagram, ha decidido no quedarse atrás y ha presentado una demanda contra Joy Timeline HK Limited, responsable de CrushAI. Esta aplicación prometía desnudar a cualquier persona con solo subir una fotografía. La denuncia revela cómo los creadores intentaron evadir los controles publicitarios repetidamente.
A pesar del esfuerzo por parte de Meta para bloquear estos anuncios -miles fueron eliminados-, el problema persiste. Las nudify apps siguen proliferando en plataformas como Telegram y X (anteriormente Twitter), presentándose como simples filtros fotográficos mientras ocultan su verdadero propósito: crear pornografía falsa.
Pese a los esfuerzos legislativos y tecnológicos, este fenómeno sigue creciendo rápidamente y afecta principalmente a mujeres y menores. Los vacíos legales son evidentes, y mientras tanto, el uso indebido continúa siendo un arma peligrosa en manos equivocadas. La denuncia de Meta es solo un capítulo más en esta historia preocupante que nos invita a reflexionar sobre cómo protegemos nuestra privacidad en esta era digital.