En un giro inquietante que nos deja sin palabras, una investigación del diario Wired ha revelado la existencia de más de 400 aplicaciones y sitios web que operan en las sombras, ofreciendo herramientas para crear deepfakes sexuales. Pero no solo eso; también se han encontrado materiales perturbadores relacionados con abuso sexual infantil generado por inteligencia artificial. ¿Qué está pasando aquí?
A medida que la inteligencia artificial avanza, también lo hacen sus usos abusivos. Nos encontramos ante una tecnología capaz de manipular imágenes y vídeos hasta hacerlos casi indistinguibles de la realidad, y eso plantea serias preocupaciones. Aunque las plataformas como App Store o Google Play intentan regular este contenido, la detección sigue siendo un desafío. La investigación ha mostrado que estas aplicaciones se disfrazan bajo capas de normalidad mientras esconden funciones peligrosas.
Desenmascarando a los responsables
Toma como ejemplo a Viefur, una app que vendía monedas digitales para convertir fotos de animales en retratos humanos vestidos. Lo escalofriante es que el mismo servidor decidía si mostrar su versión inofensiva o una interfaz cargada de plantillas pornográficas. Detrás de esta operación maliciosa, Wired apunta a desarrolladores chinos y a una empresa registrada en Hong Kong llamada KeLing Technology Limited. Los indicios son claros: servidores ubicados en China, código repleto de comentarios en chino e incluso marcas de agua en los anuncios provenientes de programas locales.
A través del rastreo incansable en redes sociales como Facebook e Instagram, Wired logró identificar estas aplicaciones después de seguir enlaces incluidos en miles de anuncios con deepfakes explícitos. El resultado fue alarmante: cientos de publicaciones con contenido relacionado con abuso sexual infantil alcanzaron a decenas de miles de usuarios, quebrantando múltiples normas establecidas por Meta.
Pese al esfuerzo por frenar esta ola oscura —Google Play llegó a albergar 27 apps con más de 350.000 descargas— el daño ya estaba hecho. Algunas apps estaban catalogadas como aptas para todos los públicos y un usuario llegó a advertir sobre material ilegal disponible sin ni siquiera comprobar la edad del usuario. A pesar del intento por eliminar ciertas aplicaciones tras alertar a Apple sobre ellas, el fenómeno persiste.
No podemos quedarnos callados ante esto; es fundamental visibilizar estos temas y exigir medidas efectivas para proteger nuestra comunidad frente al uso irresponsable e inmoral de tecnologías tan poderosas.