La plataforma de inteligencia artificial Hugging Face, una de las más grandes del mundo, se encuentra en medio de un torbellino mediático. Recientemente, ha sido acusada de permitir la creación de imágenes que desnudan a mujeres y menores sin su consentimiento. Un grupo de investigadores europeos ha destapado esta alarmante situación al revelar que siete de las nueve herramientas analizadas en la plataforma son capaces de generar desnudos falsos sin necesidad de recurrir a trucos o engaños.
Un grave problema que no podemos ignorar
Imagina que te encuentras navegando en una plataforma donde cualquier persona puede subir y compartir modelos y aplicaciones de IA. Eso es exactamente lo que hace Hugging Face: un espacio abierto para desarrolladores e investigadores. Sin embargo, tras este enfoque accesible, se oculta una realidad inquietante. La investigación reveló cómo, al probar algunas funciones simples —sin necesidad de ser un experto— se pueden crear imágenes altamente sexuales y falsas con solo presionar un botón.
Los investigadores tomaron fotografías normales y solicitaron ediciones específicas; la respuesta fue escalofriante: las herramientas generaron imágenes desnudas instantáneamente. Esta situación plantea serias preguntas sobre la ética detrás del uso de la inteligencia artificial. Aunque Hugging Face tiene políticas contra este tipo de contenido, parece que el sistema depende demasiado del reporte manual para identificar infracciones.
No podemos quedarnos callados ante este escenario. Es inaceptable que el 95% de las solicitudes para sexualizar imágenes estaban dirigidas a mujeres y un 6,7% hacia menores. Esto no solo es preocupante desde el punto de vista moral, sino también social. Las voces críticas exigen soluciones inmediatas antes de que estas prácticas se normalicen aún más en nuestra sociedad digital.