¿Alguna vez te has parado a pensar en lo que realmente sucede cuando le pides a ChatGPT que genere imágenes? Este chatbot, creado por OpenAI en 2022 y ya una referencia en el mundo de la inteligencia artificial, tiene sus propias limitaciones. A pesar de su popularidad, hay dos errores garrafales que parecen estar incrustados en su funcionamiento y que no se corrigen fácilmente.
Los errores que nadie esperaba
En una charla reveladora con el divulgador Robinson Erhardt, el profesor Ned Block, filósofo y psicólogo de la Universidad de Nueva York, expone estos problemas. El primero es bastante curioso: si le pides un dibujo de un reloj marcando horas como las 12:03 o las 6:28, el resultado será siempre un reloj a las 10:10. ¿Por qué ocurre esto? Según Block, esto se debe a que “las imágenes de relojes en internet están dominadas por las 10:10 porque es la disposición más atractiva”. Es como si el algoritmo estuviera atrapado en una especie de estándar visual.
Pero eso no es todo. Si intentas ver cómo se vería una persona escribiendo con la mano izquierda, ¡prepárate para decepcionarte! La imagen que obtendrás siempre mostrará a un diestro. Block comenta con frustración: «Siempre obtienes una mano derecha». Él mismo ha hecho pruebas para intentar obtener esa representación correcta, pero admite que “no ha sido fácil”. La situación lleva al profesor a señalar algo inquietante: “OpenAI sabe perfectamente que esto pasa y no han sido capaces de arreglarlo”. Y es aquí donde reside uno de los grandes dilemas del aprendizaje automático.
A veces parece que este entrenamiento por refuerzo simplemente no está funcionando como debería. Como dice Block, habría que reforzar demasiadas horas además de las famosas 10:10. Y mientras tanto, la IA sigue sin entender cuándo debe hacer excepciones o seguir reglas establecidas. Esta realidad nos deja mucho para pensar sobre hacia dónde nos dirigimos con estas tecnologías tan avanzadas pero aún tan imperfectas.