En un mundo donde la inteligencia artificial avanza a pasos agigantados, Román Orús, físico y experto en computación cuántica, se alza como el único representante español en el Panel Científico Internacional de IA de la ONU. En sus propias palabras, «hay que frenar antes de que se nos vaya de las manos». Y es que detrás de esta frase hay una preocupación genuina por lo que podría significar dejar que estas tecnologías sigan su curso sin control.
El dilema del progreso descontrolado
Las grandes compañías tecnológicas están lanzando modelos cada vez más sofisticados, pero esa rapidez ha encendido alarmas incluso entre los propios líderes del sector. Figuras como Dario Amodei, CEO de Anthropic, han hecho un llamado a moderar este avance frenético. Todos temen que, en algún momento, esta evolución pueda escapar a nuestro control. Por otro lado, tenemos a Jensen Huang, CEO de Nvidia, quien cree firmemente que no hay razón para desacelerar el desarrollo y asegura que las posibilidades de una catástrofe global por culpa de la IA son prácticamente nulas.
Sin embargo, Orús no está convencido. En una reciente entrevista con EFE, hizo hincapié en la urgencia de regular esta tecnología: «Lo que necesitamos es una IA supervisada por humanos», dice con firmeza. No quiere un sistema que maneje nuestras vidas sin nuestra intervención; quiere garantizar que estemos al mando y no al revés. La realidad es clara: con un poder tan inmenso en juego, necesitamos asegurarnos de cómo entrenamos y gestionamos estas inteligencias artificiales.
Orús también subraya algo crucial: «Por muy buenas intenciones que tengamos, se nos puede ir de las manos». Los sistemas actuales pueden resolver problemas complejos con eficacia admirable, pero eso no significa que siempre utilicen métodos éticos o seguros para hacerlo. Ya han superado a los humanos en áreas como matemáticas y programación, lo cual debería hacernos reflexionar profundamente sobre hacia dónde nos dirigimos.
A medida que avanzamos hacia un futuro donde múltiples agentes de IA interactúan entre sí y con nosotros, Román Orús nos recuerda la necesidad imperiosa de establecer salvaguardias eficaces. Porque si les damos rienda suelta sin control adecuado podemos estar sembrando el terreno para un desastre inevitable.