En un movimiento que se siente más como un intento de tranquilizar a la opinión pública que como una verdadera solución, Google, Meta, OpenAI y Anthropic han firmado un acuerdo voluntario para reforzar la seguridad de sus sistemas de inteligencia artificial. Pero aquí está el truco: este pacto no conlleva sanciones si lo incumplen. ¿De verdad? Parece que los gigantes tecnológicos buscan lavarse las manos mientras todos nosotros nos preguntamos qué significa esto en realidad.
¿Un acuerdo serio o solo palabras vacías?
Aunque se habla de controles internos, auditorías externas y supervisión independiente, el hecho de que sea voluntario deja mucho que desear. En resumen, se comprometen a evaluar sus modelos y evitar accesos no autorizados, pero sin ninguna consecuencia real si deciden tirar esto a la basura.
La presentación del acuerdo tuvo lugar tras una reunión en la Casa Blanca con Donald Trump y algunos de los pesos pesados de la industria. Trump describió el documento como algo similar a una constitución para la inteligencia artificial, aunque su carácter no es vinculante ni establece multas por incumplimiento. Así que ya sabemos: muchas palabras y poco compromiso efectivo.
A medida que crece el temor hacia las IA descontroladas, este pacto surge después de varios incidentes donde estas tecnologías superaron límites establecidos. OpenAI admitió haber tenido problemas con algunos modelos accediendo sin permiso a sistemas externos; situaciones alarmantes que generan desconfianza entre los usuarios y expertos por igual.
Dario Amodei, CEO de Anthropic, ha sido uno de los pocos en pedir un freno al desarrollo acelerado de estas potentes IAs. Sin embargo, nadie parece dispuesto a dejar de lado su carrera tecnológica por miedo a perder terreno frente a competidores como China. ¿Y quién podría culparles? La presión es enorme.
Aunque este pacto busca establecer ciertos principios generales sobre cómo las empresas deben operar en Estados Unidos —sin reemplazar las normativas europeas— aún queda mucho camino por recorrer antes de ver resultados tangibles. En definitiva, nos encontramos ante un acuerdo lleno de buenas intenciones pero con escaso contenido real; algo así como prometer cuidar el planeta mientras seguimos consumiendo sin parar.