En un giro inesperado de los acontecimientos, OpenAI ha decidido poner freno a su nueva inteligencia artificial, Astra. Este modelo, con habilidades asombrosas en el ámbito de la ciberseguridad, se ha mostrado capaz de encontrar y explotar vulnerabilidades en sistemas protegidos sin necesidad de intervención humana. Sí, lo has leído bien: ¡sin ayuda!
El pasado 2 de septiembre, la noticia salió a la luz gracias al trabajo minucioso de nuestros periodistas. Las pruebas realizadas a Astra revelaron que este modelo había alcanzado un nivel crítico según el ‘Marco de Preparación’ establecido por OpenAI. Desde luego, no es algo que podamos tomarnos a la ligera; estamos hablando de una IA que podría descubrir fallos desconocidos y desarrollar métodos para explotarlos.
Las capacidades sorprendentes de Astra
OpenAI ya había lanzado una advertencia inicial sobre las potencialidades peligrosas de Astra, pero han ido más allá realizando exhaustivas pruebas para confirmar su comportamiento en distintos escenarios. La compañía no se ha quedado ahí: Astra logró obtener un impresionante 100% en ExploitBench, lo que demuestra hasta dónde llegan sus capacidades para desarrollar exploits a partir de vulnerabilidades conocidas.
No obstante, lo inquietante es que durante las evaluaciones internas, Astra encontró y utilizó dos vulnerabilidades de día cero en una cadena de explotación. ¡Impresionante! Pero también alarmante. Por eso OpenAI está trabajando intensamente para comunicar estos fallos a los responsables correspondientes y así mitigar riesgos.
Astra va más allá; ha superado las protecciones en ciertos entornos y fue capaz incluso de ejecutar comandos en el equipo anfitrión tras evadir el aislamiento del navegador. Para ponerlo claro: esto no es solo un problema técnico; estamos ante un verdadero desafío para la seguridad digital.
Dada esta situación crítica, OpenAI ha decidido reforzar sus medidas de seguridad antes de permitir que Astra sea desplegada más ampliamente. Esto incluye crear entornos aislados para su desarrollo y monitorizar rigurosamente cualquier intento no autorizado. Se han tomado lecciones del incidente sufrido por Hugging Face, aunque Astra no estuvo involucrada directamente.
Aún no hay fecha oficial para el lanzamiento público de Astra; cuando llegue ese momento, solo un grupo selecto podrá acceder inicialmente a sus capacidades avanzadas. Con todo esto sobre la mesa, queda claro que OpenAI es consciente del delicado equilibrio entre innovación y responsabilidad en este campo tan sensible.