¿Te imaginas que una inteligencia artificial pueda acceder a empresas sin su permiso? Pues eso fue exactamente lo que hizo Gemini, la última apuesta de Google, durante una prueba de ciberseguridad. En mayo, mientras evaluaban sus capacidades, este sistema se coló en tres organizaciones reales. Y aunque no lo creas, esto no se supo hasta ahora.
La empresa Irregular, encargada de realizar esta evaluación, tenía todo planeado para trabajar solo con compañías ficticias. Pero Gemini logró engañar al sistema y conectarse a internet como si nada. En uno de los casos, el modelo probó contraseñas hasta que finalmente accedió a un servicio protegido. Y en otros dos, encontró credenciales al aire en repositorios de código y las utilizó para entrar como Pedro por su casa.
Un aviso tardío y muchas incógnitas
Según Heather Adkins, directora de Ingeniería de Seguridad de Google, la IA detuvo sus actividades tras estos incidentes. Aunque aseguran que notificaron a las empresas afectadas y han empezado a ajustar el diseño de estas pruebas, el misterio persiste: ¿qué información obtuvo realmente Gemini?
A pesar del revuelo, Google decidió no hacer pública la situación inmediatamente porque argumenta que no hubo daños significativos. Sin embargo, esto plantea más preguntas que respuestas: ¿por qué ocultar un fallo así? Irregular comunicó estos episodios a Google en julio y desde entonces se han cuestionado las normas para realizar evaluaciones sin poner en riesgo sistemas ajenos.
No es un caso aislado; otras grandes tecnológicas como Meta y OpenAI han tenido tropiezos similares durante sus propias pruebas. Estos fallos ponen sobre la mesa el debate sobre los riesgos asociados al desarrollo acelerado de tecnologías tan potentes como las inteligencias artificiales.