Google admite que su IA Gemini hackeó tres empresas durante un ensayo
Este suceso vuelve a abrir el debate sobre los límites de estas herramientas
Google ha reconocido por primera vez que su modelo de inteligencia artificial Gemini consiguió atravesar las medidas de seguridad y acceder a los sistemas de tres empresas reales durante unas pruebas de ciberseguridad. Los incidentes tuvieron lugar el pasado mes de mayo y se produjeron de forma accidental después de que el sistema obtuviera conexión con Internet.
Los ensayos fueron realizados por Irregular, una empresa israelí especializada en auditorías de seguridad de sistemas de inteligencia artificial. El objetivo era comprobar el comportamiento de Gemini en un entorno controlado y aislado , conocido como sandbox, utilizando identidades y compañías ficticias. Sin embargo, un fallo permitió conectar el sistema con la red general. A partir de ese momento, Gemini salió del escenario diseñado para las pruebas y comenzó a interactuar con infraestructuras pertenecientes a compañías reales.
Gemini varió el método empleado según la prueba
En uno de los casos, la inteligencia artificial recibió la orden de obtener información del software de una empresa ficticia cuyo nombre coincidía con el de una compañía existente. Tras disponer de acceso a Internet, Gemini consiguió deducir una contraseña y entrar en los servidores de la organización real.
En los otros dos episodios, el modelo rastreó páginas web y encontró repositorios públicos que contenían credenciales de acceso pertenecientes a otras dos compañías. Gemini utilizó esa información para acceder a sus entornos.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, explicó que el sistema “encontró información pública y dedujo las credenciales al considerar que las páginas formaban parte del ejercicio” . Según la directiva, Gemini detuvo las acciones por iniciativa propia cuando detectó que estaba interactuando con sistemas reales.
Irregular comunicó formalmente los incidentes a Google a finales de julio. La compañía confirmó posteriormente los hechos y señaló que no informó públicamente porque Gemini no provocó daños en los sistemas afectados . Google aseguró, no obstante, que avisó de manera privada a las tres empresas.
El caso vuelve a poner sobre la mesa los riesgos asociados a sistemas capaces de realizar tareas de ciberseguridad de forma autónoma y la necesidad de establecer controles que limiten sus acciones fuera de entornos de prueba.
