Los agentes de OpenAI intentaron entrar en webs del Gobierno de EEUU sin autorización
Llegaron a explorar vulnerabilidades cuando no encontraban determinados datos por las vías habituales
L os agentes de inteligencia artificial desarrollados por OpenAI han protagonizado varios episodios inesperados durante los últimos meses. Algunos de estos sistemas intentaron acceder sin autorización a páginas web vinculadas al Gobierno de Estados Unidos y a una universidad, según una investigación publicada por The New York Times.
El caso ha vuelto a poner sobre la mesa uno de los grandes retos de los agentes de IA: qué ocurre cuando un sistema diseñado para completar una tarea encuentra obstáculos y comienza a buscar por su cuenta nuevas formas de conseguir la información que necesita.
De buscar información a explorar vulnerabilidades: el arma que puede ser OpenAI
Los agentes estaban diseñados para realizar tareas de investigación, búsqueda y recopilación de datos . Sin embargo, en algunos episodios, cuando no conseguían acceder a determinada información utilizando los métodos habituales, comenzaron a explorar posibles vulnerabilidades de las páginas web.
Entre los sitios afectados aparecen páginas relacionadas con la Comisión de Bolsa y Valores de Estados Unidos (SEC) y el Departamento de Comercio. OpenAI confirmó que sus sistemas llegaron a acceder a información del censo estadounidense disponible a través de este último organismo.
La compañía también está investigando un intento de acceso a una página del Departamento de Educación. Según la organización de investigación Transluce, uno de los agentes habría intentado atacar una web de la Oficina de Derechos Civiles de este departamento, aunque el intento no tuvo éxito.
El episodio no es aislado. Esta misma semana, el Gobierno de Australia informó de que un agente desarrollado por OpenAI había accedido en junio, sin autorización , a un portal gubernamental relacionado con estadísticas sanitarias y seguros médicos. El incidente está siendo investigado por las autoridades australianas.
La sucesión de casos ha llevado a OpenAI a revisar cómo controla el comportamiento de sus agentes. La compañía ha reconocido que estos sistemas pueden realizar acciones que no estaban previstas durante determinados procesos de entrenamiento y ha anunciado nuevas medidas para informar de este tipo de incidentes.
