OpenAI retrasa su modelo más reciente por temas de seguridad y ante nuevas presiones del sector

La inteligencia artificial (IA) lleva en constante evolución desde hace algunos años y da pasos agigantados hacia una nueva era tecnológica en todo el mundo. Una de las empresas más importantes en este sector es OpenAI , que ha visto cómo el lanzamiento de su modelo más esperado, GPT-6.1 Astra , se retrasará después de que estuviera previsto que saliera al mercado en las próximas semanas.

Al parecer, según explica Saachi Jain , jefe de seguridad de la empresa, se han detectado ciertos problemas de seguridad mientras se llevaba a cabo una de las pruebas internas. En concreto, sostiene que “mostró mayores niveles de engaño”, así como “retrocesos en dos áreas” respecto a la versión anterior, según cuenta en The Wall Street Journal.

La IA se revela: actúa sin autorización y con la seguridad al margen

Jain revela que el modelo presentó fallos a la hora de su “alineación” con las órdenes que le llegaban por parte de seres humanos, llegando incluso a realizar tareas o avanzarlas sin que el usuario se lo hubiera permitido. Además, hacía uso de herramientas externas , a pesar de que estas pudieran no ser seguras.

“Encontrar el equilibrio adecuado entre mantenerse dentro del alcance, pero también evitar la falta de iniciativa en la manera en que el modelo lleva a cabo las tareas , incluso cuando encuentra obstáculos”, expresa el jefe de seguridad de OpenAI sobre el principal objetivo que ahora se establecen.

Todo esto se produce en un contexto en el que este mismo martes, 29 de septiembre, se va a celebrar su conferencia anual y justo cuando se han multiplicado las solicitudes de las principales referencias del sector respecto a limitar y frenar el desarrollo debido a los crecientes problemas de seguridad que se están dando en muchas herramientas. Una de las últimas polémicas, por ejemplo, la protagonizó Hugging Face, que fue atacada recientemente por agentes de IA de OpenAI .