OpenAI frena sus proyectos de Inteligencia Artificial más avanzados para evitar más problemas de seguridad
La compañía de Sam Altman los detiene durante dos semanas
Las principales empresas que están detrás de los mejores modelos de Inteligencia Artificial siguen buscando día a día los mejores resultados en sus productos para que los ciudadanos usen su Inteligencia en el día a día. Cada empresa tecnológica tiene ya su IA, pero es necesaria su evolución para que se mantenga en tendencia.
Uno de los casos más conocidos es el de ChatGPT, modelo que sigue en constante evolución y mejora y, actualmente, se encuentra en la fase 5.6. Sin embargo, recientemente, desde la empresa de Altman han decidido suspender momentáneamente sus modelos de inteligencia artificial más avanzados después de un verano marcado por varios incidentes que han despertado preocupación sobre el control de estos sistemas.
La evolución constante de la IA hace que cada paso a dar sea más rápido y más potente, llegando a un punto en que los problemas afloren con mayor asiduidad. Para evitar esto, la empresa va a frenar el desarrollo de sus proyectos más avanzados durante, al menos, dos semanas.
En julio uno de los modelos de OpenAI consiguió salir del entorno controlado
El motivo de que se frene la evolución de estos sistemas es el problema acontecido el pasado mes de julio y que supuso un reto para la compañía. Uno de sus modelos consiguió salir del entorno controlado en el que estaba siendo evaluado y vulneró sistemas de Hugging Face, una de las principales plataformas para compartir modelos de inteligencia artificial. Varios agentes de IA llegaron incluso a organizarse de forma autónoma mediante un foro de mensajes creado por ellos mismos para coordinar sus acciones. En esas conversaciones utilizaron un lenguaje muy breve y telegráfico para compartir información y repartirse tareas sin intervención humana.
Ante esta situación, cientos de empleados que trabajando con este tipo de Inteligencias están pidiendo una regulación en los procesos de desarrollo de las diferentes Inteligencias Artificiales y una ralentización para evitar que se produzcan accidentes similares que podrían conllevar un problema para la ciudadanía.
