Expertos en inteligencia artificial coinciden: “La IA podría matar a todos los humanos; hay más de 10% de probabilidad en la próxima década”

La inteligencia artificial continúa avanzando a una velocidad que ha sorprendido incluso a algunos de sus propios desarrolladores. Mientras empresas como Anthropic, OpenAI y otros laboratorios buscan crear modelos con mayores capacidades, algunos especialistas en seguridad de IA alertan sobre escenarios extremos que podrían poner en riesgo a la humanidad.

Uno de los mensajes más contundentes llegó de Evan Hubinger , investigador de alineamiento de inteligencia artificial en Anthropic , quien aseguró que existe una posibilidad superior al 10% de que sistemas futuros de IA provoquen la desaparición humana durante la próxima década. La cifra corresponde a su valoración personal y no a una predicción científica comprobada.

¿Por qué Anthropic advierte sobre el posible peligro de la inteligencia artificial?

El debate surge desde una de las áreas más importantes dentro del desarrollo tecnológico: el alineamiento de inteligencia artificial, una disciplina que busca garantizar que los sistemas avanzados mantengan objetivos compatibles con los intereses humanos.

Hubinger explicó que su preocupación no está centrada en herramientas actuales como los asistentes conversacionales, sino en una hipotética superinteligencia artificial , es decir, sistemas con capacidades superiores a las humanas en múltiples campos y con la posibilidad de participar en su propio desarrollo.

El investigador escribió que “realmente creemos que la IA podría matar a todos los humanos” y estimó personalmente que ese escenario tendría una probabilidad mayor al 10% en los próximos diez años.

Datos clave sobre el debate de seguridad en IA:

Investigador involucrado: Evan Hubinger.

Empresa: Anthropic, creadora del modelo Claude.

Riesgo señalado: una posible superinteligencia fuera de control.

Periodo estimado por Hubinger: próxima década.

Sin embargo, especialistas aclaran que esta posibilidad no significa que los sistemas actuales tengan intención de dañar a las personas ni que exista evidencia de un comportamiento hostil autónomo.

¿Qué preocupa a los expertos sobre el futuro de los modelos de IA?

La principal inquietud está relacionada con una posible mejora recursiva, un escenario en el que una inteligencia artificial pueda ayudar a diseñar versiones más avanzadas de sí misma.

Anthropic ha señalado que este tipo de desarrollo todavía no existe y tampoco está garantizado , pero reconoce que la inteligencia artificial ya participa cada vez más en tareas relacionadas con la creación y evaluación de nuevas tecnologías.

Los expertos temen que, si llegaran a existir sistemas con capacidades superiores y sin mecanismos adecuados de control, los humanos podrían enfrentar dificultades para supervisarlos.

Entre los riesgos analizados por investigadores están:

Pérdida de control sobre sistemas altamente autónomos.

Objetivos de IA que no coincidan con los intereses humanos.

Uso irresponsable de modelos cada vez más avanzados.

Competencia acelerada entre empresas tecnológicas.

¿Por qué investigadores de OpenAI y Anthropic piden más precaución?

La advertencia de Hubinger apareció después de la salida de Jacob Coxon , investigador que anteriormente trabajó en OpenAI y Anthropic , quien cuestionó la velocidad con la que avanza la industria.

Coxon señaló que las compañías tecnológicas enfrentan una competencia intensa por desarrollar sistemas más capaces, una situación que podría dificultar que los laboratorios decidan reducir el ritmo de sus investigaciones.

Además, Anthropic ha reportado incidentes durante pruebas de seguridad en los que modelos experimentales mostraron comportamientos inesperados dentro de entornos controlados . La empresa aclaró que estos experimentos fueron diseñados precisamente para detectar posibles fallas y no representan una evidencia de que los modelos actuales busquen perjudicar a los humanos .