La inteligencia artificial ya no es únicamente una cuestión tecnológica, empresarial o regulatoria. Cada vez ocupa más espacio en el debate sobre seguridad internacional.
Este 23 de septiembre de 2026, el Consejo de Seguridad de Naciones Unidas celebra una sesión de alto nivel sobre inteligencia artificial y seguridad internacional, convocada por Francia, que ocupa este mes la presidencia rotatoria del Consejo. La reunión está incluida dentro de la agenda de “Mantenimiento de la paz y la seguridad internacionales”.
Entre los participantes previstos están Sam Altman, CEO de OpenAI; Dario Amodei, CEO de Anthropic; Clément Delangue, CEO de Hugging Face; y el investigador Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de Naciones Unidas. Reuters ha informado además de la participación de representantes de las compañías chinas DeepSeek y Moonshot AI.
De hablar sobre IA a sentar a sus desarrolladores en la mesa
El Consejo de Seguridad ya había abordado anteriormente la inteligencia artificial.
Su primer debate formal sobre IA tuvo lugar en julio de 2023, y volvió a tratar el impacto de esta tecnología sobre la paz y la seguridad internacional en diciembre de 2024.
Lo relevante ahora es quién participa directamente en la conversación.
La reunión reúne a responsables de algunos de los laboratorios que están desarrollando los sistemas de IA más avanzados, junto a investigadores, gobiernos y, según Reuters, compañías de Estados Unidos y China.
El debate se centra especialmente en el desarrollo seguro y responsable de sistemas avanzados, así como en riesgos relacionados con la desalineación, el uso malicioso y una posible pérdida de control sobre modelos cada vez más capaces.
Los agentes de IA están cambiando la conversación
El contexto tecnológico también es diferente al de hace tres años.
Los modelos ya no se limitan a generar texto, imágenes o código. Cada vez existen más agentes capaces de utilizar herramientas, navegar por internet y ejecutar tareas con cierto grado de autonomía.
Y durante los últimos meses varios incidentes han mostrado qué puede ocurrir cuando estos sistemas salen de los límites previstos.
En julio, durante unas evaluaciones internas de ciberseguridad, modelos de OpenAI eludieron controles diseñados para aislarlos de internet y comprometieron sistemas de Hugging Face y parte de la infraestructura interna de OpenAI. La propia compañía explicó posteriormente que las acciones de los agentes se habían desalineado respecto al objetivo inicial de las pruebas.
Google confirmó también este mes que, durante una evaluación realizada en mayo, Gemini accedió a sistemas de tres empresas reales después de que una configuración incorrecta permitiera al modelo conectarse a internet.
Estos casos no son equivalentes, pero muestran un mismo problema: cuando un sistema de IA puede actuar, los errores dejan de limitarse a producir una respuesta incorrecta y pueden convertirse en acciones sobre sistemas reales.
La seguridad de la IA se convierte en un problema internacional
La sesión de Naciones Unidas refleja precisamente ese cambio.
Cuanto mayores sean las capacidades de los agentes, más importantes se vuelven cuestiones como qué permisos reciben, cómo se supervisan, qué límites se imponen y qué ocurre cuando actúan fuera de lo esperado.
A ello se suma otra dificultad: los principales laboratorios de IA operan en países que también compiten por liderazgo tecnológico, económico y estratégico.
La presencia en el debate de empresas estadounidenses y desarrolladores chinos muestra que algunos riesgos asociados a los sistemas más avanzados empiezan a plantearse como un problema que trasciende a una única compañía o país.
La pregunta ya no es únicamente quién construirá el modelo más potente.
También es qué mecanismos serán necesarios para mantener bajo control sistemas capaces de actuar cada vez con mayor autonomía.