IA en el ámbito militar: Inria Chile en el Paris Peace Forum 2025

La 8ª edición del Foro de la Paz de París, una iniciativa anual lanzada por el Presidente de Francia, Emmanuel Macron, en 2018, se celebró el 29 y 30 de octubre de 2025, consolidándose como un evento clave para la diplomacia y la gobernanza global. Bajo el lema "Nuevas coaliciones para la paz, las personas y el planeta", el Paris Peace Forum 2025 destacó la urgencia de forjar nuevas alianzas para abordar los desafíos globales en un contexto marcado por la fragmentación política y la multiplicación de conflictos.

En este marco, se realizó el workshop “From disruptive code to restrained conflict: Governing the war-to-peace continuum of emerging technologies”. La instancia abordó cómo los conflictos recientes han integrado masivamente las tecnologías de la información, las capacidades cibernéticas y los sistemas basados en Inteligencia Artificial (IA) en las operaciones militares, planteando nuevos retos para el derecho internacional y la protección de la población civil.

Nayat Sánchez-Pi, Directora de Inria Chile y del Centro Binacional Franco-Chileno de Inteligencia Artificial, participó en la primera mesa redonda del encuentro, titulada “Governing emerging means of warfare” junto a Sofía Romansky, Analista Estratégica del Centro de Estudios Estratégicos de La Haya, Saeed Aldhaheri, Director del Centro de Estudios Futuros de la University of Dubai; Bruce Watson, Presidente de Qorsa Labs y Ernst Noorman, Embajador especial para asuntos cibernéticos de los Países Bajos. 

La sesión se centró en la IA como una tecnología transformadora que está moldeando nuestra civilización y sus profundas implicaciones en el dominio militar. Se revisó el impulso político internacional sobre el uso responsable de la IA en el ámbito militar y se debatieron las principales conclusiones y recomendaciones de informes estratégicos para mejorar la cooperación internacional y los mecanismos de gobernanza.

En su intervención, Nayat Sánchez-Pi destacó que el desafío de seguridad más urgente de la actualidad ya no se limita a la fuerza cinética, sino que ha evolucionado hacia una "guerra cognitiva". Sostuvo que los conflictos modernos se libran en el plano cognitivo, buscando subvertir a los usuarios de las redes en lugar de solo derribar las redes mismas.

El objetivo central de esta nueva forma de conflicto, según menciona, es manipular el espacio de toma de decisiones humano. Esto se logra alimentando la desconfianza, desestabilizando instituciones y distorsionando las decisiones de las sociedades. Esta es una batalla que se libra utilizando información digital, lo que significa que la población civil, sus datos y su atención forman parte del frente.

La directora de Inria Chile comentó que la inteligencia artificial se encuentra en el centro de este conflicto, presentando un profundo problema de doble uso.

• Como escudo: La IA es nuestra defensa más prometedora, utilizada para la ciberdefensa en tiempo real, la detección de anomalías y la automatización de sistemas de protección.

• Como arma: Los adversarios la utilizan para automatizar ataques sofisticados, diseñados para "hackear personas". Estos ataques aprovechan los sesgos cognitivos inherentes a la mente humana y utilizan nuestra propia huella digital en nuestra contra.

La consecuencia, según Sánchez-Pi, es una doble amenaza: no solo peligran los sistemas técnicos, sino que, también la capacidad de juicio racional y el funcionamiento democrático.

El informe “Responsible by Design: Strategic Guidance Report on the Risks, Opportunities, and Governance of Artificial Intelligence in the Military Domain" es el resultado de 18 meses de trabajo de los expertos que componen la Comisión Global sobre IA Responsable en el Dominio Militar (GC REAIM). Esta Comisión es una iniciativa lanzada por el Ministerio de Asuntos Exteriores del Reino de los Países Bajos, y el Centro de Estudios Estratégicos de La Haya (HCSS) actuó como su Secretariado. 

Entre los expertos participantes de la Comisión destaca el aporte de la Directora de Inria Chile, Nayat Sánchez-Pi, como miembro del Grupo Asesor de Expertos desde marzo de 2024. Para Nayat Sánchez-Pi, la participación de instituciones como Inria en la preparación de reportes como este, es esencial. 

El informe aborda la integración de la inteligencia artificial (IA) en el ámbito militar, destacando las profundas implicaciones que esto tiene para la conducción de conflictos y la gestión de la paz internacional. Reconoce que la IA, y en particular el aprendizaje automático (ML), plantea serias preocupaciones éticas, legales y operativas que desafían las nociones convencionales de agencia humana y responsabilidad. Para mitigar estos riesgos, la Comisión promueve un enfoque de "responsabilidad por diseño", asegurando que el cumplimiento ético y legal se integre desde la etapa más temprana de desarrollo y durante todo el ciclo de vida del sistema de IA. 

El documento fue lanzado durante la 80.ª Asamblea General de las Naciones Unidas de 2025 en Nueva York el 25 de septiembre de 2025 por los Países Bajos, en el debate del Consejo de Seguridad de las Naciones Unidas sobre «La inteligencia artificial y la paz y la seguridad internacionales», presidido por la República de Corea. 

Articula tres principios rectores: el cumplimiento del derecho internacional y los principios éticos; el seguimiento de procesos estructurados de diseño y prueba para salvaguardar la agencia humana (asegurando que la responsabilidad final de las decisiones críticas permanezca en los humanos); y la capacitación continua y el apoyo institucional para los operadores. 

El reporte aboga por la "responsabilidad por diseño", donde el cumplimiento ético y legal se integra durante todo el ciclo de vida del sistema de IA y destaca cinco recomendaciones adaptadas para prácticas responsables en todos los niveles del ciclo de vida de los sistemas sociotécnicos de IA, incluidas consideraciones de diseño organizativo, así como orientación específica para Estados, fuerzas armadas e industria, para avanzar hacia una gobernanza efectiva de la IA en este sensible dominio:

• Anclar el desarrollo y el uso responsables de la IA en el ámbito militar en principios éticos y derecho internacional pertinentes y aplicables.
• Acordar, a nivel jurídicamente vinculante, que la decisión de autorizar el uso de armas nucleares debe permanecer bajo control humano.
• Implementar políticas nacionales que garanticen la responsabilidad humana a lo largo del ciclo de vida del sistema de IA y que se basen de manera demostrable en una formación centrada en el ser humano y en pruebas, evaluaciones, validaciones y verificaciones rigurosas.
• Establecer un diálogo permanente, inclusivo, multilateral y con múltiples partes interesadas sobre la integración responsable de la IA en el ámbito militar.
• Desarrollar una red centralizada de expertos con múltiples partes interesadas sobre la IA en el ámbito militar para difundir conocimientos con el fin de desarrollar capacidades y competencias.

El objetivo principal de estas recomendaciones es aprovechar el potencial transformador de la IA y, al mismo tiempo, abordar los riesgos asociados mediante la delimitación de los usos aceptables e inaceptables, así como los criterios para el diseño institucional.

• Octava Edición del Paris Peace Forum 

• Descarga el reporte “Responsible by Design” de GC REAIM

• Descarga la GC REAIM Expert Policy Note Series, Effective Governance Through Precise Common Understanding, de Edson Prestes, Nayat Sánchez-Pi, and Maria Vanina Martinez 

• Responsable por diseño: Una conversación con la Comisión Global sobre IA Responsable en el Ámbito Militar 

• Cooperación Internacional para una IA de interés público: autoridades y científicos chilenos y franceses reunidos en París en la Cumbre de Acción sobre Inteligencia Artificial