Inria da a conocer Policy Paper sobre IA Agéntica “Agentic AI: Deployment, Adoption and Impacts” y entrega 9 recomendaciones claves

La IA generativa ha evolucionado recientemente, pasando de modelos que producían principalmente texto, imágenes o código a sistemas capaces de tomar decisiones autónomas y comportarse de manera proactiva dentro de límites definidos por los humanos. A diferencia de los modelos tradicionales de IA generativa, los sistemas de IA agentica poseen la capacidad de analizar y responder a señales de su entorno, planificar acciones, ejecutarlas y reflexionar sobre los resultados, operando a menudo de manera continua con diversos grados de autonomía y comportamiento adaptativo. 

El documento identifica evoluciones clave para anticipar y acciones a tomar. Fue elaborado por un equipo de trabajo interdisciplinario de la Agencia de Programas de Inria a través de un proceso iterativo. La iniciativa involucra a diversos actores (incluyendo industria, academia y responsables políticos) para abordar los desafíos y ofrecer análisis prácticos y prospectivos a los tomadores de decisiones. Realizaron encuestas con la industria, y organizaron 5 talleres con más de 80 participantes en total, provenientes de la academia, el sector público y el privado de todos los países del G7, con el fin de recopilar retroalimentación y perspectivas de expertos.

El documento aborda temáticas claves como la trazabilidad y explicabilidad; la seguridad, control, protección y prevención de daños ; el consumo de energía ; y el impacto en los trabajadores, entre otros elementos críticos.  

Se estructura en cuatro ejes temáticos: 

1. Conceptos y paradigmas técnicos

2. Condiciones para que la implementación de la IA sea un éxito

3.  Marcos normativos (con especial atención al contexto de la Unión Europea)

4. Recomendaciones

En este último punto, se detallan nueve recomendaciones claves para garantizar un despliegue, una adopción y un impacto sin contratiempos de la IA agentica, ordenadas por nivel de urgencia: 

1. Garantizar la autonomía estratégica: Diversificar proveedores y desarrollar soluciones nacionales de IA agentica para evitar dependencias estratégicas y asegurar flexibilidad en toda la cadena tecnológica.

2. Establecer una definición clara y operativa de IA agentica: Crear una definición técnica consensuada y evolutiva que sirva como base reguladora, evitando ambigüedades y guiando políticas, clasificación de riesgos y obligaciones de cumplimiento.

3. Fomentar un entorno propicio para la investigación en IA agentica: Implementar mecanismos ágiles de financiamiento y acceso a herramientas avanzadas, promoviendo una investigación interdisciplinaria que aborde los vacíos científicos identificados.

4. Garantizar seguridad jurídica para usuarios y desarrolladores: Analizar y adaptar los marcos legales existentes (como el AI Act de la UE) para cubrir las características específicas de la IA agentica, definiendo claramente las responsabilidades entre desarrolladores, implementadores y usuarios.

5. Adoptar un enfoque de gobernanza centrado en el impacto: Construir marcos de gobernanza basados en los impactos sociales, laborales y ambientales anticipados, integrando perspectivas interdisciplinarias y equilibrando precaución con innovación.

6. Definir criterios comunes para comparar el consumo energético: Desarrollar un sistema de puntuación energética basado en benchmarks comunes, que ofrezca transparencia sobre el impacto energético de modelos y arquitecturas multiagente, sin comprometer secretos industriales.

7. Abordar los riesgos de ciberseguridad específicos de la IA agentica: Analizar las nuevas amenazas derivadas de la interacción en bucle abierto de la IA agentica con su entorno y promover arquitecturas seguras de control de acceso e identidad.

8. Anticipar la transformación laboral y los impactos cognitivos: Investigar los efectos de la IA agentica en la fuerza laboral, como la erosión de habilidades y la "rendición cognitiva", integrando las ciencias sociales en el diseño de políticas de adaptación.

9. Fortalecer la conciencia pública y la educación sobre IA agentica: Promover la alfabetización en IA accesible para el público, aclarando sus diferencias con otras herramientas tecnológicas y concienciando sobre riesgos como la dependencia excesiva o el consumo oculto de recursos.

• Lee la Declaración Ministerial del G7 sobre digital y tecnología de Mayo 2026: G7 Ministerial Declaration on Digital & Technology

• Para saber más sobre los compromisos adoptados por el G7 con una transformación digital responsable bajo la presidencia francesa: descubre las prioridades adoptadas y documentos vinculados aquí (en francés e inglés). 

• Para saber más sobre el proceso de Hiroshima: descubre sus documentos claves disponibles aquí.