Cerrar la brecha de capacidad en materia de IA a través de la ciencia y el código abierto: la participación de Inria Chile en la Conferencia de la ONU sobre Ciencia Abierta

Del 16 al 18 de octubre se realizó en Tokio la 4th United Nations Open Science & Open Scholarship Conference, en la Universidad de las Naciones Unidas. En la jornada dedicada a “Inteligencia artificial, ciencia abierta y la brecha digital global”, Nayat Sánchez-Pi, directora de Inria Chile y del Centro Binacional Franco-Chileno de Inteligencia Artificial, participó en el panel junto a expertos internacionales como Roheena Anand, directora ejecutiva de Desarrollo Global de Publicaciones en Public Library of Science, Sadao Kurohashi, director del National Institute of Informatics y académico en la Kyoto University y Bishesh Khanal, director del Nepal Applied Mathematics and Informatics Institute. 

La Conferencia se basó en las discusiones de las tres ediciones anteriores y se organizó en torno a tres temas. El primero se centró en "IA, ciencia abierta y la brecha digital global". Se destacó cómo la inteligencia artificial (IA) aspira a revolucionar la ciencia utilizando los resultados de la ciencia abierta (datos, código y artículos) como base indispensable para su entrenamiento. Sin embargo, se abordó la paradoja de que muchas herramientas de IA entrenadas con estos resultados abiertos no son abiertas.

El debate exploró qué significa aplicar un marco abierto para la IA centrado en los derechos humanos. Se enfatizó que la cooperación internacional es crucial, especialmente considerando que la desigualdad global de recursos agrava los desequilibrios de poder. Se discutió la alineación con el Pacto Digital Mundial (que busca avanzar en enfoques equitativos) y el Pacto para el Futuro (que integra la perspectiva de derechos humanos en la regulación tecnológica). Finalmente, se planteó que los valores de la ciencia abierta pueden ofrecer un marco para manejar los contenidos generados por IA, asegurando la privacidad y priorizando la verificabilidad.

La directora de Inria Chile y Directora del Centro Binacional Franco-Chileno de Inteligencia Artificial, Nayat Sánchez Pi, nos cuenta sobre los puntos que presentó en la conferencia, enfocados en los avances de la inteligencia artificial, el código abierto y la ciencia abierta, como también de la importancia de poner en discusión el uso ético y responsable de estas herramientas al servicio de la sociedad.

Uno de los principales impulsores detrás del rápido progreso de la inteligencia artificial en los últimos años ha sido el fuerte compromiso de la comunidad de IA con los principios de la ciencia abierta. Por supuesto, este avance también ha sido impulsado por los avances en la teoría y la evolución continua del hardware informático. Sin embargo, lo que más destaca es la comprensión colectiva —casi un acuerdo tácito— dentro de la comunidad de IA de que la apertura acelera el descubrimiento.

No obstante, la ciencia abierta es incompleta sin el software de código abierto. Un artículo de investigación que describe un método de aprendizaje automático es solo una receta sin el código que lo acompaña. Cuando ese código sigue siendo propietario, el trabajo no puede reproducirse y el conocimiento no puede compartirse plenamente. En este sentido, no existe una verdadera ciencia abierta sin código abierto.

Por lo tanto, la ciencia abierta en IA adopta diferentes formas:

• La difusión abierta de resultados científicos a través de publicaciones de acceso abierto.

• La creación y el intercambio de conjuntos de datos y puntos de referencia públicos.

• El desarrollo y la adopción de software de código abierto, que permite a otros reproducir resultados y construir fácilmente sobre trabajos anteriores.

• Y, cada vez más, la liberación de “open weights”, donde los parámetros de modelos entrenados se ponen a disposición del público cuando entrenar desde cero sería prohibitivamente costoso.

Sin embargo, la ciencia abierta por sí sola no es suficiente. Es una condición necesaria para mantener el impulso de la IA, pero no suficiente. Existe una brecha creciente entre quienes pueden aprovechar eficazmente los resultados científicos abiertos y quienes no, ya sea por recursos computacionales limitados o por la escasez de profesionales capacitados.

En Inria e Inria Chile tenemos un enfoque especial en la ciencia abierta, el código abierto y, además, la colaboración abierta. Está en el ADN del instituto. En Inria, hemos creado más de 1500 software de código abierto que se utilizan activamente, entre muchas otras acciones.

En el contexto de la IA, podemos destacar scikit-learn, una de las principales bibliotecas para el aprendizaje automático. Scikit-learn es un buen ejemplo de cómo abordamos el problema de la creciente brecha, ya que se ha centrado en permitir a los usuarios realizar aprendizaje automático efectivo en computadoras personales y otro hardware fácilmente accesible.

Otro proyecto relevante de Inria que merece ser destacado es Software Heritage, apoyado por la UNESCO. Su misión es preservar e indexar todo el código fuente disponible públicamente, garantizando su trazabilidad a largo plazo. Una especie de “Biblioteca de Alejandría” moderna, internacional, sin fines de lucro e iniciativa a largo plazo que atiende las necesidades de la industria, la investigación, la cultura y la sociedad en su conjunto.

Curiosamente, en la era de los grandes modelos de lenguaje, este proyecto ha encontrado una nueva y urgente relevancia, ya que estos repositorios de código abierto son ahora necesarios para entrenar y evaluar modelos de lenguaje. Lo que hacemos es preservar el conocimiento digital del mundo para la próxima generación de desarrolladores de IA.

Pero más allá de compartir artefactos, código, artículos, etc., llevamos mucho tiempo comprometidos con la colaboración abierta. Parte de nuestra misión en Inria Chile es, de hecho, cerrar esa brecha creciente, esa brecha digital, conectando los ecosistemas de ciencias de la computación de Europa y América Latina.

En la práctica, esto significa tres cosas:

• Promover una colaboración sólida entre investigadores, startups e instituciones francesas y latinoamericanas.

• Apoyar proyectos que hagan que la IA sea útil, accesible y segura para las economías y comunidades locales.

• Garantizar que la apertura sea la base que haga que todo el progreso sea compartido y sostenible.

Hace aproximadamente un año, Inria y el Ministerio de Ciencia de Chile firmaron un acuerdo para crear el Centro Binacional Franco-Chileno de IA. Este nuevo centro es la herramienta operativa para nuestras prioridades compartidas. El centro implementa un enfoque de múltiples actores —que involucra a dos gobiernos, la academia, la industria y la sociedad civil— para desarrollar e implementar proyectos que beneficien a toda la sociedad. La IA no debe ser un lujo para las grandes capitales. América Latina necesita resolver problemas regionales con una IA relevante localmente y eficiente en recursos.

Nos enfocamos en avanzar hacia una IA que sea:

• Útil, para que realmente pueda apoyar a la sociedad y la economía,

• Accesible, para que todos, no solo unos pocos, puedan beneficiarse de ella, y

• Segura, garantizando un desarrollo responsable y confiable.

Este Centro refleja los valores comunes no sólo entre Francia y Chile, sino también entre muchos países comprometidos con una IA responsable, ética y centrada en el ser humano.

Podemos ver que la ciencia abierta, incluyendo los principios de código abierto, es esencial para mantener el impulso que hemos alcanzado en IA. Sin duda, hay mucho trabajo por hacer para gestionar la brecha de capacidad en IA.

En primer lugar, preservando lo que hemos logrado. En los últimos años hemos visto cómo muchos actores, en particular empresas privadas, han comenzado a cerrar su ciencia, incluso cuando afirman ser “abiertos” de nombre. Estoy convencida de que un enfoque de ciencia cerrada lleva a la falta de innovación, y ya hemos visto los resultados.

En segundo lugar, hay un aspecto importante que también debe abordarse: llevar cualquier idea al extremo trae consigo riesgos, tanto evidentes como no evidentes. Debemos actuar con responsabilidad y gestionar los riesgos que conlleva la apertura.

Todos debemos acordar “líneas rojas” claras con respecto a los usos y comportamientos de la IA; por ejemplo: ciberataques autónomos, armas de destrucción masiva y vigilancia masiva, que no deben ser negociables.

Sin embargo, también debemos abordar los riesgos matizados de la apertura. Esto significa reconocer que, incluso cuando aplicamos estos modelos con un objetivo válido y legítimo, su uso puede generar daños no intencionados.

El hecho de que estos modelos abiertos sean más accesibles para practicantes inexpertos implica que debemos documentar adecuadamente no solo sus características, sino también sus limitaciones conocidas y posibles usos indebidos, y desarrollar estrategias para una apertura responsable.

Pondré un ejemplo: si recopilamos datos sobre organismos, animales y ecosistemas para un estudio de biodiversidad bien intencionado, donde la ubicación es un metadato importante, y luego los compartimos de manera abierta, corremos el riesgo de que estos datos sean utilizados por cazadores furtivos para localizar y cazar a estos animales. Este tipo de casos límite deben analizarse, y necesitamos enfoques globales y locales para abordarlos.

Y en tercer lugar, para que la ciencia abierta sea verdaderamente abierta, debe permitir que todos sean participantes activos y no solo espectadores o consumidores de la ciencia realizada por grandes empresas.

Esto significa que hay mucho trabajo por hacer para cerrar la brecha.

La buena noticia es que ya estamos trabajando en las soluciones: el paradigma actual de la IA a gran escala, intensivo en recursos y que depende de conjuntos de datos masivos y un poder computacional colosal, es antagónico a la ciencia abierta y al desarrollo sostenible. Estamos haciendo más teoría y ciencia que permiten asimilar la IA de vanguardia en niveles de computación más “comunes”.

Estamos impulsando la IA Frugal, un enfoque centrado en lograr un alto impacto científico con recursos mínimos, menos datos y menos energía, lo que contribuye a la democratización de la IA.

Esto se basa en tres necesidades fundamentales:

• Reproducibilidad y falsabilidad: para que un resultado sea científico, debe ser reproducible. Un artículo científico es solo una “receta” sin el código fuente y el método de entrenamiento. No es posible la ciencia abierta sin el código abierto.

• Sostenibilidad: la huella energética de los modelos masivos y cerrados es irresponsable. La IA Frugal fomenta la reutilización de componentes y el diseño eficiente y de bajo impacto, haciendo que la ciencia sea más sostenible y accesible para instituciones con infraestructura computacional limitada.

• Transparencia y regulación: la regulación y evaluación efectivas, como las previstas en la Ley de IA de la UE, son imposibles si los modelos siguen siendo opacos. La transparencia no es solo un ideal ético, es una necesidad regulatoria que requiere acceso al código para auditar sesgos y garantizar la confiabilidad en sectores críticos.

Nos enfocamos en crear los medios para garantizar que la IA sea segura, no solo invirtiendo en herramientas de evaluación, sino también en estrategias de mitigación y en la creación de programas colaborativos como bienes públicos, como el que Inria ha creado con el centro en Chile, el Centro Binacional Franco-Chileno de IA, que reúne talentos y recursos compartidos bajo el paraguas de nuestros principios y valores comunes entre Francia y Chile, y también entre las regiones, incluyendo los de la ciencia abierta.

Finalmente, la apertura y la seguridad ya no son opcionales en la era de la IA. Necesitamos reglas globales vinculantes, colaboración operativa e internacional, para guiar el desarrollo de la IA hacia la promesa de innovación y el bienestar de nuestras sociedades.