La Cumbre del Futuro de las Naciones Unidas ha colocado la gobernanza de la tecnología y la IA en un lugar destacado de la agenda global del organismo multinacional.
El Naciones Unidas (ONU) ha publicado el primer marco global integral para la cooperación digital y la gobernanza de la inteligencia artificial (IA).
Esto forma parte del «Pacto para el Futuro» de la Asamblea General de la ONU anunciado el domingo, que pretende ser un «cambio radical hacia un multilateralismo más eficaz, inclusivo y en red», según el Secretario General de la ONU. Antonio Guterres.
El Pacto Digital Global, anexo al Pacto para el Futuro y adoptado sin votación, compromete a los actores clave del mundo a discutir cómo gobernar la IA y las responsabilidades de las empresas tecnológicas.
A continuación se presenta un desglose de lo que significa el documento de 66 páginas y 56 acciones generales para la tecnología.
Nosotros IA
El Pacto Digital insta a gobernar la IA con una hoja de ruta que incluye un Panel Científico Internacional y un Diálogo Político Global sobre IA.
Para las empresas tecnológicas, el Pacto les pide que mejoren la transparencia y la responsabilidad de sus sistemas, lo que incluye la moderación de contenidos y el manejo de los datos personales de los usuarios.
También insta a las empresas tecnológicas a desarrollar soluciones y comunicar públicamente sus acciones para Contrarrestar los daños potenciales – como el discurso de odio y la discriminación – provenientes del contenido de IA.
Sin embargo, no especifica si las empresas deben ser transparentes en los conjuntos de datos en los que se entrena la IA, pero sí dice que cualquier medida debe incluir la incorporación de salvaguardas en los procesos de entrenamiento de modelos de IA, identificación de material generado por IA, certificación de autenticidad del contenido y orígenes, etiquetado, marca de agua y otras técnicas.
El documento también aboga por tecnologías de código abierto e innovación abierta, lo que significa que los diseños de las empresas tecnológicas estarían disponibles públicamente. No está claro cómo funcionaría esto con empresas como Abierto AIque son empresas de código cerrado.
El requisito de código abierto no sólo se aplica a la IA, y se utilizaría para generar conocimientos técnicos para los Objetivos de Desarrollo Sostenible de las Naciones Unidas, especialmente en los países en desarrollo.
Sobre Internet y la brecha digital
El Pacto declara su compromiso de conectar a todos a Internet y reconoce que ello exigirá mayores inversiones financieras en los países en desarrollo por parte de los gobiernos y otras partes interesadas, en particular el sector privado.
Esto incluiría satélites e iniciativas de redes locales que proporcionen una cobertura de red segura a todas las áreas, incluidas las rurales, remotas y «de difícil acceso».
Además de lograr que todos tengan acceso a Internet, el Pacto también describe la ambición de establecer una estrategia nacional de habilidades digitales, que incluya educación para la era digital y aumentar las plataformas tecnológicas digitales asequibles.
«Nuestro objetivo es la máxima cobertura de habilidades digitales básicas para el mayor número posible de personas, y al mismo tiempo promover las habilidades digitales intermedias o avanzadas», afirma el documento.
También pretende cerrar las brechas digitales y fomentar la cooperación Norte-Sur, Sur-Sur y triangular, incluso entre universidades, institutos de investigación y el sector privado, para acelerar el desarrollo del conocimiento digital y el acceso a la capacidad de investigación.
Existe un compromiso para apoyar la participación de mujeres y niñas en materias STEM (ciencia, tecnología, ingeniería y matemáticas).
Sobre las empresas tecnológicas y la protección de los niños
El Pacto establece que existe una necesidad urgente de contrarrestar y abordar todas las formas de violencia, incluida la violencia sexual y de género, que se produce mediante el uso de la tecnología o se ve «amplificada por éste».
También insta a que se tomen medidas contra el discurso de odio y la discriminación, la desinformación y la información errónea, el acoso cibernético y la explotación y el abuso sexual infantil.
El documento surge en un momento en que las plataformas de redes sociales se encuentran bajo una gran presión para proteger a los usuarios jóvenes en las redes sociales.
En enero, el jefe de Meta Mark Zuckerberg se disculpó ante el Congreso de Estados Unidos a las familias de niños que habían sido abusados o explotados sexualmente en sus plataformas.
El Pacto también insta a las empresas de tecnología y redes sociales a establecer mecanismos de denuncia seguros para que los usuarios puedan denunciar posibles violaciones de políticas, incluidos mecanismos de denuncia especiales adaptados a los niños y a las personas con discapacidad.
Por último, la ONU espera que las redes sociales y las empresas tecnológicas mejoren la transparencia y la rendición de cuentas de sus sistemas, incluidos los términos de servicio, la moderación de contenidos y los algoritmos de recomendación, y el manejo de los datos personales de los usuarios en los idiomas locales.
¿Funcionará?
Si bien la ONU está incluyendo en su agenda un compromiso global con la gobernanza de datos, tanto el Pacto como el Pacto no son vinculantes, lo que significa que no está claro si serán implementados por los estados miembros de la ONU.
El Presidente de la Asamblea General, Philémon Yunji, señaló que el Pacto “sentaría las bases de un orden mundial sostenible, justo y pacífico para todos los pueblos y naciones”.
