El secretario general de la ONU, António Guterres, a la izquierda, durante una reunión virtual con los integrantes del el High Level Advisory Body on Artificial Intelligence (HLAB-AI) el pasado junio.
Naciones Unidas crea una agencia de la inteligencia artificial y establece siete medidas para evitar el impacto de imponer la IA sin contar con las personas
Para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan. Pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar y, sin entrar a considerar posibles escenarios catastróficos, ya ha quedado claro que el uso malintencionado de la inteligencia artificial (IA) puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia. El secretario general de la ONU, António Guterres, argumentaba así la necesidad de crear un órgano consultivo sobre la IA el pasado año: el High Level Advisory Body on Artificial Intelligence (HLAB-AI) u órgano asesor de alto nivel en inteligencia artificial. Esta entidad, formada por 39 líderes destacados de la IA de 33 países, ha publicado este jueves las siete medidas fundamentales (Final report) para asegurar un desarrollo de la IA inclusivo y que, en palabras de Guterres, beneficie a toda la humanidad y evite los riesgos.
En el informe final del HLAB-AI, difundido hoy y titulado Gobernar la IA para la humanidad, han participado más de 2.000 personas que ya hicieron un trabajo preliminar para hacer un llamamiento a establecer una arquitectura global cooperativa e inclusiva de la IA con el fin de fomentar el desarrollo y la protección de todos los derechos humanos.
El órgano asesor lamenta la ausencia de un marco global que rija la IA y la falta de compromiso de los Estados miembros; solo siete son parte de todas las iniciativas (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos) y 118 están desaparecidos por completo, principalmente en el Sur Global, según detalla el texto final.
Con su desarrollo en manos de unas pocas empresas multinacionales en unos pocos países, los impactos de la implementación de la IA corren el riesgo de imponerse a la mayoría de las personas sin que tengan voz en las decisiones para hacerlo, advierte el HLAB-AI en su informe.
Para evitarlo, el organismo propone siete medidas que considera ágiles, adaptables y eficaces:
Panel científico internacional. El objetivo de esta entidad será proporcionar conocimientos científicos imparciales y confiables sobre la IA. Su misión será ayudar a los Estados miembros a desarrollar una visión compartida de la nueva herramienta y abordar las asimetrías de información entre los laboratorios y el resto del mundo. El panel elaborará informes anuales sobre las capacidades, los riesgos y las tendencias de la IA, junto con informes específicos sobre los riesgos emergentes.
Diálogo político. Esta medida convocará reuniones intergubernamentales y de múltiples partes interesadas, como tecnológicas, usuarios y entidades nacionales, para fomentar un terreno común regulatorio que garantice los derechos humanos.
IA internacional. El órgano propone la conexión de representantes de organizaciones regulatorias, empresas tecnológicas y la sociedad civil para garantizar la interoperabilidad técnica de los sistemas de IA a través de las fronteras.
Beneficios comunes. Una red mundial impulsará mediante formación, recursos y datos, el acceso a los desarrollos de investigadores y emprendedores sociales.
Fondo mundial. Será el encargado de abordar las deficiencias en materia de capacidad y colaboración.
Marco mundial de datos. Pretende normalizar las definiciones, los principios y la administración de los datos, garantizando la transparencia y la rendición de cuentas en los sistemas de IA.
Agencia de la IA. El informe propone la creación de una pequeña oficina de IA, dentro de la Secretaría de las Naciones Unidas, para apoyar y coordinar la implementación de estas propuestas.
La Unesco pide a las tecnológicas que revisen el entrenamiento de sus IA para frenar la distorsión del Holocausto entre los jóvenes
Algunas entidades del ámbito de la empresa coinciden con los criterios de la ONU. Un estudio del Institute for Business Value de IBM (NYSE:IBM) considera urgente contar con un nuevo tipo de liderazgo tecnológico en la era de la IA generativa. Una encuesta con 2.500 directivos internacionales desvela que las herramientas más avanzadas determinarán la mayor ventaja competitiva, según el 72% de los consultados. También para la mayoría (80%), la transparencia en el uso que su organización hace de las tecnologías de nueva generación, como la IA generativa, es fundamental para fomentar la confianza.
Hildegunn Kyvik Nordås, profesora en la Universidad de Örebro (Suecia) e investigadora del Instituto Noruego de Asuntos Internacionales, también coincide con el planteamiento de la ONU. Las asombrosas capacidades de las aplicaciones de IA han suscitado profundas preocupaciones sobre el futuro del trabajo, la democracia e incluso la humanidad misma, así como un sentido de urgencia para establecer una gobernanza eficaz en todos los niveles y casos de uso. También ha inspirado visiones de un futuro brillante en el que la prosperidad, la buena salud y un medio ambiente limpio son la norma, advierte en una publicación del Consejo de Políticas Económicas (CEP) tras el trabajo previo al informe final.
Ante este escenario, la integrante del CEP, una organización no partidista sin ánimo de lucro, advierte sobre los desarrollos hacia aplicaciones capaces de autoaprender y realizar tareas más allá de lo que fueron entrenadas inicialmente, unas habilidades conocidas como Inteligencia Artificial General. Kyvik Nordås admite que están, probablemente a décadas de distancia y muchos dudan si alguna vez se desarrollará, pero la investigadora considera que tiene sentido que las agencias especiales de la ONU elaboren sistemas de gobernanza global dentro de sus campos.
La organización Partnership on AI (PAI) es también una asociación sin ánimo de lucro formada por organizaciones académicas, de la sociedad civil, de la industria y de los medios de comunicación que crean soluciones para que la IA promueva resultados positivos para las personas y la sociedad. Su investigadora Jiyoo Chang comparte el sentido del trabajo del HLAB-AI, pero advierte: El rápido avance del desarrollo y la adopción de la inteligencia artificial, exige de forma urgente la traducción de los principios en una guía de actuación práctica. Esto requiere acción colectiva y coordinación.
El País de España
