La Organización de las Naciones Unidas (ONU) ha reconocido que la inteligencia artificial (IA) es una herramienta útil para solucionar muchos de los problemas sociales, económicos y de salud que padece la humanidad. Pese a ello, reconoce que la falta de un marco regulatorio a nivel mundial restringe los beneficios a un grupo selecto de países y organizaciones. En respuesta, ha emitido siete recomendaciones de gobernanza global para garantizar que el desarrollo de esta tecnología sea seguro y equitativo.
António Guterres, secretario general de la ONU, expresó el año pasado la necesidad de crear un consejo asesor sobre la IA. En consecuencia, se instituyó el High Level Advisory Body on Artificial Intelligence (HLAB-AI), un organismo consultivo “de alto nivel” formado por 39 expertos en el tema procedentes de 33 países.
Nace el primer tratado internacional sobre IA: la Unión Europea, Estados Unidos y Reino Unido ya lo han firmado
El convenio proporciona un marco jurídico que abarca “todo el ciclo de vida de los sistemas IA” y pretende garantizar que el uso de la tecnología no socave las garantías fundamentales, la democracia y el estado de derecho.
La entidad publicó en días recientes el informe ‘Gobernando la IA para la humanidad’. El documento es resultado del trabajo preliminar de más de 2,000 especialistas que evaluaron los alcances, posibles amenazas y avances de la inteligencia artificial. El trabajo pretende establecer las bases para crear un sistema de gobernanza global que asegure el acceso confiable y justo a la innovación.
El HLAB-AI señala que, ante la ausencia de normas compartidas, “la IA podría limitarse a solo un puñado de Estados, empresas y particulares”. Advierte que los sesgos y las alucinaciones de los grandes modelos inteligentes pueden exacerbar los problemas de desinformación y vigilancia de los usuarios. Estos desafíos, sumados al alto consumo energético que supone la operación de los algoritmos, plantean interrogantes sobre el futuro de la democracia, la seguridad y la sostenibilidad en un mundo cada vez más digitalizado, según el órgano asesor.
“Con su desarrollo en manos de un limitado número compañías multinacionales instaladas en pocos países, los impactos de la IA podrían afectar a la mayoría de las personas sin que tengan voz en las decisiones de la implementación de esta tecnología”, acusa el comité respaldado por la ONU.
Siete medidas para reglamentar la IA en el mundo
El organismo ha propuesto siete medidas “ágiles, adaptables y eficaces” para evitar este escenario. Plantea la creación de un panel científico internacional que tendrá la encomienda de “proporcionar conocimientos imparciales y confiables sobre la IA”. El grupo deberá orientar a los Estados miembros de la ONU sobre el desarrollo y usos de los algoritmos generativos con un enfoque local y global. Difundirá informes anuales sobre las capacidades, los riesgos y las tendencias relacionadas.
La propuesta sugiere la celebración de reuniones de diálogo dos veces al año. En estas convocatorias participarán representantes gubernamentales, empresarios, organizaciones civiles y usuarios. La intención es facilitar el debate sobre un reglas comunes que garanticen los derechos humanos ante el avance tecnológico.
El proyecto contempla la activación de mecanismos para incrementar la colaboración público-privada y «garantizar la interoperabilidad técnica de los sistemas de IA«. También considera la formación de una red mundial de capacitación que permitirá a investigadores y emprendedores sociales acceder a recursos informáticos y bases de datos.
El informe del HLAB-AI expone la instauración de un fondo económico común. Los recursos abordarán las desigualdades en capacidades e infraestructura para que las naciones tengan las mismas oportunidades de acceder, desarrollar y utilizar sistemas de IA. Además, indica que es necesario establecer un sistema de control mundial de datos que promueva la transparencia y la estandarización en el uso y la gestión de la información. Por último, enuncia la intención de instituir una oficina especializada dentro de la Secretaría de las Naciones Unidas, encargada de coordinar y promover el desarrollo responsable de esta tecnología.
La investigación y desarrollo de la IA está en pleno auge. La ONU pide la creación de un marco normativo para que estas tecnologías beneficien a la humanidad antes de ponerla en peligro. El HLAB-AI acusa que los miembros del organismo internacional no están del todo comprometidos. Solo Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos son parte de todas las iniciativas respaldadas por el órgano asesor. “Las 118 naciones restantes están desaparecidas por completo, principalmente en el sur global”, delata. Moderar el desarrollo y uso de sistemas de IA se ha convertido en un asunto prioritario. Hasta ahora, las iniciativas parecen desarrollarse de manera aislada. Expertos anticipan que bajo dichas condiciones, su éxito está comprometido.
