En Ciudadanía Metropolitana desde nuestros inicios venimos investigando y analizando los alcances y posibilidades del termino “Gobernanza”, aplicado a nuestro principal objeto de estudio que son las áreas metropolitanas.
El avance tecnológico de estos últimos tiempos, nos lleva también, a que este término de “Gobernanza” debamos analizarlo desde el punto de vista de la nueva revolución tecnológica que está produciendo la Inteligencia Artificial en la vida de cada uno de nosotros.
En el mes de setiembre del 2024, el Órgano Asesor Consultivo de Inteligencia Artificial de las Naciones Unidas (ONU) dio a conocer el informe final sobre la “Gobernanza de la IA en beneficio de la humanidad”.
Ese Órgano Asesor de Alto Nivel sobre Inteligencia Artificial, propuesto inicialmente en 2020 como parte de la cooperación digital del Secretario General (A/74/821), se constituyó en octubre de 2023 para realizar análisis y formular recomendaciones sobre la gobernanza internacional de la inteligencia artificial.
Es un órgano formado por múltiples partes interesadas y sus miembros han participado a título personal y no como representantes de sus respectivas organizaciones.
Es importante dejar en claro, como lo hace el informe, que el mismo tiene un consenso mayoritario. Que los miembros confirman el acuerdo amplio, pero no de manera unilateral, con sus conclusiones y recomendaciones y lo expuesto en este informe no implica la aprobación institucional de las respectivas organizaciones de los miembros.
En el informe provisional (1) ya se señaló que la gobernanza de la IA es de vital importancia no solo para afrontar los desafíos y los riesgos, sino también para garantizar el potencial que tiene la IA sin dejar a nadie atrás.
El propio informe, detalla un resumen ejecutivo respecto a:
- “La inteligencia artificial (IA) está transformando el mundo. Este conjunto de tecnologías ofrece un enorme potencial de beneficio, que abarca desde la exploración de nuevas áreas de investigación científica y la optimización de las redes energéticas hasta la mejora de la salud pública y la agricultura, pasando por la contribución al logro de los Objetivos de Desarrollo Sostenible (ODS)”.
- “Sin embargo, si la IA no se regula, las oportunidades que ofrece podrían no manifestarse o distribuirse de forma equitativa. El aumento de las brechas digitales podría limitar los beneficios de la IA a unos pocos Estados, empresas y particulares. Los usos desaprovechados (no aprovechar y compartir los beneficios relacionados con la IA debido a falta de confianza o a ausencia de elementos facilitadores, como falta de capacidad o gobernanza ineficaz) podrían limitar el abanico de oportunidades”.
- “La IA también conlleva otros riesgos. Al sesgo y la vigilancia de la IA se unen nuevas preocupaciones como las confabulaciones (o “alucinaciones”)
de los grandes modelos lingüísticos, el aumento de la creación y difusión de desinformación, los riesgos para la paz y la seguridad y el consumo de energía de los sistemas de IA en tiempos de crisis climática”. - “Los sistemas de IA rápidos, opacos y autónomos desafían los sistemas reguladores tradicionales, al tiempo que los sistemas cada vez más potentes pueden revolucionar el mundo laboral. Las armas autónomas y los usos de la IA para el orden público plantean serias cuestiones jurídicas, humanitarias y de seguridad”
- “En la actualidad hay un gran déficit de gobernanza global de la IA. A pesar de los numerosos debates sobre ética y principios, el mosaico de normas e instituciones es aún incipiente y está lleno de lagunas. La rendición de cuentas suele brillar por su ausencia, en particular cuando se despliegan sistemas de IA que son difícilmente explicables y que afectan a los demás. El cumplimiento suele basarse en la voluntariedad; la práctica desmiente el discurso”. (2024, Gobernanza de la IA en beneficio de la Humanidad, pág. 7).
También el propio informe refiere: “La gobernanza inclusiva de la IA es posiblemente uno de los retos de gobernanza más difíciles a los que se enfrentarán las Naciones Unidas. Se observa un desajuste entre el papel dominante del sector privado en la IA y el orden westfaliano de la política internacional. Los Estados se sienten tentados por el potencial de poder y prosperidad de la IA en un momento de intensa competencia geopolítica. Muchas sociedades se encuentran todavía al margen del desarrollo, despliegue y uso de la IA, mientras que unas pocas están presas de un entusiasmo mezclado con preocupación por el impacto transversal de la IA”. (2024, Gobernanza de la IA en beneficio de la Humanidad, pág. 26).
El informe también formula una serie de recomendaciones sobre los beneficios comunes que están orientadas a garantizar el reparto equitativo de los beneficios de la IA.
Esas recomendaciones son:
Elaboración propia del autor
RECOMENDACIÓN 1:
Recomienda la creación de un grupo internacional e independiente de científicos expertos en IA, formado por diversos expertos multidisciplinares en la materia que presten sus servicios a título personal y de forma voluntaria.
RECOMENDACIÓN 2
Recomienda el inicio de un diálogo sobre política intergubernamental y multilateral sobre la gobernanza de la IA dos veces al año, en paralelo a las reuniones que se celebren en las Naciones Unidas.
RECOMENDACIÓN 3
Recomienda el establecimiento de una entidad de intercambio de normas sobre la IA que reúna a representantes de organizaciones nacionales e internacionales de normalización, empresas tecnológicas, la sociedad civil y representantes del grupo internacional de científicos.
RECOMENDACIÓN 4
Recomienda la creación de una red de desarrollo de la capacidad en materia de inteligencia artificial que reúna a una serie de centros de desarrollo de la capacidad afiliados a las Naciones Unidas poniendo conocimientos especializados, computación y datos de entrenamiento de IA a disposición de los agentes clave.
RECOMENDACIÓN 5
Recomienda la creación de un fondo mundial para la IA con el fin de reducir la brecha existente en este ámbito.
RECOMENDACIÓN 6
Recomienda la creación de un marco mundial de datos sobre IA.
RECOMENDACIÓN 7
Recomienda la creación de una oficina de IA dentro de la Secretaría General, dependiente del Secretario General. Su organización debería ser sencilla y ágil, aprovechando en la medida de lo posible las entidades competentes de las Naciones Unidas ya existentes.
En este trabajo, también encontramos el desarrollo de temas como: “La necesidad de una gobernanza global, Lagunas en la gobernanza global de la IA; Mejora de la cooperación global; Beneficios comunes; Reflexiones sobre los modelos institucionales; Oportunidades de la IA; Facilitadores clave para aprovechar la IA en beneficio de la humanidad; La gobernanza como facilitador clave; Riesgos y desafíos de la IA y los Retos que hay que afrontar de esta tecnología” entre otros, que los iremos desarrollando en las próximas presentaciones de Ciudadanía Metropolitana.
Sabemos que el desarrollo de la IA es más que una cuestión de avance tecnológico; es un factor determinante en el equilibrio de poder global, con implicaciones profundas para la seguridad, la economía, la influencia política y el progreso humano en general.
La IA viene avanzando muy velozmente y en lo que va desde su aparición, se observa que el impacto de esta tecnología, puede afectar a muchísimas personas si no se logra acordar una Gobernanza mundial con directrices y caminos a seguir entre toda la comunidad internacional.
Hay una preocupación mundial, como bien lo expresa el informe, en que no se puede dejar la gobernanza de la IA en manos de unos pocos desarrolladores, o de los países que los acogen. Si ello ocurre, “creará situaciones profundamente injusta en la que los impactos del desarrollo, despliegue y uso de la IA se impondrán a la mayoría de las personas sin que hayan tenido voz ni voto en las decisiones adoptadas para hacerlo”.
Por eso, coincido con la idea que la Gobernanza de la IA es crucial para la humanidad, pues debe abarcar la creación de políticas, normativas y estructuras éticas para guiar el desarrollo y uso de la inteligencia artificial de una manera que maximice los beneficios que se consiguen con ella y se minimicen los riesgo que pueda producir.
A través de marcos colaborativos e inclusivos, esta gobernanza de la IA, puede ayudar a crear un futuro donde la tecnología mejore la calidad de vida de las personas sin comprometer los derechos ni la seguridad de la humanidad.
Fuente: Informe Final – Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad, 2024, ONU-AI ADVISORY BODY
Dr. Mario Luna
Abogado, especialista en Smart City e IA.
Ciudadanía Metropolitana