La iniciativa propone controles previos al lanzamiento de sistemas avanzados, evaluaciones independientes y una eventual institución internacional de supervisión. Estados Unidos y China no adhirieron.
La discusión sobre los límites de la inteligencia artificial dio un nuevo paso en el escenario internacional. Veintidós países acordaron impulsar mecanismos comunes para supervisar el desarrollo de los sistemas más avanzados y garantizar que las decisiones vinculadas con su utilización permanezcan bajo control humano.
La declaración fue adoptada durante las actividades desarrolladas en torno a la Asamblea General de las Naciones Unidas y plantea avanzar en una coordinación internacional que permita aprovechar las posibilidades de la inteligencia artificial sin dejar de atender los riesgos que puede generar su desarrollo acelerado.
Entre los países que respaldaron el documento se encuentran varias naciones europeas. La iniciativa fue promovida por Finlandia y Noruega, cuyos gobiernos buscan ahora ampliar el respaldo internacional al planteo.
El punto central del acuerdo no es detener el desarrollo de la inteligencia artificial. Los países firmantes tampoco plantean establecer una pausa general en la investigación y creación de nuevos sistemas. La propuesta apunta, en cambio, a establecer reglas de seguridad y supervisión que acompañen el avance tecnológico.
Entre las medidas planteadas figura la obligación para las empresas de desarrollar protocolos de seguridad transparentes. Esos mecanismos deberían incluir pruebas antes de poner nuevos sistemas en funcionamiento y evaluaciones independientes, realizadas por especialistas que cuenten con acceso suficiente para determinar los posibles riesgos.
El documento también propone mejorar el intercambio de información entre países. En particular, plantea avanzar hacia estándares comunes y mecanismos para compartir reportes sobre incidentes graves relacionados con la seguridad de los sistemas de inteligencia artificial.
La posibilidad de un organismo internacional
Una de las propuestas de mayor alcance consiste en explorar la creación de una institución internacional encargada de supervisar la inteligencia artificial.
La idea planteada por los impulsores es aprovechar los mecanismos internacionales existentes y analizar la posibilidad de establecer una estructura permanente. El presidente de Finlandia, Alexander Stubb, mencionó como referencia al Organismo Internacional de Energía Atómica, aunque dejó abierta la posibilidad de que el eventual organismo adopte otra forma.
La cuestión institucional no está definida. Incluso sus promotores consideran necesario mantener distintas alternativas sobre la mesa para evitar que la discusión quede condicionada por el ámbito en el que debería funcionar esa eventual entidad.
El primer ministro noruego, Jonas Gahr Støre, planteó además que el tema podría encontrar espacios de discusión en el G7 y el G20, considerados ámbitos más reducidos que Naciones Unidas para avanzar en acuerdos entre los principales países.
Los riesgos que buscan abordar
La declaración parte de una premisa compartida por sus impulsores: la inteligencia artificial puede generar importantes beneficios en áreas como la ciencia, la productividad, la información y la investigación de enfermedades, pero el desarrollo de modelos cada vez más sofisticados también abre nuevos escenarios de riesgo.
Stubb señaló tres particularmente sensibles: el posible uso de inteligencia artificial para desarrollar armas biológicas, los ciberataques realizados por agentes de IA y los sistemas capaces de intervenir en ataques letales.
La preocupación por estos escenarios aparece en un momento en que los sistemas capaces de actuar con mayor autonomía adquieren nuevas capacidades. La declaración menciona, entre otros antecedentes, un reciente ciberataque atribuido a agentes de inteligencia artificial contra la plataforma Hugging Face.
El planteo de los países firmantes busca que este tipo de riesgos sean evaluados antes del despliegue de nuevas tecnologías y que los incidentes relevantes puedan ser conocidos y analizados más allá de las fronteras del país o de la empresa donde ocurran.
Dos ausencias relevantes
La iniciativa enfrenta, sin embargo, una limitación significativa: Estados Unidos y China no forman parte de la declaración. Ambos países ocupan un lugar central en el desarrollo de inteligencia artificial y cualquier esquema internacional de supervisión deberá, previsiblemente, considerar su participación.
Tampoco todos los principales países europeos acompañaron hasta ahora el documento. Alemania respalda la iniciativa, mientras que Francia, Italia y Polonia no aparecen entre los firmantes. El Reino Unido tampoco se había incorporado al momento de la presentación.
Los promotores esperan que el respaldo inicial permita ampliar la participación de otros gobiernos y generar un marco de cooperación internacional.
El debate queda planteado, de este modo, en torno a una cuestión que excede el desarrollo tecnológico: cómo establecer mecanismos de supervisión capaces de acompañar la expansión de la inteligencia artificial sin impedir sus posibles beneficios y procurando que las decisiones fundamentales continúen bajo responsabilidad humana.
