El tratado elaborado por el Consejo de Europa y firmado por Reino Unido, la UE, EE. UU. e Israel, busca mitigar las amenazas que la IA suponer para los derechos humanos, la democracia y el estado de derecho.
El gobierno del Reino Unido junto a la Unión Europea, Estados Unidos e Israel acaba de firmar el primer tratado internacional sobre Inteligencia Artificial (IA), denominado Convenio Marco sobre Inteligencia Artificial, una medida que tiene como objetivo prevenir usos indebidos de la tecnología, como la difusión de información errónea o el uso de datos sesgados para tomar decisiones.
Según el acuerdo, jurídicamente vinculante, los Estados deben implementar salvaguardas contra cualquier amenaza que la IA plantee a los derechos humanos, la democracia y el Estado de derecho.
El tratado fue elaborado por el Consejo de Europa, una organización internacional de derechos humanos. Al respecto, la secretaria de Justicia, Shabana Mahmood, dijo que la AI tenía la capacidad de “mejorar radicalmente” los servicios públicos y “acelerar” el crecimiento económico, pero que debía adoptarse sin afectar los derechos humanos básicos.
“La convención es un paso importante para garantizar que estas nuevas tecnologías puedan aprovecharse sin erosionar nuestros valores más antiguos, como los derechos humanos y el estado de derecho”, dijo.
¿Cuál es el objetivo del tratado?
Según el Consejo de Europa, su objetivo es “llenar cualquier laguna jurídica que pueda resultar de los rápidos avances tecnológicos”. Los recientes avances en IA han desencadenado una lucha regulatoria en todo el mundo para mitigar los posibles fallos de la tecnología.
Esto significa que existe una serie de regulaciones y acuerdos que cubren la tecnología, desde la Ley de IA de la UE hasta la declaración de Bletchley del año pasado, en la cumbre inaugural mundial de seguridad de la IA, y un régimen de pruebas voluntarias firmado por una serie de países y empresas en la misma reunión.
Este acuerdo es un intento de crear un marco global, buscando que los sistemas de IA cumplan con un conjunto de principios, entre ellos: la protección de los datos personales, la no discriminación, el desarrollo seguro y la dignidad humana.
Al final, se espera que los gobiernos introduzcan salvaguardas como la de frenar la desinformación generada por la IA, y evitar que los sistemas se entrenen con datos sesgados, lo que podría dar lugar a decisiones erróneas en diversas situaciones.
Toda empresa u organismo que utilice sistemas de IA sea pública o privada debe evaluar su posible impacto en los derechos humanos, la democracia y el Estado de derecho, y poner esa información a disposición del público. Las personas deben poder impugnar las decisiones adoptadas por los sistemas de IA y presentar quejas ante las autoridades y saber que no tratan con un ser humano.
El acuerdo trae compromisos
Así lo aplicará R. U.
El Reino Unido necesita ahora comprobar si sus diversas disposiciones están cubiertas por la legislación vigente, como la del Tribunal Europeo de Derechos Humanos y otras leyes de derechos humanos. El gobierno está preparando una consulta sobre un nuevo proyecto de ley de Inteligencia Artificial.
En cuanto a la imposición de sanciones, la convención prevé que las autoridades puedan prohibir determinados usos de la IA. Por ejemplo, la Ley de IA de la UE prohíbe los sistemas que utilizan bases de datos de reconocimiento facial extraídas de cámaras de vigilancia o de internet.
