Ley pionera de Inteligencia Artificial

Este miércoles, 13 de marzo de 2024, el Parlamento Europeo aprobó la Ley de Inteligencia Artificial (IA) casi por unanimidad. El Reglamento ya fue acordado en las negociaciones con los Estados Miembros en diciembre de 2023. Se aplicará en dos años desde su entrada en vigor en mayo.

La regulación europea es la primera del mundo en esta materia y trata de marcar un camino para un desarrollo seguro y centrado en el ser humano. Su objetivo es "proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación".

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos hablaba el verano pasado de dos escuelas diferentes para desarrollar la regulación. Una que solo tiene en cuenta los riesgos, centrándose principalmente en la autoevaluación por parte de quienes desarrollan la IA. En este caso el énfasis se pone en identificar y mitigar los riesgos para poder lograr resultados. Esto traslada la responsabilidad al sector empresarial.

La otra escuela es la que integra los derechos humanos en todo el ciclo de vida de la IA. Los principios de derechos humanos se incorporan a la recopilación y selección de datos; así como al diseño, desarrollo, implantación y uso de los modelos, instrumentos y servicios resultantes.

Como la normativa europea regula los sistemas IA según un enfoque basado en el riesgo, son necesarias medidas urgentes para los gobiernos y las empresas con el objetivo de evitar las consecuencias negativas que tiene la IA en la actualidad, y no solamente la IA generativa.

Los problemas en la información y la comunicación están relacionados con el almacenamiento, control, privacidad y veracidad de los datos, que alimentan los aprendizajes de los servicios de IA. Esto puede afectar al tipo de gobernanza de un lugar y a establecer centros de poder (engaño y desigualdad).

La vida social también se altera por la mayor presión de la eficiencia que puede sobrepasar la capacidad humana (ritmo frenético). "El uso generalizado de la vigilancia o la adopción de sistemas de crédito social, establece categorizaciones impropias entre personas" [1] (discriminación, falta de transparencia).

El cambio en la configuración de los trabajos y en las responsabilidades de las acciones, realizadas por sistemas IA en todos los ámbitos, transforman los valores sobre la dignidad de la persona que hemos establecido (altera la ocupación social, la toma de decisiones y la justiciabilidad).

Por todo ello, acompañando a la regulación parece imprescindible un profundo desarrollo ético del uso de las nuevas tecnologías.

"El alcance global exige responsabilidad de las organizaciones internacionales para lograr acuerdos multilaterales y coordinar su aplicación y actuación" [2]. Un paso en esta dirección es el Pacto Digital Mundial de la Cumbre del Futuro que se celebra en septiembre de 2024, involucrando a todas las partes interesadas: gobiernos, el sistema de las Naciones Unidas, el sector privado, la sociedad civil, las organizaciones de base, instituciones académicas e individuos.

"A Dios rogando y con el mazo dando". Colaboremos para que "el rápido desarrollo de formas de inteligencia artificial no aumente las ya numerosas desigualdades e injusticias presentes en el mundo, sino que ayude a poner fin a las guerras y los conflictos, y a aliviar tantas formas de sufrimiento que afectan a la familia humana" [3].

Montse Serrano, Justicia y Paz Segovia