Asegurar que el Parlamento Europeo vota una Ley de Inteligencia Artificial que protege los derechos de las personas

19.04.2023

En el marco de la votación de la Ley de Inteligencia Artificial en el Parlamento Europeo, la sociedad civil pide a los miembros del Parlamento Europeo que garanticen que la Ley de Inteligencia Artificial de la UE prioriza los derechos fundamentales y protege a las personas afectadas por los sistemas de inteligencia artificial (IA).

Cada vez más vemos el despliegue de sistemas de IA para vigilarnos e identificarnos en espacios públicos, predecir nuestra probabilidad de delinquir, redirigir la vigilancia policial y el control de la inmigración a zonas ya excesivamente vigiladas, facilitar violaciones del derecho a solicitar asilo y de la presunción de inocencia, predecir nuestras emociones y categorizarnos mediante inferencias discriminatorias, así como tomar decisiones que determinan nuestro acceso a la asistencia social, la educación y al empleo.

Sin una regulación adecuada, los sistemas de IA exacerbarán los perjuicios sociales existentes de la vigilancia masiva, la discriminación estructural, el poder centralizado de las grandes empresas tecnológicas, la toma de decisiones públicas sin rendición de cuentas y la extracción medioambiental. La complejidad, la falta de rendición a cuentas y de transparencia pública, y los escasos procedimientos de reparación disponibles dificultan que las personas puedan ejercer sus derechos cuando se ven perjudicadas por los sistemas de IA. En particular, estos obstáculos suponen un riesgo especial para las personas más marginadas de la sociedad.

La Ley de Inteligencia Artificial de la Unión Europea puede, y debe, abordar estas cuestiones, garantizando que el desarrollo y el uso de la inteligencia artificial se realicen en un marco de responsabilidad, transparencia y limitaciones adecuadas basadas en los derechos fundamentales. Pedimos a los miembros del Parlamento Europeo que garanticen lo siguiente en la votación de la Ley de IA:

1. Capacitar a las personas afectadas por los sistemas de IA

2. Garantizar la rendición de cuentas y la transparencia en el uso de la IA

  • Incluir la obligación de que los usuarios realicen y publiquen una evaluación de impacto de derechos fundamentales antes de desplegar un sistema de IA de alto riesgo e implicar de manera significativa a sociedad civil y a las personas afectadas en este proceso.
  • Garantizar que el proceso de clasificación de los sistemas de IA de alto riesgo dé prioridad a la seguridad jurídica y no ofrezca a los proveedores ninguna laguna legal.
  • Garantizar que los proveedores de IA con sede en la UE cuyos sistemas afecten a personas de fuera de la UE estén sujetos a los mismos requisitos que los de dentro de la UE.

3. Prohibir los sistemas de IA que supongan un riesgo inaceptable para los derechos fundamentales

  • Prohibición de la IA en contextos migratorios para realizar evaluaciones y perfiles de riesgo individuales, basados en datos personales y sensibles, y sistemas de análisis predictivo cuando se utilicen para interceptar, restringir e impedir la migración.
  • Prohibición de los sistemas de categorización biométrica que clasifican a las personas físicas en función de atributos sensibles o protegidos, así como el uso de cualquier sistema de categorización biométrica y de detección automática de comportamientos en espacios de acceso público.
  • Prohibición del uso de sistemas de reconocimiento de emociones para inferir las alteraciones y los estados mentales de las personas a partir de datos físicos, fisiológicos, conductuales y biométricos.

Pedimos a los miembros del Parlamento Europeo que voten a favor de incluir estas protecciones en la Ley de IA y que garanticen que este Reglamento es un vehículo para la promoción de los derechos fundamentales y la justicia social.

Se puede ver una descripción detallada de cómo la Ley de IA puede proteger mejor los derechos fundamentales en la declaración firmada por 123 organizaciones de la sociedad civil. Más información sobre las enmiendas propuestas por la sociedad civil aquí.


La Comisión General de Justicia y Paz ha firmado esta declaración

Descargar la declaración con las 75 organizaciones firmantes: