Europa pretende tener regulados cuanto antes los usos de la Inteligencia Artificial

Luisondome

Dos militares prueban un 'script' de reconocimiento facial durante un curso de ciberseguridad.

REUTERS/Amir Cohen

España presidirá el Consejo de la Unión Europea desde el próximo 1 de julio, hasta finalizar el semestre. Resta poco más de un mes para que el Gobierno que dirige Pedro Sánchez suceda a Suecia al frente de este organismo comunitario, uno de los dos colegisladores de la Unión Europea junto al Parlamento Europeo. 

De la anterior presidencia del Consejo llegara a la presidencia española un proyecto crucial de la legislatura comunitaria, pues  la Comisión Europea presentó el borrador del Reglamento de la Inteligencia Artificial en abril del año 2021, y hace apenas unos días en que las comisiones de la Euro Cámara dieron su visto bueno a su versión del documento.

Ahora le llega el turno al Parlamento Europeo para que apruebe en  un pleno y de forma definitiva el texto, que posteriormente tendrá que ser sometido a las negociaciones con el propio Consejo —que ya entonces será presidido desde Madrid— y la propia Comisión. Esos encuentros trilaterales son los conocidos trílogos, y fruto del consenso entre las tres instituciones salen adelante los reglamentos europeos.

Ante esta situación, 60 organizaciones de la sociedad civil, en su mayoría de origen español, pero con presencia también de entidades europeas, han presentado este miércoles por la mañana algunas de sus reivindicaciones de cara a la futura aprobación definitiva del texto legal. Se trata de una de las primeras cartas públicas que se dirigen a la inminente presidencia española del Consejo. Dice la carta:

"Las organizaciones abajo firmantes le escribimos para llamar su atención sobre una serie de graves deficiencias en el Reglamento de Inteligencia Artificial que actualmente está siendo negociado por la presidencia sueca del Consejo de la Unión Europea y lo será próximamente por la presidencia española".

La carta se basa "en la posición" que otras 123 organizaciones de la sociedad civil han consensuado y que piden a la Unión Europea en su conjunto "que ponga en primer plano un enfoque basado en los derechos fundamentales para el Reglamento de la IA", puntualizando que "es un acto legislativo fundamental que tendrá un fuerte impacto en la población y, con toda probabilidad, más allá de nuestras fronteras", y añadiendo que "algunas de nuestras preocupaciones se refieren a prácticas peligrosas que conducen a la vigilancia masiva sobre la población. Al fomentar la vigilancia masiva y amplificar algunas de las desigualdades sociales y desequilibrios de poder más profundos, los sistemas de IA están poniendo en grave peligro nuestros derechos fundamentales y los procesos y valores democráticos".

Entre las entidades impulsoras de la carta están firmantes como la Fundación Eticas, el Institut de Drets Humans de Catalunya, la federación catalana Lafede.cat, o el Observatorio de Trabajo, Algoritmos y Sociedad. En las firmantes hay siglas como Access Info, Amnistía Internacional, DigitalFems, EDRi, la Federación de Sindicatos de Periodistas o la Federación de Consumidores y Usuarios CECU.

Qué piden a la presidencia española del Consejo

La carta pide, más concretamente, "una reunión de alto nivel con representantes de la sociedad civil antes del comienzo de la presidencia" para asegurar que en los trílogos "se refuercen y protejan adecuadamente los derechos fundamentales" en el futuro reglamento. También demandan "garantías" por parte del Gobierno español sobre "cómo espera que se consigan los más altos niveles de protección de los derechos fundamentales en el texto final del Reglamento de la IA".

Durante la semana pasada, las comisiones de la Eurocámara aprobaron su enfoque del Reglamento de la IA que tendrán que negociar con el Consejo y la Comisión. La letra de ese documento satisface a organizaciones como European Digital Rights, la EDRi, una federación de asociaciones y entidades europeas por los derechos digitales.

"Celebramos el veto absoluto a los sistemas de identificación biométrica en espacios públicos tanto en tiempo real como a posteriori y el veto de las políticas presciptivas o el reconocimiento de emociones, la categorización biométrica y otros sistemas de IA arriesgados e inaceptables", decían. Sin embargo, a la EDRi no le satisfizo que muchas de las salvaguardas que se están negociando en Bruselas no se apliquen por igual precisamente a migrantes, que en los cruces de frontera se someterán a sistemas de reconocimiento biométrico similares, pues Europa estudia blindar sus fronteras con las mismas tecnologías que pretende tener reguladas en el interior: "Los migrantes merecen el mismo amparo que cualquier otra persona", dicen.

Dado que el texto del Parlamento Europeo —pendiente de aprobación en pleno a lo largo de junio— puede variar con respecto al texto final, fruto de sus negociaciones con el Consejo y la Comisión, las 60 organizaciones de la sociedad civil que hoy dirigen su escrito a la futura presidencia española, pormenorizan sus reivindicaciones en 5 puntos.

Piden, por ejemplo, "ampliar el listado de prohibiciones exhaustivas de aquellos sistemas de IA que supongan un 'riesgo inaceptable' para los derechos fundamentales", como esos sistemas de reconocimiento biométrico en espacios públicos, el uso de modelos de IA para realizar predicciones o evaluaciones de riesgo para prevenir delitos, o el uso de sistemas de reconocimiento de emociones.

También piden "eliminar cualquier tipo de discrecionalidad en el proceso de clasificación de sistemas de alto riesgo" del futuro artículo 6 del Reglamento de la IA, y exigir mayores estándares en la rendición de cuenta a los proveedores de IA de alto riesgo, así como transparencias sobre los usos públicos de sistemas de inteligencia artificial.

Por último, las organizaciones de la sociedad civil proponen que el futuro texto incorpore medidas para que los ciudadanos puedan ejercer sus derechos, poniendo por ejemplo a disposición de los ciudadanos los mecanismos de reparación suficientes "para empoderar a las personas afectadas por los sistemas de IA".

"Los estándares técnicos no deben tratar cuestiones relacionadas con derechos fundamentales y deben incluir más representatividad y diversidad de organizaciones de la sociedad civil en su elaboración", y concluye que "gran parte de la aplicación del reglamento dependerá del desarrollo de estándares técnicos y de su aplicación por parte de fabricantes", añadiendo finalmente que "no está claro cómo esos estándares podrían impactar en los derechos fundamentales de las personas. Por ello, creemos necesario que los estándares técnicos no sean utilizados para evaluar la posible afectación sobre derechos fundamentales y que se pongan los medios y recursos necesarios para garantizar una mayor participación de la sociedad civil en esos procesos de estandarización".

Por otro lado, hace unos pocos días que el CEO de Palantir, Alez Karp estuvo en España para asistir a la Feria Internacional de Defensa y Seguridad, y en ella dijo algunas cosas interesantes, como que imagina que la guerra anda cada vez mas cerca de parecerse a un juego.

Alex Karp, CEO de Palantir. Imagen: Reuters, Arnd Wiegmann

Para Karp, la aplicación de la IA a la guerra se trata de una simple cuestión de supervivencia, pues da por hecho que Rusia y China están desarrollando estas herramientas, lo que hace que su utilización en unos años en el ámbito militar sea poco menos que inevitable, sean cuales sean los riesgos que traiga consigo.

Dice Karp que "China y Rusia tienen una ventaja elevada en cuestión de IA", y por ello "de lo que hay que preocuparse es de que no nos preocupemos de nuestra propia crisis. Porque solo una porción mínima de nuestros ingresos se invierten en IA, un sector de un valor inestimable", ha analizado Karp.

Sobre cómo EEUU entiende la IA, el CEO de Palantir encuentra que hay dos modelos: uno que toma la IA en broma y otro que dice que más pronto que tarde sustituirá a la humanidad entera. "Las dos visiones son muy peligrosas. Tenemos unos adversarios muy potentes. Si no invertimos en esto, perderemos la ventaja. Hay quien no cree en esto, y otros que, como yo, que estamos preocupados".

A la vista de lo expuesto, parece mas que necesario que durante la presidencia española del Consejo Europeo se le de prioridad a esta regulación para que esté disponible cuanto antes, dada la velocidad a la que esta avanzando la implementación de esta tecnología, y a la importancia de los riesgos que esta tiene y del daño que puede producir a los derechos de la ciudadanía. Ya son muchos los avisos generados por expertos y líderes en la investigación y el desarrollos de nuevas tecnologías, de procedencia diversa, pero con el denominador común de que todos están pidiendo con urgencia la regulación de los usos de la IA. Esperemos que podamos contar con ella en Europa antes de que termine el año, es decir, durante la presidencia española. Si fuera ese el fruto recogido de su gestión, estaríamos de enhorabuena.