Comienza el proceso para aplicación de la regulación de la IA en Europa

Inteligencia Artificial

Por Risto Uuk

Hay gran interés por el primer código de prácticas de IA de uso general 

La Oficina de IA ha recibido casi 1.000 manifestaciones de interés de organizaciones e individuos de todo el mundo para participar en la redacción del primer Código de prácticas de IA de uso general. El proceso de redacción comenzará con una sesión plenaria inicial en línea el 30 de septiembre. La Oficina de IA está verificando actualmente la elegibilidad de los solicitantes en función de la información presentada y pública, y las confirmaciones de participación se realizarán a su debido tiempo. El Código detallará las reglas de la Ley de IA para los proveedores de modelos de IA de uso general, incluidos aquellos con riesgos sistémicos. Una consulta de múltiples partes interesadas, con presentaciones que deben presentarse antes del 18 de septiembre, informará el proceso de redacción.

Polémica por la contratación de un asesor científico principal para IA 

Eliza Gritsi, editora de tecnología de Euractiv, informó que la búsqueda por parte de la Comisión Europea de un asesor científico principal interno para IA ha generado controversia. Este puesto, dependiente de la Dirección General de Redes de Comunicaciones, Contenidos y Tecnologías (CNECT), es independiente de la Oficina de IA, pero ayudará a supervisar los avances tecnológicos, en particular en lo que respecta a los modelos de IA potentes de propósito general. El puesto, anunciado en mayo, implica interactuar con un panel científico y asesorar sobre políticas de innovación. 

Recientemente, el proceso de contratación interna ha enfrentado las críticas de Kai Zenner y Svenja Hahn del Parlamento Europeo, quienes argumentan que contradice el espíritu de los acuerdos anteriores y la estructura prevista de la Oficina de IA. Un funcionario de la Comisión aclaró que el puesto está abierto a todos los funcionarios de las instituciones de la UE, incluidas agencias como ENISA, y que más adelante podría abrirse a candidatos externos si no se cubre internamente. El funcionario enfatizó que no existía un acuerdo político sobre el proceso de contratación para este puesto, que se creó después de que concluyeran las negociaciones de la Ley de IA.

Primera reunión oficial del Comité de IA 

La Comisión Europea acogió la primera reunión oficial del Comité de IA tras la entrada en vigor de la Ley de IA el 1 de agosto. El Comité, integrado por representantes de alto nivel de la Comisión y de los Estados miembros de la UE, debatió cómo mejorar el desarrollo de la IA en la UE y la aplicación de la Ley de IA. El Supervisor Europeo de Protección de Datos y representantes del EEE/AELC de Noruega, Liechtenstein e Islandia asistieron como observadores, y la Oficina de IA proporcionó servicios de secretaría. Las áreas de interés clave incluyeron el establecimiento de la organización y las normas del Comité, las actualizaciones de los avances en la política de IA de la UE, el progreso de la aplicación de la Ley de IA y el intercambio de mejores prácticas para la gobernanza nacional de la IA. La Comisión y los Estados miembros tienen como objetivo garantizar una configuración oportuna del marco de gobernanza de la IA y una aplicación efectiva de la Ley. Esta reunión siguió a la sesión preparatoria del 19 de junio.

Análisis

Cómo Europa está adaptando la IA a los derechos humanos 

Virginia Dignum, directora del Laboratorio de Políticas de IA de la Universidad de Umeå, escribió un artículo en el que compara la convención sobre IA del Consejo de Europa con la Ley de IA. La Convención Marco del Consejo de Europa sobre IA, Derechos Humanos, Democracia y Estado de Derecho se abrió a la firma a partir del 5 de septiembre de 2024. Hace hincapié en la transparencia, la rendición de cuentas, la gestión de riesgos y la protección de los grupos vulnerables. La Ley de IA adopta un enfoque más centrado en el mercado, proporcionando directrices regulatorias claras para las empresas al tiempo que protege los derechos de los consumidores. Su marco basado en el riesgo permite una supervisión diferenciada en función del riesgo que plantean las aplicaciones de IA, en particular en sectores como la atención sanitaria y el transporte. Si bien la Ley de IA destaca por su marco preciso que fomenta el cumplimiento y el desarrollo ético de la IA, la convención del Consejo de Europa tiene un alcance más amplio. Hace hincapié en los derechos humanos, la democracia y el estado de derecho en todos los sectores, yendo más allá de las preocupaciones económicas.

La Oficina de IA necesita talento científico de primer nivel, no caras conocidas 

Alex Petropoulos, analista de IA avanzada en el ICFG, y Max Reddel, director de IA avanzada en el ICFG, publicaron un artículo de opinión en Euractiv en el que sostienen que la Oficina de IA se enfrenta a un momento decisivo, con informes que sugieren que la Comisión Europea podría cubrir el papel crucial de asesor científico principal internamente en lugar de externamente. Petropoulos y Reddel afirman que esta decisión podría afectar significativamente a la capacidad de la Oficina para atraer a los mejores talentos científicos y técnicos para gestionar la IA en Europa de manera eficaz. Consideran que es muy poco probable encontrar un candidato interno adecuado con la experiencia necesaria en ciencia de la IA y que las personas calificadas podrían ganar significativamente más en el sector privado. Los autores afirman que la importancia de este puesto radica en su influencia en la adquisición de talento, que es crucial para abordar desafíos regulatorios complejos, como la evaluación de los riesgos sistémicos que plantean los modelos de IA de propósito general. El Reino Unido y los EE. UU. han priorizado la contratación y han reclutado con éxito a ex investigadores de DeepMind y OpenAI para funciones similares. Por el contrario, la Oficina de IA de la UE aún no ha designado puestos clave como el de Jefe de Unidad de Seguridad de la IA y el de Asesor Científico Principal.

¿Cómo diseñar el código de prácticas?  

Un estudio de Yann Padova y Sebastian Thess, abogados del bufete Wilson Sonsini Goodrich & Rosat encargado por CCIA Europe, ofrece diez recomendaciones para el desarrollo del Código de prácticas de la Ley de IA para los proveedores de IA de propósito general (GPAI): 

1) Incentivar a los proveedores de GPAI a participar en la autorregulación en lugar de depender únicamente del cumplimiento interno. 

2) Alinear el Código con los enfoques y estándares internacionales para evitar la fragmentación 

3) Proporcionar una orientación clara y adaptable sobre las obligaciones de los proveedores de GPAI, incluidos los dominios de riesgo sistémico y las salvaguardas.

4) Evitar problemas fuera del alcance, incluida la interpretación del cumplimiento de la legislación de la Unión sobre derechos de autor.

 5) Cuando la Ley de IA permita flexibilidad para diferentes medidas de cumplimiento, alinearse con los enfoques y estándares técnicos internacionales.

6) Determinar el nivel adecuado de granularidad para cada obligación y tener en cuenta la experiencia del proveedor.

7) Involucrar a los proveedores de GPAI en el establecimiento del nivel adecuado de granularidad.

8) Garantizar la participación de la Oficina de IA en la redacción del Código.

9) Reflexionar sobre los diferentes roles de las partes interesadas en la participación en el proceso de redacción.

10) Organizar un proceso de redacción claro y eficiente con hitos precisos.