El pasado 21 de abril la Comisión Europea (CE) presentó una propuesta de reglamento para regular por primera vez la inteligencia artificial (IA), así como una propuesta para robots y maquinaria que sustituya la directiva en vigor de 2006, desfasada por los nuevos avances tecnológicos.
El objetivo de este nuevo marco legal es fomentar la inversión en IA en la Unión Europea y garantizar los derechos fundamentales de los usuarios. En ese sentido, la CE excluye su uso con fines militares.
La Comisión Europea propone que recaiga el control de este reglamento en las autoridades nacionales de vigilancia del mercado y la creación de un Comité Europeo de Inteligencia Artificial para su coordinación y aplicación.
INTELIGENCIA ARTIFICIAL
La propuesta normativa establece cuatro niveles de riesgo:
1) El nivel máximo, “riesgo inaceptable”, incluye aquellos sistemas de IA que supongan “una amenaza para la seguridad, los medios de subsistencia y los derechos de las personas” y los prohíbe. Dentro de este nivel se incluyen sistemas que manipulen el comportamiento humano como, por ejemplo, un juguete que fomente actitudes peligrosas de los menores o que incite a la violencia. También prohíbe cualquier sistema de “puntuación social” que permitiera a los gobiernos establecer diferencias entre ciudadanos.
2) En el segundo nivel, “riesgo alto”, se engloban sistemas de IA aplicados en infraestructuras críticas de transporte (riesgo para la vida o la salud), formación educativa o carrera profesional (por ej., exámenes oficiales), componentes de seguridad de los productos (por ej., en cirugía asistida por robots), contratación o gestión de trabajadores (clasificación de CV, por ejemplo), servicios públicos y privados esenciales (como sistemas de calificación crediticia), aplicación de la legislación (si conculca derechos fundamentales), gestión de las migraciones y control de las fronteras (sistemas de autentificación de documentos oficiales) y la administración de justicia y procesos democráticos. En este nivel, los sistemas de Inteligencia Artificial se someterán a estrictas obligaciones antes de su uso, como sistemas adecuados de evaluación de riesgos, de trazabilidad de los resultados, supervisión humana, información clara al usuario y un alto nivel de solidez, seguridad y precisión.
Los sistemas de identificación biométrica remota (reconocimiento facial) se engloban en este nivel de “alto riesgo”. La nueva legislación descarta su uso en tiempo real en espacios públicos con fines policiales, salvo en situaciones excepcionales (lucha antiterrorista, desaparición de menores o delincuentes peligrosos, por ejemplo), de forma limitada en tiempo, lugar y alcance y sujeto a autorización judicial previa.
3) El tercer nivel, “riesgo limitado”, hace referencia a sistemas como los chatbots, a los que exige cierto grado de transparencia. En cualquier caso, se deberá hacer explícito que la comunicación se mantiene con una máquina.
4) El cuarto nivel, “riesgo mínimo”, incluye el uso de IA en videojuegos, filtros de correo basura o programas de imágenes, sistemas para los que no indica ninguna medida específica. La mayor parte de los sistemas de IA se encuadran en este nivel.
ROBOTS Y MAQUINARIA
La CE también ha propuesta una nueva regulación que sustituya la directiva de 2006, de modo que se incluyan nuevos productos como robots, impresoras 3D y diversa maquinaria industrial y de construcción.
El nuevo reglamento establece requisitos adicionales de seguridad respecto a la integración de IA en dicha maquinaria y tratará de simplificar la documentación para obtener permisos de venta en la UE.
#IA #InteligenciaArtificial #ReconocimientoFacial #IdentificaciónBiométrica #Robots #ComisiónEuropea #UE
