La propuesta de Reglamento de la UE sobre IA se centra principalmente en el nivel de riesgo asociado al sistema de IA.
En abril de este año, la UE se convirtió en la primera institución internacional en crear un marco legal para regular los sistemas de Inteligencia Artificial (IA). La propuesta sienta las bases y mecanismos para identificar los riesgos asociados a la IA y ofrecer soluciones factibles a los mismos. Con esta iniciativa, la UE da un giro a su tradicional enfoque sobre IA y robótica, que hasta ahora había estado marcado por el “soft-law”. Así, la propuesta de Reglamento contiene normas para el desarrollo y uso de sistemas de IA en la UE, prohibiciones, requisitos y obligaciones específicos para operadores de sistemas de IA de “alto riesgo”, normas sobre transparencia y normas sobre control y vigilancia del mercado.
Los sistemas de IA se evalúan y clasifican en cuatro grupos conforme al nivel de riesgo percibido.
El Reglamento distingue los sistemas de IA según el riesgo percibido, y los clasifica en cuatro categorías: riesgo inaceptable (sistemas completamente prohibidos), alto riesgo (sistemas sujetos a unas determinadas normas), riesgo limitado y riesgo mínimo (sujetos a códigos de conducta, fuera del Reglamento). Mientras que otras áreas quedan más claras, este no es el caso con los sistemas de IA de alto riesgo, que requerirán un control estricto, evaluaciones de riesgo detalladas y supervisión humana. Ejemplos de sistemas de IA de alto riesgo son aquellos empleados en infraestructuras críticas como transporte, cumplimiento de la ley, administración de justicia y control de fronteras, entre otros.
La propuesta de Reglamento introduce normas y responsabilidades para los proveedores de sistemas de IA, incluso después de que éste haya sido vendido.
La propuesta de Reglamento va más allá de la mera definición de los sistemas que precisan regulación y establece responsabilidad civil en ciertos casos, como aquella que puede recaer sobre los proveedores que ponen el sistema en el mercado. Estos deberán asegurar que se observan y respetan las prácticas de gobierno y gestión del dato y que se cumple con las normas, incluso después de la venta del sistema de IA, en relación a lo cual el proveedor tendrá que implementar un control postventa que le permita confirmar que se aplica la normativa y tomar medidas en caso de no ser así.
La propuesta también hace obligatorio para los proveedores ofrecer a los usuarios la posibilidad de supervisar los sistemas de IA de alto riesgo a fin de prevenir cualquier riesgo potencial.
En caso de incumplimiento se prevén multas que pueden alcanzar el 6% del beneficio anual de la empresa. A pesar de que aún hay algún tiempo hasta que el Reglamento comenzase a aplicarse, pues ocurriría 24 meses después de la adopción de la propuesta, es recomendable que las empresas y operadores que pueden verse sujetos al mismo comiencen a revisar sus sistemas de IA y las prácticas asociadas a los mismos.
Mientras que el Reglamento se aplicaría en el contexto de la Unión Europea, la UNESCO está también trabajando en una Recomendación sobre la Ética de la IA, lo cual tomaría un alcance global.
¿Quieres explorar estas novedades en detalle? No te pierdas nuestro último vlog:
Para aprender más sobre IA y Regulación, visita nuestro Canal de Youtube.
¿Utilizas IA en tu empresa y necesitas ayuda para cumplir con la normativa aplicable? Podemos ayudarte. Realizamos Evaluaciones de Impacto de Protección de Datos, Evaluaciones de la Ética de la IA, implementación del RGPD, la LOPDGDD y la LSSI y ofrecemos subcontratación del Delegado de Protección de Datos, entre otros servicios. Podemos ayudarte. Infórmate aquí.
