El texto de lo que sería el nuevo Reglamento de IA revelado en el documento recientemente filtrado incluye varias provisiones específicas para IA de alto riesgo.
La Comisión Europea ha propuesto un Reglamento del Parlamento Europeo y del Consejo con el objetivo de gobernar el uso y venta de IA de alto riesgo dentro de la Unión Europea. En el documento recientemente filtrado, las organizaciones afirman que: “La Inteligencia Artificial no debería ser el fin en sí mismo, sino una herramienta que ayude a las personas a fin de mejorar el bienestar del ser humano”. Con ello en mente, la Comisión Europea se ha propuesto definir y aclarar en mayor medida qué constituye IA de alto riesgo, y establece una serie de normas para asegurar que la IA es segura y sirve efectivamente en el mayor beneficio de las personas. «Se trata de un paso adelante en la dirección correcta, aportando mayores garantías éticas conforme nuestras vidas están cada vez más dominadas por decisiones tomadas por máquinas” afirma el Dr Bostjan Makarovic, Socio Gerente de Aphaia.
El documento destaca un conjunto de normas armonizadas en relación a la comercialización, puesta en servicio y uso de los sistemas de IA en la Unión. También armoniza normas de transparencia para los sistemas de IA destinados a interactuar con las personas, igual que par aquellos empleados para generar o manipular contenidos de imágenes, audios o vídeos. El marco regulatorio establecido en este documento se concibe sin perjuicio de las provisiones contenidas en la normativa que actualmente es aplicable a la IA en la Unión, que entra en el ámbito de este Reglamento.
El nuevo Reglamento se aplicaría a proveedores y usuarios de sistemas de IA en la UE o en terceros países en la medida en que afecten a personas en la UE.
Este Reglamento se aplicaría a proveedores de sistemas de IA que los comercialicen o los pongan en servicio en la Unión Europea ya estén establecidos en la UE o en un tercer país. Además, el Reglamento también se aplicaría a usuarios de sistemas de IA en la UE, y a proveedores y usuarios de sistemas de IA que se encuentren en terceros países en la medida en que estos sistemas afecten a personas dentro de la UE.
El artículo 3 del documento filtrado define un sistema de IA como un “software que se desarrolla mediante uno o más de los enfoques y técnicas listados en el Anexo I y pueden, para un conjunto de objetivos definidos por el ser humano, generar resultados como contenido, predicciones, recomendaciones o decisiones que influyan entornos reales o virtuales”. Esto puede ser un componente de un producto o un producto en sí mismo, y el resultado puede servir de manera parcial o total para automatizar ciertas actividades. El Anexo I recoge varios enfoques y técnicas al respecto de inteligencia artificial, incluidos métodos de machine learning, aprendizaje supervisado y por refuerzo, lógica y conocimiento y estadística.
El documento filtrado destaca varias prohibiciones que buscan proteger los derechos fundamentales de las personas físicas.
El documento recoge en el artículo 4 las prácticas de IA que quedarían prohibidas: una lista de usos de la IA que contravendrían los derechos fundamentales protegidos bajo el derecho y los valores de la UE. El Título II del Artículo 4 prohíbe el uso de sistemas de IA que manipulan el comportamiento, las opiniones o las decisions humanas a través de arquitecturas de elección o cualquier otro element de la interfaz de usuario que lleva a las personas a tomar decisiones, formarse opiniones o comportarse en detrimento de ellas mismas. Además, este Reglamento prohíbe el uso de la IA de una forma en la que se explote información o predicciones sobre las personas a fin de atacar sus vulnerabilidades. Asimismo, el Reglamento prohibiría la vigilancia indiscriminada sobre las personas físicas de una manera generalizada y sin diferenciación. El artículo 4(2) sin embargo indica que estas prohibiciones no se aplicarían cuando estuviesen autorizadas por ley o fuesen desempeñadas por cuenta de autoridades públicas para salvaguardar la seguridad pública, sujeto a la aplicación de garantías apropiadas para la defensa de los derechos y libertades de terceros, en cumplimiento con las leyes de la UE.
Cristina Contero Almagro, Socia de Aphaia, destaca que “Debería tenerse en cuenta que este Reglamento menciona “la monitorización y seguimiento de las personas físicas en entornos digitales o físicos, así como la agrupación agregada y el análisis de datos automáticos de varias fuentes” como elementos que podrían incluir los métodos de vigilancia, lo que implica que estas provisiones podrían potencialmente aplicarse a cualquier plataforma online que realice agrupación y análisis automáticos de datos.
Teniendo en cuenta que el Reglamento toma un enfoque basado en el riesgo y que se conecta en algunas áreas con el RGPD, esto sólo confirma, una vez más, la importancia de que las empresas tengan sus sistemas y procesos en cumplimiento con el marco de protección de datos. Toman especial importancia las Evaluaciones de Impacto de Protección de Datos, sobre las que se construirían las Evaluaciones de Conformidad”.
El nuevo Reglamento define de manera específica qué constituyen sistemas de IA de alto riesgo a fin de concretar de manera exacta qué sistemas quedarán sujetos a esta Regulación.
En relación a los sistemas de IA de alto riesgo, el documento cuenta con una sección específica (Anexo II) dedicada a definir con precisión y con ejemplos determinados lo que se considerarían “sistemas de inteligencia artificial de alto riesgo”. Cualquier cosa que caiga bajo dicho alcance queda sujeta a las normas específicas para asegurar el mejor interés de las personas. Se requeriría cumplimiento con estos requisitos antes de que los sistemas se pusiesen a disposición en el mercado. El Reglamento cubre el uso de conjuntos de datos para el entrenamiento de estos sistemas, y también reglas en torno a la documentación, registro de información, transparencia, robustez, precisión, seguridad y supervisión humana. El documento filtrado incluye numerosas obligaciones para los proveedores y usuarios de estos sistemas, así como para representantes autorizados, importadores y distribuidores.
El Reglamento establece las medidas previstas para apoyar la innovación en IA y ayudar a las PyMEs a asegurar cumplimiento con la normativa.
Este documento también abarca algunas medidas de apoyo de la innovación en IA, lo que incluye esquemas de sandboxes que podrían ser establecidos por las autoridades nacionales competentes en cualquiera de los Estados Miembro. Para reducir la carga regulatoria en las pequeñas y medianas empresas, se implementarán medidas adicionales, como el acceso prioritario a estos entornos sandbox y a centros digitales e instalaciones de experimentación y pruebas. Los centros digitales están destinados a ofrecer la formación necesaria para los proveedores de IA en cuanto a los requisitos regulatorios, y también a facilitar apoyo técnico y científico e instalaciones de pruebas.
El nuevo Reglamento de IA incluye planes para la creación de un Comité Europeo de Inteligencia Artificial.
El documento incluye planes para crear un Comité Europeo de inteligencia Artificial que se encargaría de supervisar la aplicación consistente de la normativa por parte de los Estados Miembro. Esta institución emitiría dictámenes, opiniones o documentos de orientación interpretativa que aclararían la aplicación del Reglamento, recogerían y compartirían mejores prácticas entre los Estados Miembro, ayudaría al desarrollo de estándares de IA y monitorizaría de forma constante los avances en el mercado y su impacto en los derechos fundamentales. El Comité Europeo de Inteligencia Artificial también sería responsable de asegurar consistencia y coordinación en el funcionamiento de los entornos sandbox de IA mencionados anteriormente. El Comité emitiría dictámenes antes de que la Comisión adopte un acto delegado y se coordinaría, al desempeñar estas tareas, con los órganos y estructuras relevantes a nivel europeo, incluido el CEPD.
