Aphaia ha abierto su nueva oficina en 42Workspace en Róterdam y tuvo la oportunidad de ofrecer la ponencia “Ley europea de IA con fundamentos del RGPD” a la comunidad tecnológica de Róterdam el pasado 5 de junio.
42Workspace es el espacio de coworking tecnológico en Róterdam, que comprende una comunidad de más de 40 startups y scale-ups que brindan servicios digitales en múltiples áreas, como análisis, visualización de datos, diseño web, inmuebles, atención médica y procesamiento de pagos, entre otros. En su expansión en el mercado neerlandés y tras años de experiencia ayudando a empresas tecnológicas a cumplir con todas sus prácticas, procedimientos y sistemas en el contexto de la protección de datos, ética de IA y regulación de telecomunicaciones, Aphaia se ha unido a 42Workspace.
No se nos ocurrió una mejor manera de presentarnos que hablar sobre lo que más nos apasiona: los últimos desarrollos en el panorama regulatorio de datos y tecnología, por lo que preparamos una ponencia sobre la nueva Ley europea de IA y el RGPD, la cual tuvimos la oportunidad de ofrecer el pasado 5 de junio. En este artículo, resumimos los puntos clave del evento.
Las Directrices Éticas para una IA Confiable
Las Directrices Éticas presentadas por el Grupo de Expertos de Alto Nivel en Inteligencia Artificial en 2019 sentaron las bases de la recientemente aprobada Ley europea de IA. Aunque las directrices no son directamente aplicables, han inspirado en gran medida los requisitos impuestos por la Ley europea de IA en relación a ciertos sistemas. Además, el considerando 27 de la ley reconoce la importancia de los principios éticos definidos en las directrices con el fin de asegurar que los modelos y sistemas de IA sean confiables y centrados en el ser humano: “Sin perjuicio de los requisitos legalmente vinculantes de este Reglamento y de cualquier otra legislación de la Unión aplicable, esas directrices contribuyen al diseño de una IA coherente, confiable y centrada en el ser humano, en línea con la Carta y con los valores en los que se funda la Unión […] La aplicación de esos principios debe traducirse, cuando sea posible, en el diseño y uso de modelos de IA. En cualquier caso, deben servir como base para la redacción de códigos de conducta bajo este Reglamento.” En consecuencia, principios como la agencia y supervisión humana, la robustez técnica y la seguridad, la privacidad y la gobernanza de datos, la transparencia, la diversidad, la no discriminación y la equidad, el bienestar social y ambiental y la responsabilidad deben ser fundamentales en el diseño y desarrollo de cualquier sistema de IA.
La Ley europea de IA
El camino hacia la Ley europea de IA desde la propuesta inicial de la Comisión Europea hasta la versión finalmente adoptada por el Parlamento y el Consejo de la UE no ha sido fácil, lo cual no es sorprendente si se considera que ha tenido lugar durante el auge de la IA generativa en la corriente principal.
En consecuencia, las categorías de IA que han sido prohibidas por completo, como aquellas que participan en comportamientos manipulativos o explotan vulnerabilidades de grupos sociales, y las categorías que han sido sometidas a una regulación exhaustiva como IA de “alto riesgo”, como aquellas que controlan vehículos u otras maquinarias, ahora están complementadas por reglas especiales para los sistemas de IA generativa, en concreto si se espera que tengan un alto impacto.
Aunque la Ley europea de IA claramente representa un hito global en la regulación de la IA, es poco probable que sea tan a prueba de futuro como se esperaba por sus defensores, ya que los desarrollos continuos ya desafían la categorización de riesgos y los remedios que utiliza.
RGPD e IA
Aunque la Ley europea de IA está específicamente dirigida a los sistemas y modelos de IA, y es el primer marco legal integral sobre IA en todo el mundo, no es la primera ni la única ley que actualmente regula la IA en la UE. El RGPD se aplica al diseño, uso e implementación de la IA si se utilizan datos personales. Hay dos niveles de riesgo en relación con el tratamiento de datos personales en el contexto de la IA y con cada uno de ellos se asocian diferentes implicaciones del RGPD.
El primero sería el tratamiento de datos personales ya sea para entrenar un modelo de IA o como entradas en un sistema de IA. En este caso, el tratamiento estaría totalmente sujeto al RGPD y muy probablemente se requeriría una Evaluación de Impacto en la Protección de Datos para identificar cualquier riesgo potencial y medidas de mitigación que puedan ser necesarias, dada la naturaleza de la tecnología utilizada.
El segundo nivel estaría determinado por la toma de decisiones automatizada, cuando la IA toma decisiones basadas en tratamiento automatizado o perfilado, produciendo efectos legales o similares en el interesado. El RGPD restringe este tratamiento a escenarios muy específicos e impone obligaciones sobre múltiples derechos y medidas que deben habilitarse y aplicarse.
Fue un gran placer para el equipo de Aphaia participar en un debate tan interesante con la comunidad de 42Workspace y estamos agradecidos por todas las preguntas planteadas y los increíbles comentarios recibidos.
