Loading

Blog details

La CNIL traza un plan de acción con relación al desarrollo de sistemas de IA

La CNIL traza un plan de acción con relación al desarrollo de sistemas de IA

La autoridad de control de Francia, la CNIL, ha definido un plan de acción de IA para guiar a empresas y organizaciones que desarrollen sistemas de IA. 

 

La autoridad de protección de datos de Francia, CNIL, ha publicado un plan estratégico en Inteligencia Artificial (IA) para proporcionar orientación a las empresas y organizaciones que desarrollen sistemas de IA. El plan destaca los principios que deberían considerarse al diseñar, desarrollar e implementar sistemas de IA, incluidos los de transparencia, equidad, rendición de cuentas y protección de datos. La estrategia también incluye medidas para abordar los retos éticos que presenta la IA, como potenciales sesgos y discriminación, y la necesidad de que los sistemas de IA cuenten con supervisión humana. Según este informe de la CNIL, el plan establece un número concreto de acciones que la CNIL llevará a cabo para promover un desarrollo responsable de la IA, y cubrirán, entre otros aspectos, la creación de un grupo de trabajo especializado para controlar los desarrollos en IA y ofrecer apoyo a las empresas y organizaciones. La CNIL también trabajará con otras autoridades de control europeas para diseñar un enfoque común respecto de la regulación de IA e involucrará a otras partes interesadas para promover buenas prácticas en el desarrollo e implementación de sistemas de IA.  

 

El plan de acción de la CNIL destaca la importancia de los principios de equidad y transparencia.

 

Uno de los principios clave destacados en el plan es la transparencia en los sistemas de IA, lo cual implica que las empresas y organizaciones deberían ser claros sobre cómo funciona su tecnología de IA, cómo toma decisiones y qué datos utiliza, y esto permitirá a los sujetos comprender qué datos se han empleados y cómo cuestionar las decisiones tomadas por la IA si consideran que estas son injustas o discriminatorias. Otro principio importante es la necesidad de equidad en los sistemas de IA, lo cual conlleva que las empresas y organizaciones se aseguren de que sus sistemas de IA no discriminan ciertos grupos de personas por cualquier motivo, como la reza, el género o la edad. A fin de cumplir con este aspecto, las empresas y organizaciones deberán confirmar que su tecnología de IA ha sido entrenada con bases de datos diversas, y que se prueban de forma regular a fin de identificar cualquier sesgo. 

 

El plan de acción de la CNIL contribuirá a asegurar que los sistemas de IA se desarrollan de tal forma que beneficie a la sociedad en su conjunto y respete los derechos de los sujetos. 

 

El plan también enfatiza la importancia de la rendición de cuentas en los sistemas de IA, lo que significa que las empresas y organizaciones deberían ser responsables por las decisiones tomadas por su IA y deberían ser capaces de explicar cómo se han alcanzado dichas decisiones. Este requisito permitirá que los sujetos cuestionen las decisiones tomadas por los sistemas de IA si las consideran injustas o discriminatorias. En resumen, el plan de la CNIL contribuirá a que se desarrolle IA de una forma que beneficie a la sociedad en su conjunto y que respete los derechos de los sujetos. La continua evolución de la IA y la integración de la misma en nuestro día a día hace esencial que se tenga un enfoque consistente en cuanto a su regulación, y el plan de la CNIL representa un importante paso hacia esta dirección.  

 

¿Has implementado todas las medidas para cumplir con el RGPD, la LOPDGDD, la LSSI y la directiva ePrivacy? Nuestros servicios integrales abarcan, entre otras áreas, Evaluaciones de Impacto de Protección de Datos, Evaluaciones de la Ética de la IA, Implementación del RGPD, la LOPDGDD y la LSSI y subcontratación del Delegado De Protección de Datos. Infórmate aquí.

Prev post
La ICO multa a dos empresas con más de 200.000 € por llamadas de marketing no solicitado
mayo 18, 2023
Irlanda impone una multa récord
Next post
Irlanda impone una multa récord de 1.200 millones de euros a Meta por transferencias de datos a Estados Unidos
mayo 25, 2023