La autoridad de control de Francia, la CNIL, ha definido un plan de acción de IA para guiar a empresas y organizaciones que desarrollen sistemas de IA.
La autoridad de protección de datos de Francia, CNIL, ha publicado un plan estratégico en Inteligencia Artificial (IA) para proporcionar orientación a las empresas y organizaciones que desarrollen sistemas de IA. El plan destaca los principios que deberían considerarse al diseñar, desarrollar e implementar sistemas de IA, incluidos los de transparencia, equidad, rendición de cuentas y protección de datos. La estrategia también incluye medidas para abordar los retos éticos que presenta la IA, como potenciales sesgos y discriminación, y la necesidad de que los sistemas de IA cuenten con supervisión humana. Según este informe de la CNIL, el plan establece un número concreto de acciones que la CNIL llevará a cabo para promover un desarrollo responsable de la IA, y cubrirán, entre otros aspectos, la creación de un grupo de trabajo especializado para controlar los desarrollos en IA y ofrecer apoyo a las empresas y organizaciones. La CNIL también trabajará con otras autoridades de control europeas para diseñar un enfoque común respecto de la regulación de IA e involucrará a otras partes interesadas para promover buenas prácticas en el desarrollo e implementación de sistemas de IA.
El plan de acción de la CNIL destaca la importancia de los principios de equidad y transparencia.
Uno de los principios clave destacados en el plan es la transparencia en los sistemas de IA, lo cual implica que las empresas y organizaciones deberían ser claros sobre cómo funciona su tecnología de IA, cómo toma decisiones y qué datos utiliza, y esto permitirá a los sujetos comprender qué datos se han empleados y cómo cuestionar las decisiones tomadas por la IA si consideran que estas son injustas o discriminatorias. Otro principio importante es la necesidad de equidad en los sistemas de IA, lo cual conlleva que las empresas y organizaciones se aseguren de que sus sistemas de IA no discriminan ciertos grupos de personas por cualquier motivo, como la reza, el género o la edad. A fin de cumplir con este aspecto, las empresas y organizaciones deberán confirmar que su tecnología de IA ha sido entrenada con bases de datos diversas, y que se prueban de forma regular a fin de identificar cualquier sesgo.
El plan de acción de la CNIL contribuirá a asegurar que los sistemas de IA se desarrollan de tal forma que beneficie a la sociedad en su conjunto y respete los derechos de los sujetos.
El plan también enfatiza la importancia de la rendición de cuentas en los sistemas de IA, lo que significa que las empresas y organizaciones deberían ser responsables por las decisiones tomadas por su IA y deberían ser capaces de explicar cómo se han alcanzado dichas decisiones. Este requisito permitirá que los sujetos cuestionen las decisiones tomadas por los sistemas de IA si las consideran injustas o discriminatorias. En resumen, el plan de la CNIL contribuirá a que se desarrolle IA de una forma que beneficie a la sociedad en su conjunto y que respete los derechos de los sujetos. La continua evolución de la IA y la integración de la misma en nuestro día a día hace esencial que se tenga un enfoque consistente en cuanto a su regulación, y el plan de la CNIL representa un importante paso hacia esta dirección.
