La ética en la inteligencia artificial

Principios éticos que deben gobernar el uso de inteligencia artificial según la Comisión Europea

El informe sobre las bases éticas que deben estar presentes en la inteligencia artificial (IA), publicado por el grupo de expertos de la Comisión Europea, muestra un borrador sobre la postura de la institución en la materia. Se prevé que su versión definitiva sea publicada en marzo de este año y la idea que se persigue es la creación de un compromiso ético al que las empresas puedan adherirse libremente.

Si bien la inteligencia artificial está permitiendo el desarrollo de muchas técnicas y procesos que hace unos años suponían un desafío para empresas e instituciones, la generalización de su uso require también un determinado control y el asentamiento de unas bases concretas sobre las que debe regirse su utilización, de tal modo que se establezca un marco regulador para algunas controversias que se están derivando, como la existencia de sistemas faciales de reconocimiento sin el previo consentimiento del sujeto, la adopción de sistemas cubiertos de IA no diferenciables de un ser humano, o el uso de armas letales autónomas.

La confianza por parte de la sociedad hacia los sistemas de inteligencia artificial se considera esencial, y para lograrla se destacan dos elementos: la adopción de principios teóricos éticos y la implantación práctica de soluciones.

Derechos fundamentales y principios éticos

Según el informe, los derechos recogidos en los tratados europeos y la Carta Europea de Derechos Humanos funcionarían como referencia en el contexto de inteligencia artificial, adaptados a las particularidades correspondientes. Se mencionan, en concreto, los siguientes:

-Respeto de la dignidad humana: protección de la integridad física y moral.

-Libertad individual: protección frente a coacciones, engaño o manipulación.

-Respeto a la democracia, la justicia y las normas.

-Igualdad, no discriminación y solidaridad.

-Derechos ciudadanos.

Conforme al grupo de expertos, la implantación del respeto a los derechos humanos habría de realizarse mediante la ejecución en consecuencia de una serie de principios:

-Principio de bondad (“Do Good”), conforme al cual los sistemas de IA deberían ser diseñados con el fin de maximizar el valor en un entorno sostenible.

-Principio de no maldad (“Do no Harm”), de tal modo que desde el diseño la IA tendrá que proteger la dignidad, la integridad, la privacidad, la libertad y la seguridad de las personas en la sociedad y en el trabajo.

-Principio de autonomía, que sitúa al ser humano en una posición de libertad frente a la IA, que de ningún modo podrá suponer subordinación o coerción.

-Principio de justicia, que implica que el desarrollo, uso y regulación de la IA debe hacerse de manera limpia, de tal modo que se eviten sesgos, estigmatización y discriminación y se prevean reparaciones de daño si es necesario.

-Principio de explicabilidad, que comprende tanto transparencia a nivel técnico como de negocio, de tal modo que los usuarios sean informados del funcionamiento de los sistemas y estos sean auditables, además de los fines de su uso.

Implantación práctica

La definición de unos objetivos prácticos se refleja en una serie de requerimientos concretos para los sistemas AI, que la Comisión ha recogido en el siguiente grupo:

-Proactividad y responsabilidad: se deberán promover compensaciones en caso de daño, tanto monetarias como no monetarias.

-Gobierno del dato: toman un papel esencial la calidad de los datasets empleados, en términos de adecuada representación de las diferentes categorías de datos, e integridad y sesgo de los mismos.

-Inclusión: los sistemas de IA tienen que ser accesibles a todos los ciudadanos, independientemente de la edad, estatus social o existencia de capacidades diversas.

-Autonomía de la IA: se deberá articular un procedimiento de revisión y control del sistema, que será más estricto conforme más sea la autonomía del sistema.

-No discriminación, derivado del gobierno del dato.

-Autonomía humana: comprobación de que los sistemas IA sirven a una serie de funciones y propósitos previamente definidos por el ser humano.

-Respeto por la privacidad, tanto de los datos proporcionados por el sujeto como de la información generada a través del uso e interacción con el sistema de IA.

-Consistencia, compuesto por la fiabilidad y reproducibilidad del sistema, su precisión y la resistencia de ataque.

-Seguridad, relacionada con la ausencia de incertidumbre en el comportamiento del sistema.

-Transparencia o reducción de asimetría de información.

Se precisará de un análisis del sistema concreto para detectar los principales puntos débiles y de interés, de manera que deberán ser tratados con medidas tanto técnicas (privacidad y seguridad por diseño y por defecto, test y validación, trazabilidad y auditabilidad) como no técnicos (regulación, códigos de conducta, formación, diálogo).

Esta iniciativa se ve reflejada en la redacción del RGPD, concretamente en el considerando 71 y en el artículo 22, donde se incluyen algunas medidas a tomar por el responsable en caso de uso de algoritmos y IA de toma automatizada de decisiones.

Si necesitas asesoramiento en privacidad y protección de datos para sistemas de IA, en Aphaia realizamos Evaluaciones de Impacto y Adaptación a los requisitos éticos europeos.

El derecho al olvido podría limitarse al ámbito de la Unión Europea

Los límites geográficos al derecho al olvido según el abogado general del Tribunal de Justicia de la UE.

El abogado general del Tribunal de Justicia de la UE se pronuncia a favor de una restricción del alcance geográfico del derecho al olvido.

El dictamen preliminar trae causa de un procedimiento iniciado en 2015 por parte de la Autoridad francesa de Protección de Datos (CNIL) contra Google, cuando en un caso de derecho al olvido el buscador aceptó el requerimiento pero procedió a atenderlo de manera limitada a las extensiones de dominio en los Estados Miembro y con un geo bloqueo que eliminaba la posibilidad de acceder a los resultados si se detectaba que la IP estaba localizada en el Estado de residencia de la persona que ejercitó el derecho al olvido. El CNIL procedió entonces a la imposición de una multa de 100.000 € por tal restricción, con lo que Google remitió el asunto al Tribunal de Justicia de la UE (TJUE) para su valoración.

El abogado general del TJUE, Maciej Szpunar, señala ahora que los efectos extraterritoriales que se aplican en otros casos de mercado interno no son aceptables cuando se trata de Internet dado su carácter mundial, de tal modo que deberá ponderarse el derecho al olvido junto aquellos otros de privacidad, protección de datos y acceso legítimo a la información. Szpunar apunta que tal ponderación se complicaría en el caso de aplicar la eliminación de los datos sin restricción geográfica, pues el interés legítimo de acceso público variará de un Estado a otro.

Szpunar concluye que el buscador no está obligado, al atender un requerimiento de derecho al olvido, a eliminar la información de todos sus dominios, si bien deberá tomar todas las acciones posibles para garantizar la efectividad de la medida, incluido el geo bloqueo de aquellas direcciones IP que se localicen en uno de los Estados miembros, independientemente del dominio usado para realizar dicha búsqueda.

Se puede acceder al documento original aquí.

Si necesitas asesoramiento en protección de datos, Aphaia ofrece servicios tanto de consultoría para adaptación al RGPD, incluidas Evaluaciones de Impacto, y Subcontratación del Delegado de Protección de Datos.

Aprobación de la ley europea de ciberseguridad

Se acuerda reforzar la ciberseguridad en Europa

El Parlamento, el Consejo y la Comisión alcanzaron el pasado mes de diciembre un acuerdo para reforzar la posición europea en materia de ciberseguridad a través de la Regulación propuesta en 2017, lo cual se verá principalmente reflejado en la organización y actividad de la Agencia Europea de Seguridad de las Redes y de la Información (ENISA).

Además de la reconfiguración de los objetivos de ENISA, la Regulación se centra en el diseño de un marco europeo de certificación a fin de asegurar un nivel mínimo de ciberseguridad para los productos y servicios de la Unión relacionados con las Tecnologías de la Información y Comunicación, lo cual la convierte en la primera ley que regula la seguridad de los productos conectados a nivel de mercado interno y se espera que revierta en mayor confianza para los consumidores, ahorro de costes y eliminación de barreras de entrada.

Las funciones que se prevén así para ENISA son las siguientes:

  • Ser un centro de conocimiento especializado en ciberseguridad que actúe con independencia y proporcione asistencia técnica y científica con transparencia.
  • Asistir a las instituciones europeas y Estados Miembro en el desarrollo de políticas de ciberseguridad y la adquisición de competencias en la materia, además de promover la cooperación entre ellos.
  • Desarrollar un marco para la certificación e incentivar el uso de la misma.
  • Crear conciencia en los ciudadanos y empresas respecto de la importancia de la ciberseguridad.

Entre las finalidades de incentivar la cooperación entre Estados Miembros destaca la lucha contra el fraude y falsificación de medios electrónicos de pago, para lo cual se planea fijar un ámbito amplio de delitos tipificados y reglas generales para su penalización, además de facilitar el acceso transfronterizo a evidencias electrónicas y otorgar especial importancia el papel del cifrado y encriptación.

Si necesitas asesoramiento en protección de datos, Aphaia ofrece servicios tanto de consultoría para adaptación al RGPD, incluidas Evaluaciones de Impacto, y Subcontratación del Delegado de Protección de Datos.