La ICO ha publicado una guía para empresas que desarrollan o utilizan inteligencia artificial generativa (IA) para asegurar el cumplimiento con la normativa de protección de datos.
La autoridad de control de Reino Unido, la ICO, ha publicado una guía para empresas que desarrollan o utilizan inteligencia artificial (IA) generativa. La IA generativa es un tipo de machine learning que crea contenido o diseños nuevos y únicos. El objetivo de esta guía es ayudar a desarrolladores y usuarios a cumplir con las leyes de protección de datos y consiste en una serie de preguntas que estos deberían plantearse antes de implementar o utilizar IA generativa. La guía de la ICO proporciona un marco de orientación muy útil para las empresas que utilizan o desarrollan IA generativa. Mediante el análisis y evaluación de las respuestas planteadas en la guía de la ICO, las empresas pueden garantizar su cumplimiento con la normativa de protección de datos en relación al tratamiento y protección de los datos de los usuarios. Es importante que las empresas tomen el suficiente tiempo para considerar estas preguntas y promover la transparencia, la precisión y la rendición de cuentas en el desarrollo y uso de IA generativa.
Las empresas que utilicen IA generativa deberían evaluar adecuadamente los riesgos y elaborar un plan para abordarlos.
Para desarrollar y utilizar IA generativa de manera óptima, las empresas necesitan considerar diversos factores relacionados con protección de datos. En consecuencia, deberán primero identificar una base legítima para el tratamiento de datos, lo cual podría incluir consentimiento o interés legítimo. Como el responsable de los datos, las empresas que traten datos personales como parte de esta tecnología deberán cumplir obligaciones específicas. También será necesario evaluar y mitigar cualquier riesgo vinculado con el tratamiento de datos a través de una Evaluación de Impacto de Protección de Datos y asegurar transparencia mediante la provisión de la información necesaria.
Conforme a la guía de la ICO, las empresas que utilicen IA generativa deberán llevar a cabo una serie de pasos que garanticen la protección de los datos personales y los derechos de los sujetos.
Con el objetivo de mitigar riesgos de seguridad, los desarrolladores deberán implementar las medidas necesarias para proteger datos personales de amenazas como fugas de datos, inversión de modelos e inferencia de membresía, así como ataques de envenenamiento. A este fin, recoger únicamente los datos relevantes en relación con el fin perseguido por el software es esencial para limitar tratamientos de datos innecesarios. Además, las empresas deberán contar con procesos para cumplir con las solicitudes de derechos de los interesados, lo que incluye proporcionar acceso a los datos, rectificarlos o eliminarlos y permitir la portabilidad. Finalmente, las empresas tendrán que considerar si van a utilizar IA generative para tomar decisions automatizadas, lo cual puede requerir medidas adicionales para asegurar el cumplimiento con la normativa.
