La Autoridad Neerlandesa de Protección de Datos (Autoriteit Persoonsgegevens, o AP) ha identificado una brecha significativa en la preparación de las empresas neerlandesas para gestionar algoritmos y sistemas de inteligencia artificial que tratan datos personales. Según una encuesta a 1.600 empresas, muchas no son plenamente conscientes de si utilizan algoritmos para tratar datos personales y, cuando lo hacen, a menudo no tienen claridad sobre el tipo de algoritmos implicados. Esta incertidumbre generalizada señala la urgente necesidad de una mayor conciencia empresarial y de una gobernanza interna más sólida sobre el despliegue de sistemas automatizados.
Los riesgos asociados al uso de algoritmos e IA requieren una mejor comprensión y gestión por parte de las empresas
Los hallazgos de la AP destacan que, aunque los algoritmos y la IA están transformando las operaciones empresariales y la interacción con los clientes, también introducen riesgos sustanciales en el marco del RGPD. Muchas empresas reconocen que no comprenden adecuadamente los requisitos legales ni los riesgos asociados al tratamiento algorítmico, especialmente al adquirir soluciones de software de terceros. Esta falta de conocimiento y dependencia de proveedores externos limita significativamente el control de las empresas sobre el cumplimiento normativo y aumenta la probabilidad de impactos adversos no intencionados sobre los derechos de las personas.
La AP lanza iniciativas prácticas para ayudar a las empresas a gestionar la toma de decisiones algorítmicas de forma responsable
En respuesta a estas preocupaciones, la AP anunció una serie de iniciativas prácticas dirigidas a apoyar a las empresas en el uso de algoritmos e inteligencia artificial. La AP publicará regularmente herramientas prácticas, desarrollará una lista de verificación para ayudar a las empresas a respetar los derechos de las personas y continuará realizando consultas sobre cómo garantizar una intervención humana significativa en las decisiones automatizadas. Estas iniciativas están diseñadas para fortalecer la capacidad de las empresas para comprender y gestionar los sistemas algorítmicos de manera responsable.
Consultas anteriores sobre la intervención humana significativa destacaron la necesidad de herramientas prácticas y aplicables
El anuncio de la AP se basa en consultas anteriores, como la lanzada en marzo de 2025 sobre la intervención humana significativa en la toma de decisiones algorítmicas. Reconociendo que las organizaciones a menudo enfrentan dificultades para diseñar mecanismos efectivos de supervisión humana, la AP buscó la opinión de empresas, expertos y partes interesadas para asegurarse de que sus herramientas se ajusten a la realidad práctica. La consulta enfatizó que la intervención humana debe ser más que simbólica: debe ser significativa, cuidadosamente estructurada y adecuadamente respaldada para evitar resultados injustos o discriminatorios derivados de decisiones automatizadas.
La AP recopila aportes de las partes interesadas para perfeccionar su orientación sobre la supervisión humana en sistemas algorítmicos
A través de la consulta de marzo de 2025, la AP recopiló ejemplos y desarrolló preguntas guía relacionadas con factores humanos, tecnológicos, de diseño y procedimentales esenciales para una intervención humana efectiva. El proceso de retroalimentación invitó a las organizaciones a compartir buenas prácticas y obstáculos, y la AP se comprometió a perfeccionar su orientación basada en experiencias del mundo real. Este proceso de consulta refleja el compromiso más amplio de la AP con herramientas de supervisión fundamentadas en consejos prácticos y aplicables.
La AP destaca la importancia estratégica de aumentar la conciencia empresarial y proporcionar apoyo práctico
Monique Verdier, vicepresidenta de la AP, subrayó la importancia estratégica de crear conciencia y brindar orientación, afirmando que las empresas necesitan tanto conocimiento como apoyo práctico para tomar decisiones informadas, éticas y conformes con la ley. Verdier también destacó la gran demanda de mayor conocimiento dentro del sector empresarial y confirmó que la AP trabajará estrechamente con las empresas para satisfacer esta necesidad. Este enfoque colaborativo busca empoderar a las empresas para implementar una gobernanza más sólida sobre los procesos algorítmicos y proteger los derechos de las personas.
La AP seguirá promoviendo una gobernanza algorítmica responsable mediante orientación sobre la responsabilidad de los proveedores
De cara al futuro, la AP continuará su trabajo con las empresas para recopilar buenas prácticas sobre la organización del uso de algoritmos que tratan datos personales y para aclarar las responsabilidades de los proveedores. Se anima a las empresas a evaluar críticamente el propósito y los riesgos de los algoritmos durante la etapa de adquisición, a fin de evitar consecuencias adversas para los clientes y fomentar una innovación responsable. Al proporcionar este apoyo, la AP busca ayudar a las empresas a alinear la adopción tecnológica con los requisitos legales y los estándares éticos.
Fomentar la alfabetización en IA será esencial para cumplir con el próximo Reglamento de IA
Estos esfuerzos de la AP son especialmente oportunos en vista de las próximas obligaciones bajo el Reglamento de IA de la UE, que exigirá a las organizaciones garantizar que todas las personas que trabajen con sistemas de IA posean no solo competencia técnica, sino también una profunda comprensión de las implicaciones sociales, éticas y legales. Para respaldar este objetivo más amplio, la AP también ha publicado recientemente “Comenzar con la alfabetización en IA”, un recurso práctico diseñado para ayudar a las organizaciones a desarrollar las capacidades necesarias para una gobernanza responsable y el cumplimiento normativo de la IA.
Las iniciativas de la AP representan un enfoque proactivo para preparar a las empresas para un uso responsable de algoritmos e IA
En conclusión, las iniciativas de la AP representan un paso proactivo hacia el fortalecimiento de la gobernanza corporativa de las tecnologías algorítmicas e inteligentes en los Países Bajos. A medida que los sistemas automatizados se vuelven cada vez más centrales en las operaciones empresariales, la inversión temprana en alfabetización en IA, supervisión ética y cumplimiento del RGPD será crucial para proteger los derechos de las personas y mantener la confianza pública.
Descubre cómo puede ayudarte Aphaia a diseñar tu estrategia de protección de datos e IA. Ofrecemos servicios de cumplimiento con el RGPD y el UK GDPR, así como DPO externo, que ahora puede complementarse con nuestro paquete de privacidad para leyes de Estados Unidos. Nos especializamos en ayudar a empresas como la tuya con soluciones innovadoras que cumplan y superen los requisitos del mercado y del panorama regulatorio actual. Contacta con Aphaia hoy.
