El gobierno de Reino Unido publica un estándar de transparencia para algoritmos en el sector público.
El gobierno de Reino Unido ha publicado un estándar de transparencia para algoritmos que ofrece orientaciones destinadas al sector público, como parte de la Estrategia Nacional de Datos y la Estrategia Nacional de IA. Esta iniciativa ha sido lanzada por la Oficina Digital y de Datos Central (CCDO) y refuerza la posición de Reino Unido como líder en el campo de la IA fiable. La CCDO ha trabajado de manera estrecha con el Centro para la Ética de los Datos y de la Innovación en el diseño de este estándar. El CDEI, tras realizar una revisión del sesgo en la toma automatizada de decisiones, sugirió que el gobierno de Reino Unido impusiese una obligación de transparencia en las instituciones y organizaciones del sector público que utilicen algoritmos que realizan toma automatizada de decisiones que afecte de manera significativa a los sujetos.
Se requiere mayor transparencia en el uso de los sistemas de IA, tanto en Reino Unido como internacionalmente.
El llamamiento del CDEI en relación a la obligación de transparencia ha sido respaldado también por organizaciones civiles como el Instituto de Alan Turing y el Instituto Ada Lovelace y también otras organizaciones internacionales como la Alianza para el Gobierno Abierto y la Organización para la Cooperación y el Desarrollo Económicos (OECD). Los principios del OECD sobre la IA establecen que debería garantizarse la transparencia y la divulgación responsable en lo que concierne a los sistemas de IA para asegurar que la gente comprende y puede cuestionar los resultados basados en IA.
Lord Agnew, Ministro de Estado en la Agencia de gobierno Cabinet Office, afirmó que “El sector público puede beneficiarse del uso de algoritmos para la toma de decisiones justas, mejorar la eficiencia de los servicios públicos y reducir costes. Sin embargo, su empleo para la toma de decisiones debe hacerse de manera que se gestionen los riesgos y se mantengan los más altos estándares de transparencia y rendición de cuentas”.
Se contó con la colaboración de varias partes para el desarrollo del estándar que ayudará a los equipos a ser más transparentes.
En algunos casos se aplican algoritmos en toma de decisiones que pueden tener efectos legales o repercusiones económicas en los individuos. Por ello, es extremadamente importante que se incorporen procesos significativos de transparencia en relación a la manera en que dichos algoritmos apoyan tales decisiones, sobre todo vinculado a la capacidad del sujeto de entender y cuestionar las mismas. Además del CDDO y el CDEI, varios expertos de la sociedad, el ámbito académico y el público en general fueron consultados para el desarrollo de este estándar. En eI futuro, tanto departamentos gubernamentales como instituciones del sector público probarán el estándar. Al final de la fase de prueba, el CDDO lo revisará conforme al feedback recibido, y será entonces cuando se solicitará el respaldo formal de la Autoridad de Estándares de Datos, en 2022.
Este estándar pionero es uno de los muchos compromisos de la Estrategia Nacional de IA de Reino Unido.
El Reino Unido ha trazado recientemente su Estrategia Nacional de IA y su Estrategia Nacional de Datos, con el objetivo de reforzar la posición del país como un líder global en el gobierno de la IA. Este movimiento es tan sólo uno de los múltiples planes recogidos en dicha estrategia, y convierte a Reino Unido en una de las primeras naciones del mundo en desarrollar un estándar de transparencia para algoritmos. Francia y los Países Bajos han realizado cierto progreso en el desarrollo de sus medidas nacionales para la transparencia en algoritmos, y algunas otras ciudades como Helsinki y Nueva York han comenzado a experimentar con algunas ideas para intensificar esta transparencia. Además de este estándar, la agencia nacional de IA de Reino Unido, sobre la que hablamos en septiembre en nuestro blog, abarca numerosas iniciativas que pretende implementar con el paso del tiempo.
¿Tu app o tus servicios utilizan IA y necesitas ayuda para cumplir con la normativa aplicable? Podemos ayudarte. Realizamos Evaluaciones de Impacto de Protección de Datos, Evaluaciones de la Ética de la IA, implementación del RGPD, la LOPDGDD y la LSSI y ofrecemos subcontratación del Delegado de Protección de Datos, entre otros servicios. Infórmate aquí.
