La ética de la IA en el sector Fintech

el sector Fintech

Conforme el mundo del Fintech evoluciona, la necesidad de contar con un marco regulatorio y ético que lo gobierne toma especial importancia. 

El término “Tecnología Financiera” o “Fintech” se refiere a la nueva tecnología que busca mejorar y automatizar los servicios financieros. Esta tecnología ayuda con la gestión de los aspectos financieros de un negocio o las finanzas personales a través de la integración de sistemas IA. En términos generales y como ejemplo, estamos hablando de la banca online, las aplicaciones de pago, las criptomonedas y las plataformas de crowdfunding, entre otros, a través de los cuales los consumidores están siendo testigos de la aplicación práctica del Fintech y el valor que puede aportar a sus vidas. Sin embargo, al igual que ocurre con cualquier aplicación disruptiva y la IA, deberían existir ciertas medidas que velen por la integración segura de esta tecnología en nuestro día a día, de manera que se genere confianza por parte de la sociedad.   

Legislación y directrices en torno al Fintech y la ética de la IA.

Alguna normativa, como la Directiva de Servicios de Pago (PSD2), que regula a nivel europeo los pagos electrónicos, ya alcanza también el sector Fintech. Esta Directiva armoniza dos servicios cuyo uso se ha extendido en los últimos años: por un lado, los servicios de iniciación de pagos (PIS) y, por otro, los servicios de información de cuenta (AIS). Los proveedores PIS facilitan el uso de la banca online para hacer pagos electrónicos, mientras que los proveedores AIS permiten la recogida y almacenamiento de información de las diferentes cuentas bancarias del consumidor en un solo lugar. Con la creciente popularidad de esta tecnología y otras formas de Fintech, y tomando en consideración de que la experiencia aporta una mayor perspectiva sobre el impacto que esto puede tener en la Sociedad, se espera que se desarrolle nueva normativa en el futuro. 

Los datos financieros son datos sensibles y de gran valor, y por ello se requiere especial protección sobre los mismos. La legislación y las directrices que se encuentran actualmente disponibles tienen el objetivo de ayudar con el cumplimiento de los principios que deberían primar, tales como la solidez técnica y la seguridad, la privacidad y el gobierno del dato, la transparencia y la diversidad, la no discriminación y la justicia. Todos ellos son necesarios para que el uso del Fintech sea seguro y beneficioso para todas las partes implicadas. 

Solidez técnica y seguridad.

La seguridad de los datos personales y financieros son uno de los principales factores a considerar cuando se toman decisiones sobre qué herramientas emplear para gestionar las finanzas. Una brecha de seguridad que afecte a la información financiera podría tener graves efectos en los interesados debido a la naturaleza sensible de los datos. En consecuencia, las instituciones financieras y las compañías Fintech priorizan el desarrollo y la implementación de medidas que aseguren una transacción segura a través de la tecnología, tales como, el cifrado, el control de acceso, tests de penetración, tokenización, la autenticación de doble factor, procesos de aprobación multietapas y políticas de backup, las cuales refuerzan la seguridad en el usuario y los protegen de ataques malware, brechas de seguridad y robos de identidad, entre otros factores de riesgo. 

Privacidad y gobierno del dato.

El artículo 22 de RGPD prohíbe que un interesado quede sujeto a una decisión basada únicamente en el tratamiento automatizado, salvo en determinadas circunstancias. La toma automatizada de decisiones en la industria Fintech puede producir efectos jurídicos o de consecuencias similares en los individuos, de manera que tendrían que estar sujetas a requisitos adicionales. Asimismo, una Evaluación de Impacto de Protección de Datos puede ser necesaria a fin de determinar los riesgos que se pueden derivar para los sujetos y la mejor manera de mitigarlos. Además, cabe recordar que cuando se trate de categorías especiales de datos,  las decisiones automatizadas sólo podrán tener lugar si se cuenta con el consentimiento explícito del interesado o si es necesario por razones de interés público esencial. Una automatización robótica de procesos puede traer grandes beneficios para las empresas, pero se debe hacer en cumplimiento con el RGPD para asegurar que ninguna toma automatizada de decisiones resulta en prácticas peligrosas para los derechos y libertades de los sujetos. 

Diversidad, no discriminación y justicia.

Son varios los estudios que hasta ahora se han realizado para explorar los niveles de equidad de la tecnología Fintech, y la posible existencia de discriminación en la concesión de créditos y otros aspectos de la industria. Los algoritmos pueden bien perpeturar los sesgos humanos o desarrollar los suyos propios. Algunos sesgos comunes en el sector financiero surgen alrededor del género, el origen étnico o racial y la edad. La tecnología IA, y especialmente en el sector Fintech, donde los sesgos pueden afectar a circunstancias como el acceso individual a un préstamo y las oportunidades que ello ofrece, deben prevenir la discriminación y proteger la diversidad. Elementos como emplear datos de entrenamiento de calidad, seleccionar el modelo de aprendizaje adecuado y trabajar con un equipo multidisciplinar pueden ser útiles para reducir el sesgo.

Transparencia. 

Mientras que el uso de IA ha generado una transformación positiva en la industria financiera, la cuestión alrededor de cómo se aplica la ética de la IA es inevitable. El principio de transparencia ofrece una oportunidad de introspección en relación a aspectos éticos y regulatorios, a fin de darles una solución.  Los algoritmos empleados en el sector Fintech deberían ser transparentes y explicables. La autoridad de control de Reino Unido, ICO, y el Instituto Alan Turing han desarrollado sus directrices “Explicando decisiones tomadas con IA” para ayudar a las empresas con este cometido, donde sugieren elaborar una “matriz de transparencia” para mapear las diferentes categorías de información frente a las partes relevantes en cada caso.  IA fiable es IA que se adoptará y aceptará con más facilidad por parte de los sujetos. La transparencia en los modelos y procesos Fintech y en otras tecnologías de IA permite dar una respuesta a los sesgos y otros dilemas que surgen con la implementación y uso de la misma. 

No te pierdas nuestro vlog sobre la ética de la IA en el sector Fintech:

https://www.youtube.com/watch?v=C3gsqKcjufs

Puedes aprender más sobre ética y regulación de la IA en nuestro Canal de Youtube

¿Tienes dudas sobre la regulación del sector Fintech? Podemos ayudarte. Nuestros servicios integrales abarcan tanto Evaluaciones de Impacto de Protección de Datos como Evaluaciones de la Ética de la IA, junto con la implementación del RGPD y la LOPDGDD y subcontratación del Delegado de Protección de DatosInfórmate aquí.

Leave a Comment

(0 Comentarios)

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *