Garante, la autoridad de control italiana, ha ordenado una serie de restricciones en la aplicación de IA Replika al considerar que supone un riesgo para los niños y otros grupos vulnerables.
Replika es un chatbot que utiliza Inteligencia Artificial (IA) para adaptarse a las preferencias de sus usuarios y reproducir una copia de su carácter. La autoridad de control italiana ha cuestionado la forma en la que Replika utiliza los datos personales para crear el perfil y la personalidad del chatbot y ha considerado que debe explicar las prácticas de recogida y tratamiento de la información. Además, la investigación reveló que no era fácil para los usuarios oponerse a dicho tratamiento. En consecuencia, garante considera que la aplicación puede suponer un gran riesgo para los niños y otros grupos vulnerables.
Replika, una aplicación de IA interactiva, ha sido considerada por Garante como inapropiada para individuos emocionalmente vulnerables.
Garante ha destacado que existen algunas similitudes entre este product y otros servicios similares que emplean IA, como Siri o Alexa, y que han sido catalogados como “interactivos” por la Comisión Europea (CE). has highlighted that there are some similarities between this product and other AI-powered services, such as Siri or Alexa, which have been deemed «interactive» by the European Commission (EC). Según los defensores de Replika IA, se trata de un “amigo virtual” que puede ayudar a redcir el estrés, a realacionarse socialmente y a la búsqueda de la realización romántica, lo cual contribuye a una experiencia de usuario positive y a una comprensión absoluta de la mente y emociones propias. Estas características interactúan con el estado mental de los sujetos, lo cual presenta mayores riesgos para niños y otros individuos en grupos vulnerables que puedan ser emocionalmente frágiles.
El responsable deberá cesar el tratamiento de datos personales de usuarios italianos a través de la app de IA Replika, bajo riesgo de sanción.
Actualmente el software está disponible para usuarios menores y no existe ningún Sistema para comprobar la edad de los usuarios. En el momento de registro, los únicos datos que se solicitan son el nombre, la dirección de email y el género. Dado que no se puede utilizar el contracto como base legítima para el tratamiento puesto que los menores no pueden celebrar contratos bajo la normativa italiana, “Replika” infringe el RGPD. En consecuencia, la autoridad de control italiana ha demandado a la empresa que lo desarrolla, Luka Inc., situada en Estados Unidos, y ha solicitado que cesen el tratamiento de datos personales de sujetos italianos. Luka Inc. contará con un plazo de 20 días para informar a Garante de las medidas implementadas para cumplir con las condiciones exigidas. Si la empresa no cumple con las mismas, podrá enfrentarse a una sanción de hasta 20 millones de euros o el 4% del volumen de negocio total global del año anterior.
