¿Es posible regular la IA?

Esta semana hablamos en nuestro canal de Youtube sobre la situación actual de la regulación de la IA y los retos futuros con los que podemos encontrarnos.

Uno de los principales desafíos de la IA es evitar los resultados discriminatorios, lo cual requiere que se apliquen importantes controles sobre los conjuntos de datos de entrenamiento, así como que se tengan en cuenta los principios éticos en el diseño, y también que se realicen comprobaciones y auditorías regulares.

Una problemática adicional que debería tratarse es la dimensión de la responsabilidad, es decir, quién debe responder cuando el sistema de IA no cumple con la ley. Esto está relacionado también con derecho internacional, pues no se deberá discernir solo quién es el responsable, sino también la jurisdicción y ley aplicable. A estos efectos, se podría debatir, por ejemplo: ¿sería el país donde la IA fue diseñada o programada? ¿O aquél donde se fabricó y distribuyó? Este tipo de decisiones son realmente determinantes en ciertos contextos donde la infracción de ley conduce a resultados graves, como aquellos en los que se pone en jaque la integridad física de las personas.

Esta dicotomía se pone más de relieve aun cuando nos encontramos con sistemas de ‘deep learning’, respecto de los cuales el control toma una dimensión más, al plantearse un escenario donde es necesario poner límites a algo de lo que no se conoce su alcance.

Y por otro lado, ¿qué ocurre cuando nos encontramos con IA que son usadas como arma? Hay algunas orientaciones en el sector que recomiendan restringir el uso de estos sistemas a sólo algunos contextos, pero ¿es esto realmente posible? Sin duda merece un examen y análisis detallado antes de elaborar un plan de acción, que deberá tener en cuenta todos los campos de juego, como aquél de las armas autónomas que deciden por sí mismas cuando actuar, con qué fuerza, hacia qué objetivo y con qué resultados.

En Aphaia, si nos preguntasen para ofrecer una opinión en este campo, consideramos que la regulación inicial va a venir por parte de las empresas, de las grandes y no tan grandes, que ya estén aplicando estos sistemas y se encuentren con una demanda de seguridad en el mercado por parte de sus consumidores.

Nos encantaría saber qué opináis vosotros, así que ¡compartid vuestras ideas!

Si necesitas asesoramiento en IA para tus productos y servicios, Aphaia ofrece evaluaciones de la ética de la IA y evaluaciones de impacto.

Cristina Contero Almagro

Latest posts by Cristina Contero Almagro (see all)

Leave a Comment

(0 Comentarios)

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *