Los legisladores de California han votado a favor de una propuesta de regulación de la seguridad de la IA, que exige a las empresas probar los modelos y divulgar los protocolos.
California avanza hacia la implementación de una regulación de la inteligencia artificial (IA), según ha informado Associated Press. En respuesta a las crecientes preocupaciones sobre la tecnología de IA, los legisladores de California han dado un paso importante al aprobar una propuesta que busca establecer regulaciones de seguridad para los sistemas de IA a gran escala. Si se promulga, esta medida podría allanar el camino para la regulación a nivel nacional de la tecnología de IA en Estados Unidos. La propuesta busca frenar los posibles riesgos que plantea la IA, exigiendo que las empresas realicen pruebas exhaustivas de sus modelos y divulguen públicamente sus protocolos de seguridad, con el objetivo de evitar la manipulación maliciosa de los sistemas de IA, como la interrupción de la red eléctrica o la asistencia en el desarrollo de armas químicas. Este nuevo proyecto de ley es parte de un paquete legislativo más amplio que los legisladores están considerando. El gobernador de California tendrá hasta finales de septiembre para decidir si firma el proyecto de ley, lo veta o permite que se convierta en ley sin su firma.
El proyecto de ley de IA de California se enfrenta a la oposición de gigantes tecnológicos y legisladores, que lo consideran innecesario y potencialmente perjudicial para la innovación.
Los partidarios de este proyecto de ley argumentan que establecerá pautas de seguridad necesarias para los modelos de IA a gran escala en Estados Unidos. Es importante destacar que el proyecto de ley está dirigido a sistemas que requieren más de 100 millones de dólares en datos para su entrenamiento. Hasta ahora, ningún modelo de IA actual ha alcanzado este umbral. Sin embargo, la legislación propuesta ha enfrentado una fuerte oposición de firmas de capital de riesgo y gigantes tecnológicos como OpenAI, Google y Meta, la empresa matriz de Facebook e Instagram, los cuales sostienen que las regulaciones de seguridad deberían establecerse a nivel federal y que la legislación de California apunta injustamente a los desarrolladores en lugar de a quienes hacen mal uso de los sistemas de IA. Algunos legisladores de California, incluida la ex presidenta de la Cámara de Representantes, Nancy Pelosi, también han mostrado sus preocupaciones sobre el proyecto de ley, calificándolo de «bien intencionado pero mal informado». Algunos grupos de la industria, como la Cámara del Progreso, han criticado el proyecto por su posible impacto negativo en la innovación y el crecimiento económico.
La adopción del proyecto de ley de IA es incierta, ya que, aunque ha obtenido apoyo, la decisión final recae en el gobernador Gavin Newsom.
A pesar de la fuerte oposición, el proyecto de ley ha ganado el apoyo de Anthropic, una startup de IA respaldada por Amazon y Google, después de que el senador Scott Wiener incorporara algunas de las sugerencias de la compañía. El proyecto de ley revisado eliminó la disposición de pena de perjurio, limitó el poder del fiscal general del estado para demandar a los infractores y redujo las responsabilidades de una nueva agencia reguladora de la IA. El senador Wiener defendió su propuesta, enfatizando que adopta un enfoque «suave» y equilibra la innovación con la seguridad. Argumentó que California está liderando el camino en el desarrollo responsable de la IA. La normativa propuesta llega en un momento en que los legisladores de California están abordando activamente varias preocupaciones relacionadas con la IA, incluida la confianza pública, la lucha contra la discriminación de los algoritmos y la prohibición de los deepfakes utilizados en elecciones o pornografía. El gobernador de California, Gavin Newsom, quien inicialmente se negó a comentar sobre la medida, ha expresado anteriormente cautela ante una regulación excesiva de la IA, de manera que aún está por verse si lo firmará para convertirlo en ley o si buscará otras opciones.
Descubre cómo puede ayudarte Aphaia a diseñar y cumplir con tu estrategia de protección de datos e IA. Ofrecemos soluciones para la Ley Europea de IA, el RGPD y el UK GDPR y las leyes estatales de privacidad de EE.UU. Nos especializamos en proporcionar a empresas como la tuya servicios innovadores que permitan superar la demanda del panorama regulatorio actual. Contacta con Aphaia hoy.
