Aunque se propone que los desarrolladores implementen protocolos de seguridad, también exige que se incluyan formas de apagar por completo los modelos si representan un riesgo crítico para los usuarios, además de diferentes sanciones en caso de no cumplir con las disposiciones.
Entre las más destacadas son las multas civiles (desde el 10 al 30% del costo de la potencia de cálculo de los modelos infractores); acciones civiles (eliminación o suspensión de los modelos); y reparación del daño para las personas afectadas. Asimismo, supone la creación de la Agencia de Operaciones Gubernamentales, encargada de supervisar el cumplimiento de las disposiciones.
¿Por qué la Ley SB 1047 ha sido tan polémica?
A pesar de las intenciones de los legisladores de California, este proyecto de ley ha tenido que enfrentar importantes cambios ante la presión de las empresas y figuras del mundo de la tecnología más importantes del estado.
Li Fei Fei, la reconocida profesora de la Universidad de Stanford, escribió que si la Ley SB 1047 se aprueba, “dañará nuestro incipiente ecosistema de IA, especialmente las partes de este que ya están en desventaja frente a los gigantes tecnológicos actuales: el sector público, el mundo académico y las pequeñas empresas tecnológicas”.
También resaltó que este proyecto penalizará “innecesariamente” a los desarrolladores, además de sofocar a la comunidad de código abierto y obstaculizar la investigación alrededor de la IA, “todo ello sin abordar los problemas muy reales que se pretendían resolver con su creación”.
Wiener declaró que se aceptaron “una serie de enmiendas muy razonables propuestas y creo que hemos abordado las principales preocupaciones expresadas por Anthropic y muchos otros en la industria”.
Entre los cambios destacan que, en caso de que se apruebe, el fiscal general ya no podrá demandar a las empresas de IA por prácticas de seguridad negligentes que acaben en un evento “catastrófico”, luego de una sugerencia hecha por la startup Anthropic.
Otra de las modificaciones importantes es que los laboratorios de IA ya no tendrán que presentar certificaciones en torno a los resultados de las pruebas de seguridad “bajo pena de perjurio”. Ahora, más bien, los investigadores sólo estarán obligados a presentar “declaraciones” públicas donde describan sus prácticas de seguridad sin responsabilidad penal.
¿Qué sigue para la SB 1047?
A pesar de que el proyecto de ley ha enfrentado la oposición de congresistas, académicos, investigadores, empresas de tecnología e inversores de capital de riesgo, fue aprobada por la legislatura de California, pero eso no significa que ya entrará en vigor.
De acuerdo con información de TechCrunch, el proyecto de ley se dirigirá al pleno de la Asamblea de California para su votación final. En caso de que se apruebe en esa instancia, deberá volver al Senado del estado para una nueva votación. Si pasa en ambas instancias, pasaría al gobernador Gavin Newsom, quien tendrá la última palabra para ser vetado o promulgado como ley.
