SB 53 introduce requisitos de seguridad de IA innovadores

El gobernador de California, Gavin Newsom, ha firmado la ley SB 53, que marca la primera legislación en el país que aborda directamente la seguridad de los sistemas de inteligencia artificial avanzada. La ley se centra en los grandes laboratorios de IA, específicamente OpenAI, Anthropic, Meta y Google DeepMind, y les exige ser transparentes sobre sus protocolos de seguridad internos.

Además de la transparencia, la ley SB 53 crea un mecanismo formal para informar sobre incidentes de seguridad críticos a la Oficina de Servicios de Emergencia de California. Las empresas deben informar sobre incidentes que involucren delitos cometidos sin supervisión humana, como ciberataques, así como comportamientos de modelos engañosos que se encuentren fuera del alcance de la Ley de IA de la UE. La ley también proporciona protecciones a los denunciantes para los empleados que plantean preocupaciones de seguridad.

Reacción de la industria y contexto político

La ley ha generado respuestas mixtas dentro del sector de la IA. Anthropic ha apoyado públicamente la ley SB 53, mientras que Meta y OpenAI se han opuesto. OpenAI ha publicado una carta abierta al gobernador Newsom en la que desaconseja la firma de la legislación.

A pesar de la oposición de la industria, el gobernador ha elogiado la ley, destacando que California puede proteger a sus comunidades mientras fomenta la innovación en IA. Ha subrayado el equilibrio entre la regulación y el crecimiento, posicionando al estado como líder nacional en seguridad de IA.

Esferas legislativas relacionadas

La ley SB 53 sigue intentos anteriores del senador Scott Wiener, quien previamente presentó la ley SB 1047, una propuesta de seguridad de IA más amplia que Newsom vetó después de una fuerte resistencia de la industria. La ley actual refleja un enfoque más limitado, con el senador que se ha puesto en contacto con las principales empresas de IA para aclarar las revisiones.

Otra medida, la ley SB 243, ha pasado por ambas cámaras de la legislatura de California y regularía los chatbots de acompañamiento de IA, imponiendo normas de seguridad y responsabilidad legal para los operadores.

Más allá de California, los legisladores de Nueva York han aprobado una ley de seguridad de IA similar que espera la firma del gobernador, lo que indica una tendencia creciente de regulación a nivel estatal destinada a frenar los posibles daños de la avanzada tecnología de IA sin control.

Implicaciones para el futuro

La ley SB 53 establece un modelo que otros estados pueden emular a medida que luchan con el desarrollo rápido de tecnologías de IA poderosas. Al exigir transparencia, informes de incidentes y proteger a los denunciantes, California busca construir la confianza pública mientras permite que la industria de la IA siga prosperando bajo expectativas de seguridad más claras.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas