Antecedentes y Propósito Legislativo

El gobernador Gavin Newsom firmó la Ley de Transparencia en Inteligencia Artificial de Frontera, una ley estatal destinada a aumentar la apertura en torno al desarrollo de inteligencia artificial. La legislación se centra en empresas con ingresos anuales de al menos $500 millones, obligándolas a publicar protocolos de seguridad en sus sitios web y a reportar posibles incidentes críticos de seguridad a la Oficina de Servicios de Emergencia de California.

Disposiciones Clave

La ley enfatiza la divulgación en lugar de pruebas obligatorias. Las empresas deben describir cómo incorporan normas nacionales, internacionales y de consenso de la industria en su trabajo de inteligencia artificial, aunque el estatuto no especifica qué normas se aplican o requiere verificación independiente. También establece protecciones a denunciantes para empleados que plantean preocupaciones de seguridad.

Los incidentes críticos se definen de manera limitada como eventos que podrían causar 50 o más muertes, resultar en $1 mil millones en daños o involucrar inteligencia artificial militarizada, actos criminales autónomos o pérdida de control. Las violaciones de los requisitos de informe pueden incurrir en sanciones civiles de hasta $1 millón por infracción.

Comparación con Propuestas Anteriores

La nueva ley reemplaza a un proyecto de ley anterior, S.B. 1047, que habría exigido pruebas de seguridad y "interruptores de apagado" para sistemas de inteligencia artificial. El proyecto de ley anterior fue vetado después de una intensa presión por parte de las empresas tecnológicas. Al cambiar el enfoque a la informe y la transparencia, la ley actual refleja un compromiso que muchos críticos dicen que se alinea con las preferencias de las grandes empresas de inteligencia artificial.

Reacción de la Industria y Crítica

Los observadores de la industria sostienen que la dependencia de la ley en divulgaciones voluntarias carece de los dientes de ejecución necesarios para garantizar salvaguardias de seguridad reales. Señalan la omisión de pruebas obligatorias y auditorías independientes como una concesión a Big Tech, que había presionado enérgicamente en contra de medidas más estrictas.

Impacto Potencial

California alberga una parte sustancial de las principales empresas de inteligencia artificial del mundo, y sus movimientos regulatorios probablemente influirán en discusiones nacionales e internacionales más amplias sobre la gobernanza de la inteligencia artificial. Si bien la ley introduce mecanismos de informe y sanciones, su eficacia dependerá de cómo las empresas cumplan rigurosamente y de cómo las autoridades estatales hagan cumplir las disposiciones.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas