Visão Geral do Projeto de Lei

O Projeto de Lei do Senado 243, introduzido pelos senadores estaduais Steve Padilla e Josh Becker, busca impor protocolos de segurança em chatbots de companhia de IA — sistemas que fornecem respostas adaptativas e humanas e atendem às necessidades sociais dos usuários, incluindo conversas sobre ideias suicidas, autolesão ou conteúdo explicitamente sexual. O projeto de lei define um chatbot de companhia como um sistema de IA capaz de engajar usuários de uma maneira que atenda às suas necessidades sociais.

Disposições Chave

A legislação exige que as plataformas que oferecem chatbots de companhia forneçam alertas recorrentes aos usuários, especificamente a cada três horas para menores, lembrando-lhes que estão falando com um IA, não com uma pessoa real, e incentivando pausas. As empresas também devem implementar requisitos de relatórios e transparência anuais, divulgando dados como o número de vezes que os usuários são encaminhados para serviços de crise.

O PL 243 cria um direito de ação privada, permitindo que indivíduos que acreditem ter sido prejudicados por violações entrem com processos judiciais buscando alívio injuntivo, danos de até $1.000 por violação e honorários de advogado.

Progresso Legislativo

O projeto de lei passou na Assembleia Estadual da Califórnia com apoio bipartidário e agora segue para o Senado estadual para uma votação final. Se o Senado aprovar a medida, ela será apresentada ao Governador Gavin Newsom para assinatura. A lei entraria em vigor em 1 de janeiro de 2026, enquanto as obrigações de relatórios começariam em 1 de julho de 2027.

Contexto e Reações

A legislação ganhou momentum após a morte do adolescente Adam Raine, que discutiu autolesão e planejamento de suicídio com o ChatGPT da OpenAI. Ela também responde a documentos internos vazados que indicam que os chatbots da Meta foram autorizados a se engajar em chats "românticos" e "sensuais" com crianças. Nas últimas semanas, houve uma intensificação da fiscalização de plataformas de IA por legisladores e reguladores dos EUA, incluindo uma investigação da Comissão Federal de Comércio sobre o impacto da saúde mental dos chatbots de IA e investigações em nível estadual pelo Procurador-Geral do Texas Ken Paxton, bem como investigações do Senado lideradas por Josh Hawley e Ed Markey.

Defensores argumentam que o projeto de lei equilibra a proteção de usuários vulneráveis e permite a inovação contínua. Críticos observam que versões anteriores do projeto de lei incluíam requisitos mais fortes, como a proibição de táticas de "recompensa variável" que poderiam encorajar o engajamento viciante, mas essas disposições foram removidas após emendas consideradas tecnicamente inviáveis ou excessivamente onerosas.

A OpenAI, Meta, Google e Amazon se opuseram a projetos de lei relacionados à segurança da IA na Califórnia, enquanto a Anthropic expressou apoio. A aprovação do PL 243 ocorre enquanto as empresas do Vale do Silício investem pesadamente em comitês de ação política pró-IA para influenciar as próximas eleições de meio de mandato em direção a uma abordagem regulatória leve.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas