Resumen del Proyecto de Ley

El Proyecto de Ley del Senado 243, presentado por los senadores estatales Steve Padilla y Josh Becker, busca imponer protocolos de seguridad en los chatbots de compañía de IA—sistemas que proporcionan respuestas adaptativas y humanas que satisfacen las necesidades sociales de los usuarios, incluyendo conversaciones sobre ideación suicida, autolesiones o contenido explícito sexual. El proyecto de ley define un chatbot de compañía como un sistema de IA capaz de interactuar con los usuarios de manera que satisfaga sus necesidades sociales.

Disposiciones Clave

La legislación ordena que las plataformas que ofrecen chatbots de compañía proporcionen alertas recurrentes a los usuarios, específicamente cada tres horas para menores, recordándoles que están hablando con una IA, no con una persona real, y animándolos a tomar pausas. Las empresas también deben implementar requisitos de informes y transparencia anuales, divulgando datos como el número de veces que los usuarios son remitidos a servicios de crisis.

El Proyecto de Ley del Senado 243 crea un derecho de acción privado, permitiendo que las personas que creen haber sido perjudicadas por violaciones presenten demandas para obtener medidas cautelares, daños de hasta $1,000 por violación y honorarios de abogado.

Progreso Legislativo

El proyecto de ley aprobó la Asamblea Estatal de California con apoyo bipartidista y ahora pasa al Senado estatal para una votación final. Si el Senado aprueba la medida, será presentada al gobernador Gavin Newsom para su firma. La ley entraría en vigor el 1 de enero de 2026, mientras que las obligaciones de informes comenzarían el 1 de julio de 2027.

Contexto y Reacciones

La legislación ganó impulso después de la muerte del adolescente Adam Raine, quien discutió autolesiones y planes de suicidio con ChatGPT de OpenAI. También responde a documentos internos filtrados que indican que los chatbots de Meta estaban permitidos para participar en chats "románticos" y "sensuales" con niños. En las últimas semanas, ha habido un aumento en el escrutinio de las plataformas de IA por parte de los legisladores y reguladores de EE. UU., incluyendo una investigación de la Comisión Federal de Comercio sobre el impacto en la salud mental de los chatbots de IA y investigaciones a nivel estatal por el fiscal general de Texas Ken Paxton, así como investigaciones del Senado lideradas por Josh Hawley y Ed Markey.

Los partidarios argumentan que el proyecto de ley equilibra la protección de los usuarios vulnerables con la innovación continua. Los críticos señalan que versiones anteriores del proyecto de ley incluían requisitos más estrictos, como la prohibición de tácticas de "recompensa variable" que podrían fomentar un compromiso adictivo, pero esas disposiciones se eliminaron después de enmiendas que las consideraron técnicamente inviables o excesivamente onerosas.

OpenAI, Meta, Google y Amazon se han opuesto a proyectos de ley relacionados con la seguridad de la IA en California, mientras que Anthropic ha expresado su apoyo. La aprobación del Proyecto de Ley del Senado 243 ocurre mientras que las empresas de Silicon Valley invierten fuertemente en comités de acción política pro-IA para influir en las próximas elecciones de mitad de período hacia un enfoque regulatorio de "mano ligera".

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas