Antecedentes

Google y Character.AI han estado vinculados a través de trabajo colaborativo en tecnología de chatbots de IA. A lo largo del último año, se presentaron varias demandas en cuatro estados - Florida, Texas, Nueva York y Colorado - que afirman que menores sufrieron daños emocionales después de interactuar con los servicios de chatbot de Character.AI. El caso más destacado involucra a un menor de 14 años de Orlando que murió por suicidio después de una sesión de chat con uno de los bots. Su madre presentó una demanda en un tribunal de distrito de EE. UU. en Florida, alegando que el chatbot contribuyó al trágico resultado.

Detalles del acuerdo

Las dos empresas han acordado resolver cinco demandas, aunque el acuerdo aún no ha sido finalizado por los tribunales. El acuerdo resolvería las reclamaciones en los cuatro estados mencionados anteriormente. Los representantes de Google declinaron comentar, mientras que un portavoz de Character.AI se refirió a las actuaciones estatales pero no proporcionó detalles específicos sobre los términos del acuerdo.

En respuesta a los desafíos legales, Character.AI realizó cambios significativos en su plataforma el año pasado. La empresa ahora prohíbe a los usuarios menores de 18 años participar en conversaciones de respuesta abierta con sus chatbots. En cambio, los usuarios más jóvenes pueden crear historias utilizando las herramientas de personajes de IA de la empresa. Character.AI también introdujo software de detección de edad para verificar si un usuario tiene 18 años o más. El CEO Karandeep Anand explicó que el nuevo enfoque ofrece una "mejor manera de servir a los usuarios adolescentes", enfatizando que la experiencia no necesita parecerse a un chatbot tradicional.

Contexto de la industria

Google y Character.AI no son las únicas empresas de tecnología que enfrentan escrutinio sobre daños a menores relacionados con la IA. OpenAI también ha ajustado su oferta ChatGPT en medio de demandas que alegan suicidios y otros efectos adversos en menores. Estos desarrollos destacan un enfoque regulatorio y de política pública más amplio para salvaguardar a los menores de los posibles riesgos asociados con la IA conversacional.

Las acciones legales y los acuerdos subsiguientes subrayan la creciente preocupación sobre cómo los chatbots de IA interactúan con usuarios vulnerables. A medida que las empresas adoptan medidas de verificación de edad y restringen ciertas funcionalidades para menores, la industria parece estar moviéndose hacia prácticas más proteccionistas, aunque la efectividad de estos pasos sigue siendo un tema de debate en curso.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas