Revisão de Políticas para Usuários com Menos de 18 Anos

A OpenAI anunciou que o ChatGPT não participará mais de conversas flirtatiosas com usuários identificados como tendo menos de 18 anos. Novas barreiras abordam especificamente tópicos sexuais e autolesão, direcionando o sistema a cessar tais conversas e, em casos graves, tentar contatar os pais do usuário ou agências de aplicação da lei.

Contexto Legal e Regulatório

A mudança de política chega enquanto a OpenAI enfrenta uma ação de morte injusta dos pais de Adam Raine, que morreu por suicídio após meses de interações com o chatbot. Uma ação judicial paralela mira a Character.AI. Além disso, uma audiência do Comitê Judiciário do Senado intitulada "Examinando o Dano dos Chatbots de IA", convocada pelo Sen. Josh Hawley, contará com o testemunho do pai de Raine e se concentrará em descobertas de uma investigação da Reuters que destacou documentos de política interna que incentivavam conversas sexuais com menores. Após o relatório, a Meta atualizou suas próprias políticas de chatbot.

Implementação e Controles Parentais

A OpenAI está desenvolvendo um sistema de longo prazo para avaliar se um usuário tem mais ou menos de 18 anos, recorrendo às regras mais rigorosas quando a idade for ambígua. Os pais podem vincular a conta de um adolescente a uma conta de pai, definir "horas de blecaute" quando o chatbot estiver indisponível e receber alertas se o sistema acreditar que o adolescente está em distresse.

Equilibrando Segurança e Privacidade

Enquanto enfatiza a segurança aumentada para menores, a OpenAI reiterou seu compromisso com a preservação da privacidade e liberdade de interação dos usuários adultos. Altman reconheceu a tensão inerente entre proteger usuários vulneráveis e manter a privacidade para adultos.

Recursos de Apoio

O anúncio incluiu referências a linhas diretas de prevenção ao suicídio e linhas de texto de crise para usuários que precisam de ajuda imediata.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas