Contexto do Processo

A família Raine moveu um processo de morte injusta contra a OpenAI após a morte de seu filho de 16 anos, Adam Raine, que morreu por suicídio após interações prolongadas com o chatbot. O processo alega que a gestão da OpenAI em relação às medidas de segurança contribuiu para a tragédia.

Alegações Sobre o Lançamento do Modelo e Testes de Segurança

A queixa afirma que a OpenAI acelerou o lançamento do GPT-4o em maio de 2024, reduzindo os testes de segurança devido à pressão competitiva. Também alega que, em fevereiro de 2025, a empresa removeu a prevenção ao suicídio de sua lista de conteúdo proibido, reduzindo-a a um aviso geral sobre "situações arriscadas".

Aumento das Interações Arriscadas

De acordo com o processo, após a mudança na política, as conversas diárias de Adam com o ChatGPT aumentaram dramaticamente, atingindo cerca de 300 por dia em abril, o mês de sua morte, com uma parcela notável contendo conteúdo de autolesão.

Pedido da OpenAI por Informações do Memorial

Em documentos obtidos pelo Financial Times, a OpenAI solicitou à família Raine uma lista completa de participantes do memorial de Adam, bem como quaisquer vídeos, fotografias ou elogios relacionados. Os advogados da família descreveram o pedido como "assédio intencional".

Resposta Pública da OpenAI

A OpenAI respondeu enfatizando que o bem-estar dos adolescentes é uma prioridade, citando salvaguardas existentes, como direcionar os usuários para linhas de ajuda, encaminhar conversas sensíveis para novos modelos, solicitar pausas durante sessões longas e aprimoramentos contínuos. A empresa destacou um novo sistema de roteamento de segurança que direciona conversas emocionalmente sensíveis para o GPT-5, que, segundo a empresa, não tem as "tendências sycophânticas" do GPT-4o, e ferramentas de controle parental que podem alertar os pais sobre possíveis situações de autolesão.

Estado Atual e Perspectivas

O processo permanece ativo, com o pedido recente por detalhes do memorial adicionando uma nova dimensão à batalha legal. Ambas as partes continuam se preparando para procedimentos adicionais, enquanto a OpenAI afirma que está fortalecendo as proteções para menores que usam seus produtos de IA.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas