Contexto e Planos Iniciais

A OpenAI divulgou que pretende adicionar um modo de adulto ao ChatGPT, permitindo que os usuários participem de trocas de texto erótico. A empresa enfatizou que o recurso seria limitado a texto, com uma proibição rigorosa de geração de imagens, vídeo ou conteúdo de voz explícito. A OpenAI descreveu o conteúdo planejado como "erotismo" em vez de pornografia, sinalizando uma abordagem cautelosa às interações de adultos.

Adiamento e Obstáculos Técnicos

O lançamento, originalmente agendado para o primeiro trimestre, foi adiado. A OpenAI citou desafios técnicos e debates internos sobre segurança como principais razões para o adiamento. Um obstáculo-chave envolvia o sistema de previsão de idade, que foi encontrado para classificar erroneamente cerca de 12 por cento dos usuários menores de 18 anos como adultos, levantando preocupações sobre menores acessando conversas eróticas.

Desafios Iniciais de Moderação

A experiência da OpenAI com moderação de conteúdo remonta a 2021, quando o jogo de aventura de texto impulsionado por IA, AI Dungeon, produziu cenários sexuais violentos sem provocação. Esses incidentes expuseram limitações nas ferramentas de moderação da empresa, que lutaram para diferenciar o erotismo mainstream do material não-consensual ou exploratório.

Medidas de Segurança Atuais

Para abordar essas questões, a OpenAI adotou uma abordagem de texto apenas para o modo de adulto e reforçou uma proibição rigorosa de mídia explícita. A empresa também recrutou especialistas em saúde mental e reuniu uma equipe de bem-estar da juventude para monitorar os efeitos de longo prazo uma vez que o recurso seja lançado. Além disso, a OpenAI treina seus modelos para desencorajar relacionamentos exclusivos com o chatbot e para encorajar conexões do mundo real.

Contexto Estratégico

A medida ocorre em meio a uma competição intensificada com rivais como xAI e Anthropic, e à medida que a OpenAI enfrenta pressões financeiras. O CEO Sam Altman reconheceu que o conteúdo para adultos poderia impulsionar o crescimento, mas também observou que pode não alinhar-se com a missão mais ampla da empresa. Após uma hesitação inicial, Altman anunciou planos para lançar o modo de adulto em dezembro, enfatizando a importância de obter as medidas de segurança certas antes do lançamento.

Perspectiva Futura

A OpenAI continua a priorizar outros desenvolvimentos, incluindo ajustes de personalidade e recursos de personalização, enquanto refina as salvaguardas necessárias para o modo de adulto. A empresa permanece comprometida em lançar o recurso assim que possa garantir uma proteção robusta para os usuários mais jovens e manter seus padrões para o uso responsável de IA.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas