OpenAI Interrompe Planos de Modo Adulto para ChatGPT

A OpenAI anunciou que está colocando um hold permanente no desenvolvimento de um 'modo adulto' para seu chatbot de bandeira, ChatGPT. A funcionalidade, que permitiria aos usuários se envolver em conversas sexualmente explícitas, foi arquivada 'indefinidamente' após preocupações internas serem levantadas por funcionários e investidores. Essas preocupações centraram-se no impacto potencialmente prejudicial do conteúdo de IA sexualizado na sociedade e nos desafios de garantir uma moderação adequada.

A empresa disse que redirecionará seus recursos para seus produtos principais, enquanto realiza pesquisas mais aprofundadas sobre os efeitos de longo prazo das conversas explícitas e os vínculos emocionais que os usuários podem formar com a IA. Embora a OpenAI tenha observado que, atualmente, não há evidências empíricas para guiar uma decisão de produto definitiva, ela enfatizou a necessidade de uma abordagem cuidadosa e baseada em evidências antes de qualquer lançamento futuro.

Essa pausa reflete uma mudança estratégica recente na agenda de pesquisa mais ampla da OpenAI. Anteriormente, a empresa descontinuou sua plataforma de IA de texto para vídeo, Sora, citando discussões internas sobre prioridades de pesquisa mais amplas. A medida vem após o CEO Sam Altman ter alertado sobre uma situação de 'code red' em dezembro, sugerindo que concorrentes, como o Google e a Anthropic, estavam começando a fechar a lacuna com a posição anteriormente dominante da OpenAI no mercado.

Observadores da indústria destacaram que a decisão também reflete uma maior vigilância sobre a moderação de conteúdo e a segurança infantil. O Wall Street Journal informou que preocupações internas sobre a proteção de crianças e a garantia de uma moderação robusta contribuíram para o atraso da funcionalidade do modo adulto. Ao arquivar o projeto, a OpenAI busca evitar riscos potenciais para sua reputação e alinhar sua estrada de desenvolvimento com as expectativas de sua força de trabalho, investidores e público em geral.

A posição da OpenAI destaca uma tendência crescente entre as principais empresas de IA de priorizar considerações éticas e implantação responsável sobre a expansão rápida de recursos. À medida que o cenário de IA se torna cada vez mais competitivo, a empresa pode moldar sua estratégia de longo prazo e influenciar os padrões da indústria para lidar com conteúdo sensível.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas