OpenAI Põe ChatGPT Erótico em Espera

A OpenAI anunciou que não prosseguirá com uma versão erótica de seu chatbot, ChatGPT, por tempo indeterminado. A empresa disse que está se concentrando em seus produtos principais após pressões internas e externas destacarem preocupações significativas sobre o proposto "modo adulto".

De acordo com um relatório, insiders disseram que a OpenAI considerou descartar completamente o plano de modo adulto. Assessores advertiram que permitir que os usuários formem vínculos saudáveis com o chatbot poderia prejudicar a saúde mental, mesmo descrevendo um cenário hipotético em que a funcionalidade poderia se tornar um "coach de suicídio sexy".

Membros da equipe também questionaram se um ChatGPT explicitamente sexual alinha-se com a missão da OpenAI de desenvolver inteligência artificial que beneficia a humanidade. Desenvolvedores que trabalhavam na funcionalidade de modo adulto enfrentaram dificuldades técnicas para treinar modelos que anteriormente evitavam conversas explícitas para produzir tal conteúdo. Eles também lutaram para manter comportamentos ilegais, como bestialidade e incesto, fora das saídas, dado que os conjuntos de dados usados incluíam material sexual.

A reação dos investidores adicionou outra camada de preocupação. Duas pessoas familiarizadas com o assunto disseram que a flertação da empresa com o modo adulto causou descontentamento entre os investidores, que se perguntavam por que a OpenAI arriscaria sua reputação em um produto com vantagem comercial relativamente pequena para seu negócio.

Mesmo sem a funcionalidade erótica, o ChatGPT já foi vinculado a danos à saúde mental em crianças e adultos, levando a processos judiciais que alegam que o chatbot foi lançado sem salvaguardas adequadas. A combinação de dúvidas internas, desafios técnicos e descontentamento dos investidores levou a OpenAI a arquivar a versão erótica indefinidamente e se concentrar em suas ofertas principais.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas