Fundo

OpenAI, a empresa de pesquisa e implantação de inteligência artificial por trás do ChatGPT, disse que pretende introduzir um modo de texto somente para adultos para o chatbot. Nesse modo, os usuários poderão ter conversas baseadas em texto que incluem temas adultos, mas o sistema não gerará áudio, imagens ou vídeo eróticos. OpenAI descreve o conteúdo como "sujeira em vez de pornografia".

Preocupações do Painel Consultivo

A proposta enfrentou resistência de um conselho consultivo que OpenAI reuniu para ajudar a definir interações de IA saudáveis para todas as idades. Especialistas em psicologia e neurociência cognitiva advertiram que crianças poderiam encontrar maneiras de contornar restrições de idade e que alguns usuários poderiam desenvolver dependência emocional das conversas no modo adulto. Um consultor advertiu que a funcionalidade poderia se tornar um "treinador de suicídio sexy", referindo-se a casos em que os usuários tiraram suas próprias vidas após interagir com o bot.

Detalhes de Implementação e Atrasos

OpenAI indicou que o lançamento está sendo adiado para se concentrar em itens de maior prioridade, incluindo ganhos de inteligência, melhorias de personalidade, personalização e uma experiência mais proativa. A empresa disse que quer tomar o tempo necessário para fazer o modo adulto "certo". O atraso segue críticas internas e um relatório de que o sistema atualmente classifica menores como adultos cerca de 12% do tempo, potencialmente permitindo que milhões de menores acessem conversas com temas adultos.

Medidas de Segurança e Controles Parentais

OpenAI já adicionou controles parentais que permitem que os pais definam horários em que as crianças não podem usar o ChatGPT e os permitem desabilitar a geração de imagens e o modo de voz. A empresa também planeja apertar sua tecnologia de previsão de idade, que tenta adivinhar a idade do usuário com base em tópicos de conversa e padrões de uso.

Tensões Organizacionais

O debate interno se intensificou após um executivo de política de produto que expressou oposição ao lançamento do modo adulto ser demitido. A empresa alegou que a demissão foi sem relação com as preocupações de política, enquanto o ex-executivo negou as alegações. A controvérsia destaca a tensão entre expandir a liberdade do usuário para adultos e proteger usuários mais jovens de conteúdo potencialmente prejudicial.

Perspectiva Futura

O movimento da OpenAI coloca a empresa em uma discussão rapidamente evoluindo sobre material sexual gerado por IA. Embora a empresa objetive fornecer mais liberdade para usuários adultos, ela permanece sob escrutínio de consultores, reguladores e do público em relação às salvaguardas necessárias para prevenir o mau uso e proteger usuários vulneráveis.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas