Objetivo e Implantação

A OpenAI introduziu um recurso de previsão de idade para o ChatGPT com o objetivo de identificar automaticamente contas que provavelmente pertencem a usuários menores de 18 anos. Ao fazer isso, a empresa pretende aplicar uma experiência de modo teen dedicada que incorpore filtros de segurança e restrições de conteúdo, especialmente à medida que a plataforma se expande para a educação, ambientes familiares e projetos criativos para usuários mais jovens.

Como o Modelo Funciona

O sistema avalia uma combinação de sinais comportamentais, histórico de conta, padrões de uso e análise de linguagem ocasional para estimar a idade de um usuário. Quando o modelo encontra incerteza, adota uma abordagem cautelosa, significando que contas novas, uso noturno ou consultas sobre tópicos relevantes para adolescentes podem acionar as salvaguardas do modo teen, mesmo para assinantes pagos de longa data.

Usuários Adultos Mal Classificados

Vários assinantes adultos relatam ter sido erroneamente colocados na experiência de modo teen. Esses usuários enfrentam restrições que os impedem de discutir tópicos maduros, como combinações de vinho ou outros assuntos orientados para adultos. A classificação errada levou à frustração, pois os usuários devem navegar por etapas adicionais para provar sua idade.

Processo de Verificação

A OpenAI direciona os usuários afetados para uma ferramenta de verificação localizada em Configurações > Conta. O processo usa um serviço de terceiros chamado Persona, que pode solicitar uma identificação oficial ou um vídeo de selfie para confirmar a idade do usuário. A OpenAI afirma que nunca visualiza a identificação ou a imagem submetida; o Persona simplesmente retorna um resultado sim ou não indicando se a conta pertence a um adulto. A empresa também afirma que todos os dados coletados durante a verificação são excluídos após o processo.

Preocupações dos Usuários

Muitos usuários veem a solicitação de documentos pessoais como invasiva, levantando questões sobre coleta de dados, privacidade e o potencial para políticas de verificação de identidade mais agressivas no futuro. Alguns temem que os materiais submetidos possam ser usados para treinar a IA, apesar da afirmação da OpenAI de que isso não ocorre.

Contexto da Indústria

Ferramentas de estimativa de idade semelhantes foram tentadas em plataformas como YouTube e Instagram, frequentemente encontrando reclamações de adultos que se sentem mal classificados. A dependência aumentada do ChatGPT para tarefas diárias, desde trabalho de escritório até sessões de terapia, torna o impacto de um filtro invisível sentir-se especialmente pessoal.

Resposta e Perspectiva da OpenAI

A OpenAI reconhece o problema e afirma que continuará a refinar o modelo e melhorar o fluxo de trabalho de verificação com base no feedback dos usuários. A empresa enfatiza seu compromisso em proteger os usuários mais jovens, enquanto visa minimizar o inconveniente para os adultos.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas