OpenAI Introduz Filtragem Baseada em Idade para ChatGPT

OpenAI divulgou que está construindo um sistema de previsão de idade projetado para identificar usuários com menos de 18 anos. Quando o sistema detecta um menor, ele redireciona automaticamente o usuário para uma versão "adequada para a idade" do ChatGPT que bloqueia conteúdo sexual gráfico e outros materiais considerados inadequados para audiências mais jovens.

Controles Parentais e Alertas em Tempo Real

Além da camada de filtragem, OpenAI está lançando controles parentais que permitem que os pais vinculem suas próprias contas com a do filho. Por meio dessa conexão, os pais podem gerenciar tópicos de conversa, desabilitar recursos específicos e definir janelas de uso diário. O sistema também envia notificações se detectar que um adolescente está experimentando distresse agudo, como sinais de ideia suicida ou autolesão, dando aos pais a opção de intervir prontamente.

Equilibrando Privacidade, Liberdade e Segurança

O CEO Sam Altman enfatizou que as novas ferramentas visam reconciliar três princípios frequentemente conflitantes: privacidade do usuário, liberdade de expressão e segurança dos usuários mais jovens. Ele reconheceu a dificuldade dessas compensações, observando que a empresa consultou especialistas para moldar a abordagem e se comprometeu com a transparência sobre suas intenções.

Contexto Regulatório e Scrutínio da Indústria

O anúncio ocorre em meio a um aumento do escrutínio das plataformas de IA pelos reguladores dos EUA. A Comissão Federal de Comércio recentemente solicitou informações à OpenAI, Meta, Google e outras empresas sobre como suas tecnologias afetam as crianças. Os legisladores também expressaram preocupações após relatos ligarem interações de bate-papo de IA a instâncias de autolesão e violência.

Perspectiva Futura

OpenAI planeja finalizar o lançamento dos recursos focados em adolescentes até o final do trimestre atual. Embora a empresa veja a iniciativa como um passo proativo para proteger os menores, também reconhece desafios contínuos, incluindo a preservação da privacidade do usuário enquanto responde a possíveis emergências.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas