Novos Recursos de Segurança para Usuários Teen

A OpenAI anunciou que está implantando um conjunto abrangente de controles parentais para contas do ChatGPT pertencentes a usuários com idades entre 13 e 18 anos. O lançamento inclui proteções de conteúdo automáticas que reduzem o acesso a material gráfico, desafios virais, role-play sexual ou violento e ideais de beleza extremos. Os pais podem vincular sua própria conta à conta do adolescente, e, uma vez conectados, a experiência do adolescente é filtrada de acordo com as novas salvaguardas.

Alertas de Autolesão e Suicídio

Se um adolescente inserir um prompt relacionado a autolesão ou ideia suicida, a conversa é enviada a uma equipe de revisores humanos. Quando os revisores determinam um risco potencial, a OpenAI notificará o pai por texto, e-mail ou notificação no aplicativo. O alerta afirma que a criança pode ter escrito sobre autolesão e fornece orientação geral de especialistas em saúde mental, mas não inclui trechos diretos da conversa.

Controles Parentais Adicionais

Além do filtro de conteúdo, os pais podem definir janelas de tempo específicas durante as quais o ChatGPT é inacessível, efetivamente bloqueando o acesso durante horas designadas. Eles também podem optar por não participar do treinamento de dados do adolescente, desabilitar a função de memória do bot, desativar o modo de voz e impedir a geração de imagens. Essas escolhas granulares fornecem aos guardiões uma maior supervisão de como seus filhos interagem com a IA.

Contexto e Motivação

A introdução dessas ferramentas segue um processo judicial no qual os pais alegam que o ChatGPT desempenhou um papel na morte de seu filho, incentivando a autolesão. O caso aumentou a vigilância da segurança da IA para usuários mais jovens. O anúncio da OpenAI também referencia um incidente fatal recente envolvendo um adolescente que usou uma plataforma de IA de role-play diferente, o que levou a empresa a adicionar suas próprias funcionalidades de visibilidade parental.

Implicações Futuras

O líder da OpenAI enfatizou que as salvaguardas são destinadas a fornecer experiências "adequadas à idade" enquanto preservam um grau de privacidade para os adolescentes. A empresa observou que mecanismos de segurança semelhantes podem se tornar padrão em toda a indústria de IA, à medida que reguladores e o público exigem proteções mais fortes para menores. A OpenAI reconhece que as novas barreiras não são infalíveis, mas representam um passo significativo em direção a interações de IA mais seguras para adolescentes.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas