Novas Salvaguardas de Previsão de Idade da OpenAI

A OpenAI anunciou o lançamento de um modelo de previsão de idade para o serviço ChatGPT. O sistema analisa uma combinação de informações fornecidas pelo usuário, idade da conta, horário de atividade e padrões de uso para estimar se um usuário provavelmente tem menos de 18 anos. Essa avaliação aciona um conjunto de medidas de proteção projetadas para reduzir a exposição de menores a conteúdo potencialmente prejudicial.

Restrições de Conteúdo para Menores Estimados

Quando um usuário é identificado como menor, o ChatGPT limita automaticamente o acesso a várias categorias de material. Essas incluem violência gráfica ou imagens gore, desafios virais que possam encorajar comportamento arriscado, role-play sexual, romântico ou violento, representações de autolesão e conteúdo que promove padrões de beleza extremos, dietas insalubres ou body-shaming. O objetivo é criar um ambiente de conversação mais seguro para usuários mais jovens, permitindo que o chatbot funcione de forma eficaz.

Processo de Verificação para Adultos

Adultos que são incorretamente classificados como menores têm a opção de restaurar o acesso irrestrito. O método de verificação envolve enviar uma selfie para confirmar a idade, garantindo que usuários adultos legítimos possam continuar a usar a gama completa de recursos do ChatGPT sem barreiras desnecessárias.

Lançamento Global e Considerações Regionais

A funcionalidade de previsão de idade está sendo introduzida globalmente. A OpenAI notou uma exceção para a União Europeia, onde o lançamento será adiado para atender a regulamentações regionais específicas. A empresa indicou que o lançamento na UE ocorrerá nas próximas semanas.

Contexto e Motivação

Esse desenvolvimento segue uma maior fiscalização do impacto dos chatbots de IA em audiências mais jovens, incluindo ações legais e discussões em ambientes governamentais. Ao incorporar salvaguardas baseadas na idade, a OpenAI busca abordar preocupações sobre menores que encontram conteúdo sensível ou prejudicial durante interações com a IA.

Olhando para o Futuro

O sistema de previsão de idade da OpenAI representa um passo proativo em direção ao deploy responsável de IA. A empresa planeja monitorar a eficácia das salvaguardas e ajustar o modelo conforme necessário para equilibrar segurança com experiência do usuário em mercados diversificados.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas