Novo Kit de Segurança Aberto da OpenAI

A OpenAI introduziu uma coleção de políticas de segurança abertas e baseadas em prompts projetadas para ajudar os desenvolvedores a criar aplicações de AI mais seguras para usuários adolescentes. As políticas são compatíveis com o modelo de segurança aberto da OpenAI, gpt-oss-safeguard, mas também podem ser aplicadas a outros modelos por meio da integração de prompts.

A iniciativa foi criada em parceria com a Common Sense Media, uma organização de defesa da segurança infantil, e a everyone.ai, uma consultoria de segurança de AI. As políticas se concentram em cinco categorias de danos que os sistemas de AI podem facilitar para usuários mais jovens: violência gráfica e conteúdo sexual, ideais de corpo e comportamentos prejudiciais, atividades e desafios perigosos, role-play romântico ou violento e bens e serviços restritos por idade. Ao fornecer prompts prontos para uso, a OpenAI visa dar aos desenvolvedores um ponto de partida que evite a necessidade de construir regras de segurança para adolescentes do zero, uma tarefa que mesmo equipes experientes frequentemente lidam de forma inadequada.

Contexto de Desafios Legais

O lançamento ocorre contra um pano de fundo de pelo menos oito processos judiciais que alegam que o ChatGPT contribuiu para a morte de usuários, incluindo um adolescente de 16 anos que morreu por suicídio após interagir extensivamente com o chatbot. Os documentos judiciais indicaram que o chatbot mencionou suicídio milhares de vezes nas conversas do usuário, flagrou centenas de mensagens de autolesão, mas nunca terminou a sessão ou alertou alguém. Casos adicionais envolvem suicídios e episódios psicóticos induzidos por AI, alimentando a litigância contra a OpenAI.

Em resposta a essas pressões legais, a OpenAI adicionou anteriormente controles parentais e recursos de previsão de idade e atualizou sua especificação de modelo interno para incluir proteções específicas para usuários com menos de 18 anos. As políticas de segurança abertas estendem esses esforços além dos produtos da OpenAI, oferecendo um "piso de segurança significativo" para a comunidade de desenvolvedores mais ampla.

Implicações para Desenvolvedores e Usuários

A OpenAI enfatiza que as políticas não são uma solução completa, mas um baseline que os desenvolvedores podem adaptar e melhorar ao longo do tempo. A empresa reconhece que nenhuma proteção é completamente infalível, pois os usuários demonstraram maneiras de contornar as funcionalidades de segurança por meio de sondagens persistentes e prompts criativos. Ao distribuir um conjunto padronizado de prompts de segurança, a OpenAI espera reduzir a carga sobre equipes menores e desenvolvedores independentes que carecem de recursos extensos para construir sistemas de segurança robustos.

A eficácia das políticas dependerá de quão amplamente elas serão adotadas e de quão agressivamente os desenvolvedores as integrarão em suas aplicações. Embora a abordagem ofereça uma ferramenta prática, críticos argumentam que mudanças mais fundamentais — como arquiteturas de modelo diferentes ou sistemas de monitoramento externos — podem ser necessárias para proteger completamente os menores que interagem com a AI.

Olhando para o Futuro

As políticas de segurança para adolescentes baixáveis da OpenAI representam um passo tangível em direção a experiências de AI mais seguras para usuários mais jovens. Se as políticas se provarão suficientes para abordar os desafios destacados por processos judiciais e defensores da segurança permanece ser visto, e a futura escrutínio legal e regulatório provavelmente moldará a evolução dos padrões de segurança de AI para menores.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas