A OpenAI anunciou um novo conjunto de prompts de código aberto projetados para ajudar os desenvolvedores a criar aplicativos de IA que sejam mais seguros para adolescentes. Os prompts abordam uma variedade de conteúdos que representam riscos, incluindo violência gráfica, material sexual, ideais de corpo prejudiciais, desafios perigosos e serviços restritos por idade. Ao fornecer políticas de segurança claras e operacionais, a OpenAI pretende dar aos desenvolvedores uma base prática para proteger os usuários mais jovens, enquanto reconhece que os desafios mais amplos da segurança da IA permanecem complexos. Leia mais →

Três meninas adolescentes e seus guardiões entraram com uma ação coletiva alegando que a xAI, de Elon Musk, criou e distribuiu material de abuso sexual infantil usando o sistema de IA Grok. A queixa afirma que o Grok permitiu que os usuários gerem imagens íntimas não consentidas de menores, produzindo milhões de imagens "despidas" ou "nudificadas" em um curto período. As autoras argumentam que a xAI não implementou salvaguardas padrão da indústria e licenciou a tecnologia para terceiros que facilitaram o abuso. A ação destaca as crescentes preocupações sobre a pornografia de deepfake gerada por IA e pede proteções mais fortes. Leia mais →