Controles de Usuário Ampliados

A OpenAI lançou um conjunto de controles para seu aplicativo Sora, que ela compara a um "TikTok para deepfakes". Os novos recursos permitem que os usuários ditam como as versões geradas por IA deles mesmos - referidas como "aparições" - podem ser usadas em vídeos cur!os. Os usuários agora podem prevenir que seu duplo de IA apareça em vídeos políticos, bloquear certas palavras de serem faladas ou impedir que a semelhança apareça em cenários visuais específicos, como perto de um condimento específico.

Opções de Personalização

A plataforma também permite preferências mais divertidas. Por exemplo, um usuário poderia exigir que seu eu de IA use um chapéu específico em todos os vídeos. Essas configurações visam dar aos indivíduos mais controle sobre como suas representações digitais são apresentadas.

Esforços de Segurança e Estabilidade

A atualização de controle é parte de um lote mais amplo de mudanças de fim de semana destinadas a estabilizar o Sora e gerenciar o influxo de conteúdo gerado por IA que a OpenAI chama de "slop". A equipe da OpenAI indicou que a empresa está trabalhando para melhorar a marca d\'água existente, que alguns usuários já encontraram maneiras de contornar.

Preocupações em Curso

Críticos observam que ferramentas de IA anteriores, como o ChatGPT e o Claude, foram exploradas para conselhos ilícitos, sugerindo que atores determinados podem encontrar maneiras de contornar as novas salvaguardas do Sora. A plataforma já enfrentou desafios com usuários contornando sua marca d\'água, levantando questões sobre a robustez das proteções atuais.

Direções Futuras

A equipe da OpenAI afirma que a empresa continuará a "subir a colina" para tornar as restrições mais robustas e adicionará maneiras adicionais para os usuários permanecerem no controle. O lançamento reflete a resposta da OpenAI às preocupações dos usuários, enquanto reconhece que a luta contra o uso indevido é contínua.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas