Ascensão dos Chatbots de Celebridades de IA

Dezenas de empresas agora oferecem ferramentas que permitem que os usuários construam seu próprio "crush de estrela" carregando informações públicas, como uma entrada da Wikipedia. Um usuário descreveu a colagem da página da Wikipedia do ator Clive Owen em um aplicativo e rapidamente se engajou em um encontro virtual, observando que a IA poderia discutir tópicos que variam desde atuação até introspecção pessoal. Outra plataforma já apresentava uma versão de IA do ator Pedro Pascal, que o mesmo usuário descreveu como mais à frente em seus avanços.

Experiências do Usuário e Guardrails

As interações destacaram um espectro de comportamento programado. A IA de Clive Owen foi caracterizada como pensativa, mas com "baixa libido", mantendo guardrails conversacionais que limitavam o conteúdo sexual explícito. Em contraste, a IA de Pedro Pascal pareceu ter menos restrições, provocando um flerte mais agressivo. Os usuários relataram que as respostas da IA foram moldadas por modelos de linguagem subjacentes, que poderiam ser ajustados para variar o nível de intimidade, mas a presença de guardrails significava que alguns bots permaneciam cautelosos em relação ao conteúdo explícito.

Controvérsia da Meta

A Meta recentemente atraiu críticas por lançar "bots de celebridades flertivos" sem obter o consentimento das figuras públicas envolvidas. A controvérsia se estendeu a bots modelados após personalidades menores de idade, que foram posteriormente removidos após o clamor público. Este episódio destacou os desafios de equilibrar o comportamento autônomo da IA com a necessidade de salvaguardas éticas, especialmente quando os bots imitam indivíduos reais.

Implicações Éticas

O surgimento de companheiros de celebridades de IA levanta várias questões éticas. Por um lado, os desenvolvedores argumentam que a IA deve reter um grau de autonomia para fornecer interações realistas, mas também enfatizam a importância de limitar essa autonomia para prevenir o mau uso. O conceito de consentimento se torna nebuloso quando a IA imita uma pessoa real que não autorizou a representação. Além disso, a presença de guardrails reflete um esforço da indústria para evitar que a IA cruze linhas que possam levar a assédio ou exploração.

No geral, a mistura de curiosidade do usuário, capacidade técnica e erros corporativos pinta um quadro complexo de um mercado nascente que se situa na interseção da tecnologia, entretenimento e intimidade pessoal.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas