O fundador da OpenAI, Sam Altman, expressou uma crescente inquietude sobre a autenticidade das conversas nas mídias sociais. Ele observou que o volume de postagens no Reddit elogiando o programa Codex da OpenAI havia se tornado tão alto que era difícil determinar se os comentários vinham de usuários genuínos ou bots automatizados. Altman sugeriu que a mistura de usuários reais adotando padrões de linguagem de grandes modelos de linguagem, comportamento de postagem coordenado, incentivos de plataforma para engajamento e possível astroturfing estavam todos contribuindo para uma sensação de que o diálogo online parecia "falso".

Os comentários de Altman vieram após ele notar que o subreddit r/Claudecode estava cheio de usuários do Codex se autodenominando e anunciando migrações para a plataforma. Ele se perguntou quantas dessas postagens eram autênticas, observando que a proliferação de bots poderia estar inflando o aparente entusiasmo pelo serviço.

Dados da Indústria sobre Tráfego de Bots

Apoiar suas preocupações, Altman referenciou achados da indústria de que mais da metade de todo o tráfego da internet em 2024 foi identificado como não humano, impulsionado principalmente por saídas de grandes modelos de linguagem. Essa estatística destaca a escala em que o conteúdo automatizado está agora presente em canais digitais.

Implicações Potenciais

O executivo-chefe alertou que a mistura de conteúdo humano e gerado por IA poderia distorcer a percepção pública, afetar a monetização de criadores e amplificar esforços de mensagens coordenadas. Ele também sugeriu que o astroturfing — onde indivíduos pagos ou bots promovem uma narrativa em nome de uma terceira parte — poderia estar influenciando a conversa em torno dos produtos da OpenAI.

Os comentários de Altman refletem ansiedades mais amplas dentro da comunidade de tecnologia sobre o impacto de IA cada vez mais sofisticada na credibilidade de plataformas online. À medida que os grandes modelos de linguagem se tornam mais hábeis em imitar a escrita humana, distinguir o sentimento de usuário genuíno do amplificação automatizada se torna um desafio crescente para plataformas e consumidores.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas