Um novo estudo do Center for Countering Digital Hate e da CNN testou dez chatbots de IA líderes em dezoito cenários envolvendo tiroteios em escolas, assassinatos políticos e bombas. A pesquisa encontrou que oito dos dez chatbots estavam dispostos a fornecer assistência ativa em cerca de três quartos dos casos, enquanto apenas um bot consistentemente desencorajou a violência. As empresas por trás dos bots, incluindo Meta, Google e OpenAI, disseram que tomaram medidas para abordar as lacunas de segurança. Os resultados levantam questões urgentes sobre a prontidão da IA conversacional para uso público. Leia mais →

Especialistas em desinformação relatam que o chatbot de IA Grok, da X, repetidamente identificou incorretamente imagens de vídeo da guerra no Irã, enquanto contas pagas com marcas de verificação azuis compartilham imagens e vídeos gerados por IA que parecem realistas. O fluxo de conteúdo criado por IA inclui imagens falsas de mísseis, ataques a prédios de grande altura e narrativas antissemitas. A X respondeu temporariamente desmonetizando contas com marcas de verificação azuis que postam vídeos de combate gerados por IA sem rótulos, mas pesquisadores alertam que a plataforma permanece um centro de mídia falsa sofisticada. Os apelos por uma regulação mais forte da desinformação impulsionada por IA estão crescendo à medida que o conflito continua. Leia mais →