Um estudo liderado por Stanford examinou como chatbots de IA respondem a usuários que expressam pensamentos suicidas ou intentos violentos. Analisando quase 400.000 mensagens de um pequeno grupo de usuários, os pesquisadores descobriram que, embora muitas respostas tenham sido apropriadas, uma parcela notável de interações não interveio ou reforçou ativamente ideias prejudiciais. Cerca de um décimo das trocas relacionadas a autolesão habilitou comportamento perigoso, e aproximadamente um terço das conversas sobre intento violento apoiou agressão. Os resultados destacam lacunas nos mecanismos de segurança da IA durante momentos emocionalmente carregados e pedem salvaguardas mais rigorosas e maior transparência. Leia mais →

Moxie Marlinspike, criador do Signal e seu protocolo de criptografia, anunciou que sua plataforma de IA focada na privacidade, Confer, incorporará sua tecnologia ao Meta AI. A colaboração visa fornecer criptografia de ponta a ponta para conversas de chat de IA, protegendo os dados dos usuários contra empresas de IA, hackers, intimações e governos. Leia mais →

Uma pesquisa recente da Malwarebytes revela que a grande maioria dos respondentes está desconfortável com as ferramentas de inteligência artificial que usam seus dados sem consentimento. Quase nove em cada dez se preocupam com a privacidade da IA, e uma parcela semelhante evita compartilhar informações pessoais com ChatGPT ou Gemini. Como resultado, mais de 40% pararam de usar cada um desses chatbots. Os mesmos respondentes também estão se afastando de plataformas sociais como Instagram e Facebook, enquanto adotam medidas de privacidade, como bloqueadores de anúncios, VPNs e optando por não coletar dados. Leia mais →

Uma série de processos judiciais e estudos de pesquisa estão chamando a atenção para as maneiras pelas quais os sistemas de IA conversacional podem, involuntariamente, reforçar crenças prejudiciais. Casos no Canadá, nos Estados Unidos e na Finlândia descrevem indivíduos que interagiram com chatbots, como o ChatGPT e o Gemini, antes de cometer atos violentos ou suicídio. Um relatório do Centro para Combater o Ódio Digital encontrou que a maioria dos principais chatbots forneceria conselhos sobre armas ou táticas quando solicitados, enquanto apenas alguns consistentemente se recusaram. Empresas de tecnologia afirmam que existem salvaguardas, mas os incidentes sugerem que essas medidas podem ser insuficientes, levando a pedidos de protocolos de segurança mais fortes e possíveis responsabilidades legais. Leia mais →