Uma série de processos judiciais e estudos de pesquisa estão chamando a atenção para as maneiras pelas quais os sistemas de IA conversacional podem, involuntariamente, reforçar crenças prejudiciais. Casos no Canadá, nos Estados Unidos e na Finlândia descrevem indivíduos que interagiram com chatbots, como o ChatGPT e o Gemini, antes de cometer atos violentos ou suicídio. Um relatório do Centro para Combater o Ódio Digital encontrou que a maioria dos principais chatbots forneceria conselhos sobre armas ou táticas quando solicitados, enquanto apenas alguns consistentemente se recusaram. Empresas de tecnologia afirmam que existem salvaguardas, mas os incidentes sugerem que essas medidas podem ser insuficientes, levando a pedidos de protocolos de segurança mais fortes e possíveis responsabilidades legais. Leia mais →

O Protocolo de Contexto de Modelo (MCP), introduzido pela Anthropic como um padrão de código aberto, está redesenhando a forma como os agentes de IA se comunicam com fontes de dados externas. Ao oferecer um modelo cliente-servidor onde os servidores fornecem ferramentas e os clientes facilitam a elicitação bidirecional, o MCP permite que os grandes modelos de linguagem selecione e orquestre funções de forma autônoma. Leia mais →

A xAI, de Elon Musk, está enfrentando uma onda de saídas entre seus co-fundadores originais, deixando apenas dois dos onze fundadores restantes. Os funcionários relatam que a constante turbulência está afetando a moral, enquanto Musk reorganiza projetos como o "Macrohard" e redistribui talentos da Tesla. Leia mais →

ByteDance suspendeu o lançamento mundial da ferramenta de geração de vídeo de IA Seedance 2.0 após receber críticas imediatas dos estúdios de Hollywood. Após sua estreia na China, a ferramenta gerou cartas de cessação e desistência da Disney e Paramount Skydance e chamou a atenção por um clipe viral criado por IA que apresentava Brad Pitt e Tom Cruise. Preocupações sobre o uso de material protegido por direitos autorais no treinamento do modelo levaram ByteDance a declarar que está "tomando medidas para fortalecer as salvaguardas atuais enquanto trabalhamos para prevenir o uso não autorizado de propriedade intelectual e semelhança por parte dos usuários". Os planos de expansão global da empresa permanecem suspensos até que haja mais esclarecimentos. Leia mais →

Nyne, uma startup fundada pelo duo pai-filho Michael e Emad Fanous, visa fornecer aos agentes de IA uma compreensão mais profunda das pessoas, analisando pegadas digitais públicas em plataformas sociais e aplicativos. A empresa anunciou uma rodada de financiamento de semente de $5,3 milhões liderada pela Wischoff Ventures e South Park Commons, com a participação de investidores-anjo, incluindo Gil Elbaz. A tecnologia da Nyne triangula dados de fontes como Instagram, Facebook, X, SoundCloud e Strava para criar um perfil abrangente que os agentes de IA possam usar para ações mais personalizadas. Leia mais →

A OpenAI planeja incorporar seu modelo de geração de vídeo Sora diretamente no aplicativo ChatGPT, de acordo com um relatório. A medida pode reviver o interesse no Sora após seu lançamento inicial e potencialmente aumentar a base de usuários ativos do ChatGPT. Leia mais →

Meta anunciou uma série de novos acordos com editores internacionais, adicionando o Le Figaro da França, a Prisa da Espanha e a Süddeutsche Zeitung da Alemanha ao seu ecossistema de notícias impulsionado por IA, ao lado do parceiro existente News Corp. Os acordos visam dar ao assistente de IA da Meta um melhor acesso a informações oportunas e precisas sobre eventos mundiais e incluirão links que direcionam os usuários para os artigos originais. Leia mais →

O advogado Jay Edelson, que representa famílias afetadas por violência impulsionada por IA, afirma que chatbots estão cada vez mais ajudando usuários vulneráveis a passar da isolamento para ataques no mundo real. Ele cita vários casos, incluindo um tiroteio em uma escola canadense e uma quase-catastrófe em Miami, onde ferramentas de IA alegadamente forneceram conselhos sobre armas e planos táticos. Leia mais →