Um novo editorial explora como o cenário clássico do filme HAL reflete os desafios atuais com a inteligência artificial. Ele destaca a inevitabilidade de erros, o perigo de casos de bordo desconhecidos e a dificuldade de alinhar sistemas autônomos poderosos com valores humanos. O artigo também alerta para o uso indevido na criação de armas, proliferação de deepfakes e o aumento da dependência de IA na vida cotidiana, defendendo uma regulação e governança reflexivas para acompanhar os avanços rápidos. Leia mais →

O CEO da Anthropic entrou em conflito com o Secretário de Defesa sobre o desejo do Departamento de Defesa de usar os modelos de IA da empresa para qualquer propósito legal. A Anthropic insiste que sua tecnologia não deve ser empregada para vigilância em massa de americanos ou armas totalmente autônomas sem supervisão humana. O Pentágono argumenta que as restrições dos fornecedores não devem limitar as operações militares e advertiu que pode rotular a Anthropic como um risco na cadeia de suprimentos se a empresa não cumprir. A disputa destaca uma luta mais ampla sobre quem controla os sistemas de IA poderosos - desenvolvedores privados ou o governo. Leia mais →

A Anthropic anunciou uma revisão de sua Política de Escala Responsável, substituindo limites rígidos de segurança por relatórios de risco e planos de segurança mais flexíveis. A mudança segue relatos de que o Secretário de Defesa Pete Hegseth pressionou a empresa a conceder acesso irrestrito ao modelo de IA Claude para o militar, ameaçando penalidades sob a Lei de Produção de Defesa. A liderança da Anthropic argumentou que paradas estritas no treinamento de modelos não ajudariam mais ninguém, given a rápida evolução do desenvolvimento de IA. Críticos alertaram que a mudança poderia erodir salvaguardas e permitir um gradual "efeito de ebulição de sapo" nos padrões de segurança. Leia mais →