Pentágono Levanta Alarme sobre o Claude

O Secretário de Defesa dos EUA, Pete Hegseth, convocou o CEO da Anthropic, Dario Amodei, para uma reunião no Pentágono para discutir a preocupação do departamento com o uso militar do sistema de inteligência artificial da empresa, Claude. A reunião segue um alerta do Pentágono de que a Anthropic pode ser designada como um "risco na cadeia de suprimentos", uma etiqueta normalmente reservada para adversários estrangeiros, porque a empresa se recusou a permitir que o Departamento de Defesa use sua tecnologia para vigilância em larga escala de cidadãos americanos ou para armas que operam sem supervisão humana.

Contexto Contratual e Operações Recentemente Realizadas

A Anthropic havia assinado anteriormente um contrato com o departamento de defesa e seu modelo Claude foi supostamente utilizado durante uma operação de raids especiais que resultou na captura do presidente venezuelano Nicolás Maduro. Essa operação destacou o papel do modelo em missões sensíveis e trouxe as tensões subjacentes entre a empresa e o Pentágono para o foco.

Ultimato e Possível Consequência

De acordo com uma fonte, o Secretário Hegseth apresentou a Amodei um ultimato: cooperar com os requisitos do departamento ou enfrentar exclusão de trabalhos de defesa futuros. Substituir a tecnologia da Anthropic seria uma tarefa significativa para o Pentágono, mas as apostas são altas. Uma designação de risco na cadeia de suprimentos anularia o contrato existente da Anthropic e compeliria outros contratantes de defesa a parar de usar o Claude completamente.

Implicações para a Governança de IA

O confronto destaca debates mais amplos sobre o papel das empresas privadas de IA na segurança nacional e os limites éticos de ferramentas de aprendizado de máquina avançadas. Enquanto o establishment de defesa busca aproveitar a IA de ponta para vantagem estratégica, empresas como a Anthropic estão reagindo contra usos que poderiam infringir liberdades civis ou permitir armas totalmente autônomas. O resultado da reunião próxima pode estabelecer um precedente para como o governo dos EUA gerencia parcerias com inovadores de IA e como equilibra imperativos de segurança com considerações éticas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas