Fundo

Em uma troca de alto risco entre o Departamento de Defesa e empresas líderes em inteligência artificial, o Pentágono buscou um acesso mais amplo a modelos de IA para fins militares e de inteligência. O pedido incluiu linguagem que permitiria o uso irrestrito da tecnologia, levantando preocupações entre alguns fornecedores sobre aplicações potenciais que poderiam conflitar com princípios democráticos.

Posição da Anthropic

A Anthropic, uma empresa proeminente de pesquisa em IA, respondeu recusando-se a atender à demanda do Pentágono por acesso irrestrito. O CEO da empresa, Dario Amodei, explicou que, embora a Anthropic apoie o uso da IA para defender os Estados Unidos e seus aliados, não pode, em boa consciência, permitir dois usos específicos: vigilância em massa de cidadãos americanos e armas letais autônomas que operam sem supervisão humana.

Amodei observou que a Anthropic não se opôs a operações militares específicas no passado e permanece disposta a trabalhar com o Departamento de Defesa dentro de limites definidos. No entanto, a empresa acredita que os atuais sistemas de IA de fronteira não são confiáveis o suficiente para alimentar armas que possam selecionar e engajar alvos sem controle humano.

Resposta do Governo

O Pentágono supostamente considerou invocar a Lei de Produção de Defesa e classificar a Anthropic como um risco na cadeia de suprimentos para compelir a conformidade. Oficiais também pediram que grandes contratantes de defesa avaliassem sua dependência do modelo Claude da Anthropic, sinalizando uma effort mais ampla para garantir capacidades de IA para a segurança nacional.

Resultados Potenciais

A Anthropic indicou que, se o Departamento de Defesa optar por descontinuar a parceria, a empresa trabalhará para garantir uma transição suave para outro provedor, visando evitar a interrupção do planejamento e operações militares em andamento. Essa postura coloca a Anthropic ao lado de outras empresas de IA que relataram ter aceitado os termos revisados do Pentágono, destacando uma divisão na indústria sobre como equilibrar as necessidades de segurança nacional com considerações éticas.

Implicações para a Ética e Política de IA

A disputa destaca a tensão crescente entre agências governamentais que buscam acesso rápido à IA avançada e empresas que priorizam salvaguardas éticas. Isso levanta questões sobre como os contratos futuros abordarão preocupações como a privacidade dos civis, o uso de armas autônomas e a confiabilidade dos sistemas de IA em cenários de alto risco.

À medida que a conversa continua, formuladores de políticas, líderes da indústria e grupos da sociedade civil provavelmente observarão de perto para ver como o equilíbrio entre imperativos de segurança e valores democráticos será negociado no cenário de IA em evolução.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas