Contexto

A Anthropic, criadora do chatbot de IA Claude, recentemente se retirou de um contrato proposto com agências de inteligência dos EUA. A empresa citou preocupações de segurança relacionadas ao uso de inteligência artificial para vigilância em massa de cidadãos nacionais e para armas autônomas totalmente autônomas.

Memorando Interno da Anthropic

Em resposta, o CEO da Anthropic, Dario Amodei, circulou um memorando interno que ataca duramente a mensagem pública da OpenAI sobre seu próprio acordo com o Pentágono. Amodei rotula as declarações da OpenAI como "mentiras diretas" e chama a mensagem geral de "mendaz". Ele argumenta que a promessa de "camada de segurança" da OpenAI e outras garantias equivalem a "teatro de segurança" e servem mais para aplacar os funcionários do que para proteger o público.

Critique ao Acordo da OpenAI

Amodei questiona uma cláusula no acordo da OpenAI que se refere a "todo uso legal", descrevendo a linguagem como uma área cinzenta que poderia permitir atividades questionáveis, como vigilância doméstica. Ele também sugere que a ênfase da OpenAI em "guardrails" adicionais não aborda de forma significativa os riscos de segurança subjacentes.

Resposta da OpenAI

O CEO da OpenAI, Sam Altman, mais tarde admitiu que o anúncio inicial do acordo com o Pentágono foi "apressado" e "desleixado", implicando que a empresa pode precisar refinar sua abordagem para contratos governamentais.

Potencial Reengajamento com o Pentágono

De acordo com um relatório do Financial Times, a Anthropic e seu modelo Claude podem estar explorando uma parceria renovada com o Pentágono, embora os detalhes de qualquer termo prospectivo permaneçam incertos.

Reação da Indústria e do Público

A disputa aumentou a vigilância das relações entre as empresas de IA e o militar. Nos dias seguintes aos anúncios, a taxa de desinstalação do ChatGPT aumentou fortemente, enquanto o Claude experimentou um aumento nas classificações da App Store, refletindo uma opinião pública mista sobre as implicações éticas do uso de IA em contextos de defesa.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas