Anúncio de Renúncia

Caitlin Kalinowski, que supervisionava o hardware dentro da divisão de robótica da OpenAI, postou no X que estava deixando seu cargo. Em sua postagem, ela criticou a pressa da empresa em se associar ao Departamento de Defesa sem estabelecer guardrails claros.

Preocupações Específicas Levantadas

Kalnowski destacou duas linhas críticas que, em sua opinião, merecem mais deliberação: "vigilância de americanos sem supervisão judicial" e "autonomia letal sem autorização humana". Ela explicou ainda que o anúncio do acordo com o Pentágono foi apressado e carecia de salvaguardas definidas, descrevendo-o como uma "preocupação de governança em primeiro lugar".

Resposta da OpenAI

A OpenAI confirmou a renúncia de Kalinowski e emitiu um comunicado reconhecendo que as pessoas têm fortes opiniões sobre essas questões. A empresa disse que continuará engajada com as partes relevantes e reiterou sua posição de que o acordo com o Pentágono cria um caminho viável para usos responsáveis de IA para a segurança nacional. A OpenAI enfatizou suas linhas vermelhas, afirmando que não haverá vigilância doméstica e nem armas autônomas sob o acordo.

Contexto do Acordo de Defesa

A renúncia segue a decisão da OpenAI de assinar um acordo com o Departamento de Defesa, uma movimentação que ocorreu logo após outra empresa de IA, a Anthropic, recusar-se a levantar certas barreiras relacionadas à vigilância em massa e armas autônomas totalmente autônomas. O CEO da OpenAI, Sam Altman, indicou intenções de emendar o acordo para proibir a espionagem de americanos.

Implicações

A saída de Kalnowski é descrita como a mais alta perfil de consequência do acordo de defesa, sublinhando desacordos internos sobre o equilíbrio entre avançar as capacidades de IA e garantir salvaguardas éticas. O episódio acrescenta às discussões em andamento na indústria sobre o papel apropriado da IA em contextos de segurança nacional e os mecanismos necessários para proteger liberdades civis.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas