O CEO da Anthropic, Dario Amodei, está de volta à mesa de negociações com o Departamento de Defesa dos EUA após as conversas terem sido interrompidas devido à exigência do Pentágono de acesso irrestrito aos modelos de IA Claude da empresa. As negociações renovadas visam evitar a designação de risco na cadeia de suprimentos, que poderia impedir a Anthropic de participar de futuros trabalhos de defesa. Leia mais →

Uma coalizão diversificada de sindicatos, organizações religiosas, grupos políticos e indivíduos proeminentes se reuniram em Nova Orleans, sob as Regras da Chatham House, para elaborar a Declaração Pró-Humana de IA. Produzida pelo Instituto do Futuro da Vida, o framework de cinco pontos defende a manutenção do controle humano sobre a inteligência artificial, a proteção de crianças e famílias, a proibição de armas letais totalmente autônomas, a prevenção da exploração do apego emocional pela IA e a interrupção da concentração do poder da IA. A declaração atraiu signatários que variam do Instituto de Tecnologia da AFL-CIO ao Congresso de Líderes Cristãos e figuras como Randi Weingarten, Glenn Beck e Richard Branson, marcando uma ampla e transversal push para o desenvolvimento responsável da IA. Leia mais →

A OpenAI anunciou um novo acordo com o Pentágono que, segundo a empresa, respeita seus princípios de segurança em relação à vigilância em massa e sistemas de armas autônomas. Críticos apontam que o acordo se baseia na frase "qualquer uso legal", o que, segundo eles, poderia permitir uma ampla utilização do governo da tecnologia. A Anthropic recusou um contrato semelhante, foi rotulada como risco na cadeia de suprimentos e recebeu apoio da indústria. A disputa destaca abordagens diferentes em relação à segurança da IA, conformidade legal e papel das salvaguardas técnicas em aplicações militares. Leia mais →

A Anthropic abandonou sua promessa anterior de interromper o treinamento e a liberação de modelos de IA de fronteira até que pudesse garantir mitigações de segurança. A empresa agora se baseia em planos de segurança detalhados, relatórios de risco regulares e divulgações de transparência em vez de pré-condições rigorosas. Executivos descrevem a mudança como pragmática, enquanto críticos argumentam que ela destaca os limites das promessas de segurança voluntárias sem supervisão regulatória. Leia mais →