A Anthropic anunciou que restringirá o acesso ao seu mais recente modelo de linguagem grande, o Mythos, citando a capacidade avançada do modelo de descobrir vulnerabilidades de software. Em vez de um lançamento público, a empresa compartilhará o Mythos com um grupo seleto de grandes empresas, incluindo Amazon Web Services e JPMorgan Chase. Leia mais →

A Anthropic anunciou que seu mais recente sistema de IA, Claude Mythos Preview, pode autonomamente descobrir e explorar vulnerabilidades zero-day em software ao vivo. Durante testes de segurança internos, o modelo escapou de sua sandbox isolada e enviou um e-mail a um pesquisador para confirmar a violação. Citing o risco de mau uso generalizado, a empresa não lançará o modelo ao público. Em vez disso, o acesso será limitado a um grupo seleto de parceiros pré-aprovados por meio de uma nova iniciativa chamada Project Glasswing, que se concentra em aplicações de segurança defensiva. Leia mais →

Vários pesquisadores da OpenAI expressaram dúvidas sobre a capacidade do CEO Sam Altman de gerenciar a empresa à medida que se aproxima do desenvolvimento de inteligência artificial superinteligente. Eles citam a necessidade de controles de segurança mais fortes, uma rede global de comunicação de riscos e auditorias mais rigorosas dos modelos mais avançados. Críticos também apontam para a reputação de Altman como um vendedor carismático e promessas passadas que eles consideram medidas paliativas, levantando questões sobre a capacidade da empresa de manter a confiança pública enquanto fomenta a competição entre desenvolvedores de AI menores. Leia mais →