A Anthropic revelou o Projeto Glasswing na terça-feira, reunindo uma coalizão cross-setorial para examinar as implicações de segurança de seu modelo de IA mais recente, o Claude Mythos Preview. O consórcio conta com Microsoft, Apple, Google, Amazon Web Services, a Linux Foundation, Cisco, Nvidia, Broadcom e mais de 40 organizações adicionais de tecnologia, segurança cibernética, infraestrutura crítica e finanças entre seus membros.

Os participantes receberão acesso privado e antecipado ao Mythos Preview, que a Anthropic afirma não estar previsto para lançamento geral. O modelo, originalmente treinado para exceler em código, demonstrou uma proficiência colateral em tarefas de segurança cibernética, como descoberta de vulnerabilidades, desenvolvimento de exploats, testes de penetração, avaliação de endpoints, caça a configurações erradas e análise de binários sem código-fonte.

'Nós não treinamos especificamente para ser bom em cibersegurança', disse o CEO da Anthropic, Dario Amodei, em um vídeo de lançamento. 'Nós treinamos para ser bom em código, e como efeito colateral, também é bom em cibersegurança.' A empresa destaca que a iniciativa é menos sobre mostrar o modelo e mais sobre preparar a indústria para um futuro em que capacidades semelhantes se tornem amplamente disponíveis dentro de meses.

Logan Graham, líder de equipe de red team da Anthropic, descreveu o lançamento escalonado como uma forma de divulgação coordenada de vulnerabilidades. Ao dar aos desenvolvedores tempo para corrigir problemas antes da discussão pública, o consórcio espera evitar entregar aos atacantes uma ferramenta poderosa nova. 'Nós vimos o Mythos Preview realizar coisas que um pesquisador de segurança sênior poderia realizar', observou Graham, alertando que o lançamento descuidado poderia acelerar as táticas de atacantes.

A vice-presidente de engenharia de segurança do Google, Heather Adkins, saudou a iniciativa, afirmando que a IA apresenta tanto desafios novos quanto oportunidades para a defesa cibernética. O CISO global da Microsoft, Igor Tsyganskiy, ecoou o sentimento, dizendo que a parceria permite que a gigante da tecnologia identifique e mitigue riscos precocemente, aumentando suas soluções de segurança para os clientes.

Desde que a colaboração começou, a Anthropic relata que o Mythos Preview já descobriu milhares de vulnerabilidades críticas, incluindo bugs de décadas que escaparam mesmo dos códigos mais escrutinados. As descobertas destacam o potencial do modelo para superfície de falhas ocultas em escala.

Os organizadores do Projeto Glasswing enfatizam que o consórcio deve expandir-se além de um punhado de empresas para ser eficaz. 'A coisa mais importante é descobrir as perguntas que precisam de respostas e, em seguida, encontrar essas respostas', disse Graham. 'Ele tem que crescer em algo ainda maior.'

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas