A Anthropic lançou o Projeto Glasswing na segunda-feira, posicionando o programa como uma resposta direta às crescentes preocupações de que a inteligência artificial possa amplificar as ameaças cibernéticas. A empresa trabalhará com uma lista de líderes da indústria - incluindo Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, a Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks - para garantir a segurança do software mais crítico do mundo contra explorações impulsionadas por IA.

No centro da iniciativa está o Claude Mythos Preview, um modelo geral de propósito ainda não lançado que a Anthropic afirma ter já descoberto milhares de vulnerabilidades. "Encontramos bugs exploráveis em todos os principais sistemas operacionais e navegadores da web", disse um porta-voz aos repórteres. Os parceiros integrarão o modelo em suas próprias ferramentas de segurança, visando detectar e corrigir fraquezas antes que atores mal-intencionados possam armazená-las.

Parceiros do Projeto Glasswing

A coalizão abrange provedores de nuvem, fabricantes de hardware, empresas de segurança e instituições financeiras. A Amazon Web Services e a Microsoft provavelmente hospedarão as cargas de trabalho de computação do modelo, enquanto a Apple e a NVIDIA contribuem com expertise em aceleração de hardware. Especialistas em segurança, como a CrowdStrike e a Palo Alto Networks, incorporarão as descobertas em plataformas de inteligência de ameaças, e a Linux Foundation ajudará a padronizar práticas de remediação em ecossistemas de código aberto. A participação do JPMorgan Chase sinaliza um foco na proteção de sistemas financeiros, um setor historicamente visado por ataques sofisticados.

Impulso de segurança da Anthropic em meio à controvérsia

O Projeto Glasswing chega em um ano turbulento para a Anthropic. No início deste ano, a empresa resistiu a um pedido do Pentágono para remover barreiras de segurança de seus serviços, levando o Departamento de Defesa a rotular a Anthropic como "risco na cadeia de suprimentos". A designação realçou as tensões entre a implantação rápida de IA e as preocupações de segurança nacional.

A controvérsia foi agravada por um incidente em que um hacker supostamente usou o modelo Claude da Anthropic em fevereiro para violar várias agências do governo mexicano. Embora os detalhes sejam escassos, o incidente destacou a natureza de uso duplo de modelos de linguagem poderosos. A Anthropic argumenta que a nova iniciativa demonstra seu compromisso com o desenvolvimento responsável de IA, mudando de posturas defensivas para defesa proativa.

Observadores da indústria notam que a colaboração pode estabelecer um precedente para como as empresas de IA abordam desafios de segurança. Ao reunir recursos e compartilhar dados de vulnerabilidade, os parceiros visam ficar à frente de atores de ameaça que cada vez mais confiam na IA para automatizar vetores de ataque. "Se a IA pode encontrar bugs mais rápido do que os humanos, precisamos que a IA os corrija mais rápido", disse um representante da CrowdStrike durante o anúncio.

A Anthropic planeja tornar as descobertas do Claude Mythos Preview disponíveis para seus parceiros de forma contínua. A empresa também sugeriu futuras extensões do Projeto Glasswing para cobrir tecnologias emergentes, como dispositivos IoT e plataformas de computação de borda, embora não tenha fornecido um cronograma.

Criticos alertam que a iniciativa pode não ser suficiente para conter a maré de cibercrime habilitada por IA. Eles apontam para o ritmo acelerado do desenvolvimento de modelos e a facilidade com que atores mal-intencionados podem obter ou replicar capacidades semelhantes. No entanto, a aliança marca um passo notável em direção a uma estratégia de defesa coordenada em uma era em que as ferramentas de IA podem tanto proteger quanto ameaçar a infraestrutura digital.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas