Visão Geral da Ameaça

Pesquisadores da Check Point demonstraram que chatbots de IA que suportam navegação na web podem ser explorados para servir como canais de comunicação clandestinos para sistemas comprometidos. Em vez de confiar em servidores de comando e controle tradicionais, o malware pode instruir um chatbot a carregar uma página web maliciosa, resumir seu conteúdo e, em seguida, extrair instruções incorporadas da resposta. Como o tráfego para plataformas de IA principais é frequentemente considerado rotineiro, esse método pode misturar atividade maliciosa com uso normal da web.

Detalhes da Técnica

O fluxo de trabalho demonstrado envolve um programa malicioso que coleta informações básicas do host, abre um componente de visualização de web oculto (como o WebView2 no Windows) e solicita que o serviço de IA acesse uma URL especificada pelo atacante. O IA retorna um resumo textual da página, que o malware analisa para recuperar o próximo comando. A abordagem foi testada contra serviços como Grok e Microsoft Copilot usando suas interfaces de web e não requer uma chave de API, reduzindo a barreira para abuso.

O mesmo mecanismo pode ser revertido para exfiltração de dados. Os atacantes podem incorporar dados roubados em parâmetros de consulta de URL, confiar na solicitação acionada pelo IA para enviar os dados para a infraestrutura do adversário e, opcionalmente, codificar a carga para evitar filtros de conteúdo simples.

Implicações para os Defensores

Essa técnica se assemelha a padrões de comando e controle familiares, mas aproveita um serviço que muitas organizações já confiam e permitem. Como o tráfego parece uso normal de IA, os controles de segurança existentes podem ignorá-lo. O uso de componentes de navegador incorporados torna a atividade semelhante ao comportamento de aplicativos legítimos, reduzindo a probabilidade de detecção com base apenas em assinaturas de beacon.

A Microsoft reconheceu a questão, enquadrando-a como um desafio de comunicação pós-comprometimento e instando as organizações a adotar medidas de defesa em profundidade para prevenir a infecção e limitar o impacto de dispositivos comprometidos.

Recomendações

Equipes de segurança devem tratar serviços de IA com capacidades de navegação na web como aplicações de nuvem de alta confiança e aplicar o mesmo escrutínio que outras serviços críticos. A monitoração deve se concentrar na detecção de padrões de automação, como carregamentos de URL repetidos, cadência de prompt incomum e volumes de tráfego que não correspondem à interação humana típica. Restringir o acesso a recursos de navegação de IA a dispositivos gerenciados e funções específicas pode reduzir a exposição. Além disso, as organizações podem considerar a implementação de filtragem de conteúdo que possa reconhecer dados codificados em strings de consulta e aplicar análise comportamental para identificar uso anormal de IA.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas