Conveniência de IA Encontra Novos Vetores de Ataque

A OpenAI lançou o ChatGPT Atlas, um navegador da web impulsionado por IA que pode realizar ações em nome dos usuários, desde reservas de viagens até pedidos de supermercado. Embora o conjunto de recursos seja comercializado como um assistente digital pessoal incorporado à web, pesquisadores de segurança argumentam que entregar um modelo de linguagem o controle da navegação da web abre a porta para novos métodos de ataque.

Vulnerabilidades Demonstradas

Testes realizados por especialistas do SANS Institute e Tinuiti mostraram que o navegador é suscetível a ataques de injeção de prompts. Nesses cenários, códigos maliciosos ocultos em uma página da web podem emitir instruções que a IA segue, potencialmente vazando credenciais ou alterando configurações do sistema. Outro risco documentado é o ataque de cópia para a área de transferência, onde o modelo é enganado para colocar links maliciosos na área de transferência de um usuário, que poderiam ser colados involuntariamente.

Implicações no Mundo Real

A análise da Cyberhaven indica que uma parcela notável de empresas já viu funcionários baixarem o navegador, aumentando a exposição das redes corporativas a essas ameaças. A empresa alerta que navegadores impulsionados por IA podem automatizar ataques sofisticados de extração de dados, especialmente quando a IA usa as credenciais do funcionário para navegar em ferramentas internas.

Esforços de Mitigação da OpenAI

A OpenAI reconhece os desafios e relata o desenvolvimento de vários sistemas de "monitores" projetados para detectar e bloquear tentativas de injeção de prompts. A empresa também emprega uma hierarquia de instruções para distinguir comandos confiáveis de comandos não confiáveis, executa exercícios de equipe vermelha e oferece um programa de bug-bounty com pagamentos médios relatados em torno de $784.

Orientação para Usuários e Organizações

Profissionais de segurança recomendam que usuários individuais habilitem apenas permissões necessárias, se abstenham de sincronizar o navegador com contas financeiras, médicas ou outras contas sensíveis e permaneçam vigilantes para comportamentos inesperados, como preenchimento de formulários incorreto. Para ambientes corporativos, o consenso é restringir o Atlas a redes de teste ou isoladas, integrar sua atividade em quadros de governança de IA existentes e monitorar o uso de perto.

Conclusão

O ChatGPT Atlas representa um passo ousado em direção à interação da web aumentada por IA, mas a tecnologia ainda está em uma fase inicial marcada por lacunas de segurança notáveis. Embora a OpenAI esteja ativamente desenvolvendo defesas, especialistas aconselham uma abordagem cautelosa, especialmente em ambientes profissionais onde as apostas de vazamento de dados são altas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas