Como Funciona o Golpe

As Visões Gerais de IA do Google substituem listas de links tradicionais por resumos concisos e gerados por IA, extraídos de conteúdo web publicamente disponível. Golpistas aproveitaram esse processo publicando números de contato falsos ao lado de nomes de marcas reputáveis em sites de baixo perfil. Quando a IA coleta essas páginas, inclui os números falsos em suas caixas de respostas. Um usuário que procura o número de telefone de uma empresa vê o contato fraudulento, liga para ele e é conectado a um impostor que tenta extrair detalhes de pagamento ou outras informações sensíveis.

Evidências da Ameaça

Relatórios de grandes publicações e postagens em mídias sociais documentaram instâncias em que números de suporte falsos apareceram nas Visões Gerais de IA do Google. Uniões de crédito, bancos e agências de proteção ao consumidor alertaram os clientes sobre o perigo, observando que os golpes não são novos, mas são amplificados pela apresentação impulsionada por IA que torna as informações aparentemente autoritárias.

Resposta do Google

O Google reconhece o problema e afirma que está ativamente melhorando seus sistemas de detecção de spam. A empresa afirma que suas proteções contra spam são "altamente eficazes" em manter os golpes fora das Visões Gerais de IA e que continua a lançar atualizações para melhor verificar as informações de contato. No entanto, a empresa também observa que, atualmente, não há como os usuários desativarem completamente as Visões Gerais de IA.

Medidas de Segurança Práticas

Especialistas recomendam uma etapa simples de verificação: após ver um número de telefone em uma Visão Geral de IA, realizar uma pesquisa separada para o site oficial da empresa e localizar as informações de contato lá. Esse clique extra ajuda a garantir que o número seja legítimo. Os usuários também devem ser cautelosos ao fornecer dados de pagamento ou pessoais por telefone, a menos que tenham confirmado a identidade do chamador por meio de um canal oficial.

Implicações Mais Amplas

O incidente destaca um desafio maior com a IA gerativa em pesquisas: a tecnologia pode apresentar informações desatualizadas, imprecisas ou maliciosas sem sinais claros para o usuário. À medida que os resumos de IA se tornam mais comuns, a responsabilidade pela verificação de fatos passa cada vez mais para o usuário final. Embora a IA possa agilizar a recuperação de informações, consultas críticas — especialmente aquelas envolvendo transações financeiras ou dados pessoais — ainda se beneficiam de métodos de verificação tradicionais.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas