Cómo Funciona el Fraude

Las Descripciones de Inteligencia Artificial de Google reemplazan las listas de enlaces tradicionales con resúmenes concisos y generados por inteligencia artificial a partir de contenido web público. Los estafadores han aprovechado este proceso publicando números de contacto falsos junto a nombres de marcas reputadas en sitios web de bajo perfil. Cuando la inteligencia artificial extrae estas páginas, incluye los números falsos en sus casillas de respuesta. Un usuario que busca el número de teléfono de una empresa ve el contacto fraudulento, lo llama y se conecta con un impostor que intenta extraer detalles de pago o información sensible.

Evidencia de la Amenaza

Informes de publicaciones importantes y publicaciones en redes sociales han documentado instancias en las que aparecieron números de soporte falsos en las Descripciones de Inteligencia Artificial de Google. Uniones de crédito, bancos y agencias de protección al consumidor han advertido a los clientes sobre el peligro, señalando que los fraudes no son nuevos pero se amplifican por la presentación impulsada por inteligencia artificial que hace que la información parezca autorizada.

Respuesta de Google

Google reconoce el problema y afirma que está mejorando activamente sus sistemas de detección de spam. La empresa afirma que sus protecciones contra el spam son "altamente efectivas" para mantener los fraudes fuera de las Descripciones de Inteligencia Artificial y que continúa lanzando actualizaciones para verificar mejor la información de contacto. Sin embargo, la empresa también señala que actualmente no hay forma para que los usuarios desactiven completamente las Descripciones de Inteligencia Artificial.

Medidas de Seguridad Prácticas

Los expertos recomiendan un paso de verificación simple: después de ver un número de teléfono en una Descripción de Inteligencia Artificial, realizar una búsqueda separada para el sitio web oficial de la empresa y localizar los detalles de contacto allí. Este clic adicional ayuda a asegurar que el número sea legítimo. Los usuarios también deben ser cautelosos al proporcionar datos de pago o personales por teléfono a menos que hayan confirmado la identidad del llamador a través de un canal oficial.

Implicaciones Más Amplias

El incidente subraya un desafío más grande con la inteligencia artificial generativa en la búsqueda: la tecnología puede presentar información obsoleta, inexacta o maliciosa sin señales claras para el usuario. A medida que los resúmenes de inteligencia artificial se vuelven más comunes, la responsabilidad de verificar los hechos recae cada vez más en el usuario final. Si bien la inteligencia artificial puede agilizar la recuperación de información, las consultas críticas —especialmente aquellas que involucran transacciones financieras o datos personales— todavía se benefician de métodos de verificación tradicionales.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas