Auge de las estafas de celebridades impulsadas por IA

La inteligencia artificial generativa ahora permite la creación rápida de imágenes, videos y audio realistas que imitan personalidades bien conocidas. Los actores maliciosos explotan esta capacidad para producir promociones falsas, sorteos y promociones de productos que parecen provenir de músicos, actores y otras figuras públicas populares. Según un informe reciente de McAfee, muchos consumidores estadounidenses han reportado ver este tipo de contenido falso de celebridades, con una cantante de pop líder citada como la semejanza más frecuentemente utilizada.

Cómo los estafadores explotan los deepfakes

El proceso de estafa es sencillo: un estafador genera una publicación convincente basada en IA que presenta la semejanza de una celebridad, y luego la empareja con una llamada a la acción, como hacer clic en un enlace, ingresar detalles personales o enviar pago a través de métodos no convencionales. Estas publicaciones a menudo imitan el estilo de cuentas verificadas, creando una falsa sensación de legitimidad. El informe señala que una parte significativa de las personas han hecho clic en estas falsas promociones, y algunas han sufrido pérdidas financieras.

Consejos de detección para los consumidores

Identificar el contenido generado por IA puede ser difícil, pero el informe ofrece varias pistas prácticas. Los espectadores deben examinar los detalles visuales en busca de inconsistencias, como iluminación extraña o movimientos no naturales. Muchos generadores de IA incrustan marcas de agua que pueden señalarizar el origen sintético. Las etiquetas de plataforma que indican medios generados por IA también son señales útiles. Las señales de alarma tradicionales de estafas siguen siendo relevantes: urgencia, presión emocional, solicitudes de información personal y demandas de pago a través de criptomonedas o tarjetas de regalo.

Respuesta de la industria y desafíos en curso

Los desarrolladores de IA reconocen el mal uso de sus herramientas y han introducido medidas como el marcaje de agua automático y las directrices de política para frenar los deepfakes de celebridades no consensuados. Sin embargo, el informe destaca que estas salvaguardias no son infalibles, ya que los estafadores siguen encontrando formas de eludirlas. Se enfatiza la colaboración continua entre las empresas de tecnología, los investigadores de seguridad y las campañas de conciencia pública como esencial para mitigar la creciente amenaza.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas