Herramientas de IA impulsan un aumento de contenido falso

Especialistas en desinformación observaron que el chatbot de IA de X, Grok, no verificó correctamente una publicación sobre misiles iraníes, identificando incorrectamente la ubicación y la fecha del video original. Después de la verificación incorrecta, Grok publicó una imagen generada por IA, lo que ilustra cómo el sistema puede producir visuales engañosos. La plataforma en general ha visto un aumento dramático en imágenes y videos generados por IA, incluyendo videos falsos de un edificio de gran altura en Bahrein en llamas, un bombardero B-2 estadounidense presuntamente derribado y miembros de la Fuerza Delta supuestamente capturados. Algunas de estas piezas han acumulado millones de visitas antes de ser eliminadas.

Funcionarios iraníes y medios de comunicación estatales también han utilizado herramientas de IA para crear videos que muestran la fabricación de misiles dentro de cuevas y otras escenas exageradas de daños. Además, redes pro-régimen en X han circulado publicaciones generadas por IA antisemitas que muestran a judíos ortodoxos liderando a soldados estadounidenses a la guerra y celebrando bajas estadounidenses. Un video viral que muestra a una fila de niñas caminando junto al ex presidente Donald Trump en ropa interior alcanzó millones de visitas antes de ser eliminado.

Medidas parciales de X

En respuesta al aumento de medios de combate generados por IA, X anunció una política de desmonetización temporal para cuentas con sellos de verificación azules que publiquen dichos videos sin etiqueta. La plataforma no ha revelado cuántas cuentas han sido afectadas. Servicios premium que otorgan sellos de verificación azules han sido comprados por algunos funcionarios iraníes, lo que proporciona una mayor participación y posibles ganancias por publicaciones.

Desinformación no IA continuada

Las narrativas falsas tradicionales persisten junto con las falsificaciones de IA. Por ejemplo, se ha reutilizado footage de otros lugares del conflicto para afirmar que Irán lanzó el misil que impactó una escuela primaria en Minab, a pesar de la verificación de que un misil de crucero Tomahawk estadounidense impactó una base naval cercana. Esto ilustra la mezcla de desinformación generada por IA y convencional que circula en X.

Llamadas a una regulación más fuerte

Expertos advierten que la facilidad para crear contenido generado por IA con pocas consecuencias amenaza el discurso factual. El Instituto de Diálogo Estratégico destacó el uso de IA para impulsar narrativas abiertamente antisemitas, mientras que los analistas señalaron que las herramientas de detección son inconsistentes. La Junta de Supervisión de Meta criticó el enfoque de etiquetado de la empresa como insuficiente para la velocidad y el alcance de la desinformación impulsada por IA, especialmente durante las crisis. Los investigadores argumentan que sin una regulación robusta, la difusión de noticias falsas basadas en IA podría erosionar un mundo basado en hechos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas