Auge de la IA en el contenido de Reddit

Desde la liberación pública de grandes modelos de lenguaje, Reddit ha experimentado un notable aumento en publicaciones que parecen ser creadas o editadas pesadamente por inteligencia artificial. Los moderadores voluntarios en subreddits importantes, especialmente aquellos centrados en conflictos personales, han observado que una porción sustancial de nuevas presentaciones exhiben características de texto generado por IA. Las comunidades que prohíben explícitamente el contenido de IA están viendo más colas de moderación llenas de publicaciones sospechosas de IA.

Lucha de los moderadores

Los moderadores de larga data describen la situación como una nueva capa de trabajo agotadora. Identificar las presentaciones generadas por IA a menudo requiere una revisión manual, lo que ralentiza el proceso de revisión y desvía la atención de otras tareas de moderación. Algunos moderadores señalan que la facilidad de usar herramientas de IA para reescribir o embellecer las publicaciones ha llevado a la percepción de que muchas contribuciones pueden ser inauténticas, lo que fomenta la desconfianza entre los usuarios.

Desafíos de detección

Actualmente, no existen métodos infalibles para confirmar si una publicación fue generada por IA. Los moderadores confían en señales informales como la repetición de frases, la gramática perfecta en contraste con el estilo de escritura anterior de un usuario, o un formato inusual. Los investigadores reconocen que estas heurísticas son imperfectas, y a medida que la salida de IA se vuelve más sofisticada, distinguirla de la escritura humana se vuelve cada vez más difícil.

Acoso y desinformación

Además del spam genérico, las publicaciones creadas por IA se han utilizado para crear contenido inflamatorio dirigido a grupos marginados. Los moderadores han informado de una oleada de presentaciones anti-trans y otras llenas de odio que parecen haber sido diseñadas para provocar indignación. Tácticas similares se emplean en subreddits políticos, donde la IA puede amplificar campañas de desinformación con mínimo esfuerzo.

Monetizando el karma

El sistema de recompensas de Reddit, que incluye votos positivos y premios comprables, presenta un incentivo para que los usuarios generen contenido de alta participación. Algunas personas están utilizando la IA para producir publicaciones que acumulan rápidamente karma, lo que luego se puede monetizar a través de programas de la plataforma o vendiendo cuentas. Esta práctica también se extiende a utilizar el karma ganado para acceder a comunidades restringidas donde se realiza actividad promocional adicional.

Impacto en la confianza de la comunidad

La prevalencia de contenido sospechoso de IA ha contribuido a un sentido de escepticismo entre los usuarios de Reddit. Los usuarios informan que pasan menos tiempo en la plataforma porque no están seguros de si las interacciones son genuinas. Los moderadores advierten que la continua afluencia de material generado por IA amenaza la reputación del sitio como un espacio para la conversación humana auténtica.

Respuesta de Reddit

Los funcionarios de Reddit reafirman el compromiso de la plataforma para preservar la interacción humana y esbozan políticas que prohíben el comportamiento manipulador, incluido el uso no divulgado de IA que viola las reglas de la comunidad. Sin embargo, la empresa reconoce que el volumen de publicaciones generadas por IA presenta un desafío continuo para la aplicación y la salud de la comunidad.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas