¿Qué es la basura de IA?

La basura de IA se refiere a la gran cantidad de texto, imágenes y videos producidos por la inteligencia artificial generativa que son de baja calidad, repetitivos y a menudo inexactos. Estos contenidos inundan los motores de búsqueda, las plataformas sociales y incluso las revistas académicas, desplazando el contenido creado por humanos. El término captura la idea de que el contenido es una "imitación de baja calidad" que puede contener hechos falsos, visuales poco realistas y videos mal editados.

Los creadores se defienden

La influyente pastelera Rosanna Pansino, conocida por sus creativos videos de comida, lanzó una serie que enfrenta sus habilidades de pastelería del mundo real contra los videos "basura" generados por IA. Ella recrea escenas de comida hechas por IA, como anillos de gominola ácida untados en tostadas, utilizando mantequilla, colorantes alimentarios y moldes personalizados, y luego publica comparaciones lado a lado. Su audiencia de millones se ha unido a la causa, viéndola como una divertida forma de oponerse a la sobrecarga de contenido impulsada por IA.

Otros creadores, como el productor de video Jeremy Carrasco, utilizan su expertise técnica para detectar artefactos de IA, como cortes bruscos, errores de continuidad y iluminación poco realista, para educar a sus seguidores sobre cómo reconocer la basura.

Respuestas de las plataformas y soluciones técnicas

Las redes sociales están experimentando con la etiquetado y el marcado de agua para identificar los medios generados por IA. Los marcas de agua incorporan señalesales invisibles en los metadatos de los medios, mientras que la etiquetado requiere que los creadores revelen el uso de IA. La Coalición para la Proveniencia y Autenticidad del Contenido (C2PA) trabaja para estandarizar estas señales, aunque no todos los modelos de IA las admiten, lo que lleva a la inconsistencia.

Investigadores de la Universidad de Cornell han demostrado un método de "iluminación codificada con ruido" que incorpora marcas de agua en la luz, lo que permite que cualquier cámara que grabe la escena capture la señal oculta. Esto podría proteger los eventos en vivo de la manipulación de deepfakes, aunque la tecnología no está disponible comercialmente.

Impacto en la publicación y la academia

La basura de IA ha infiltrado la publicación académica, con servidores de preimpresión como arXiv que ven un rápido aumento en las presentaciones que incluyen texto y imágenes generados por IA. Los editores confían en revisores voluntarios y herramientas de detección automatizadas, pero el volumen es "preocupadoramente más rápido". Algunos investigadores han construido herramientas de IA que se entrenan en artículos retractados para detectar patrones típicos de manuscritos generados por IA, ofreciendo una especie de filtro de spam científico.

Deepfakes y usos perjudiciales

La tecnología de deepfakes, que antes era costosa y limitada, ahora es ampliamente accesible a través de modelos de IA, lo que permite la creación de videos y imágenes falsas pero realistas. Casos de alto perfil incluyen imágenes íntimas no consensuadas generadas por herramientas como xAI\'s Grok, lo que resultó en millones de imágenes sexualizadas, algunas involucrando menores. La legislación existente, como la Ley de Eliminación de 2025, criminaliza este tipo de contenido, pero proporciona mecanismos de aplicación limitados.

Paisaje regulatorio

Las acciones a nivel estatal, como la Ley de Transparencia de IA de California, los límites de terapia de IA de Illinois y las reglas antidiscriminatorias de Colorado, crean un mosaico de regulaciones. Los esfuerzos federales siguen fragmentados, con el Departamento de Justicia formando una fuerza task para abordar la legislación estatal, mientras que el Plan de Acción de IA de la administración enfatiza la reducción de la regulación para fomentar la innovación.

Plataformas alternativas y el futuro de Internet

Nuevas aplicaciones sociales libres de IA, como DiVine, buscan proporcionar espacios donde el contenido sea verificado como creado por humanos, utilizando modos de prueba basados en C2PA y denuncias de la comunidad. Si bien estas plataformas ofrecen una visión de una Internet con menos basura, las redes principales, como Meta, Google, X, siguen incorporando funciones de IA en sus servicios, lo que crea un conflicto de intereses que obstaculiza la mitigación generalizada.

Conclusión

El aumento de la basura de IA desafía el propósito original de Internet de conectar a las personas a través de contenido auténtico. Los creadores, tecnólogos y formuladores de políticas están experimentando con herramientas de detección, estándares de etiquetado y plataformas alternativas, pero la batalla sigue siendo cuesta arriba. Mantener la creatividad humana y la confianza en línea requerirá un esfuerzo coordinado en todo el ecosistema.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas