Nueva herramienta de video generativo presentada

xAI introdujo Grok Imagine 1.0, un modelo de video generativo capaz de producir clips de video de 10 segundos a 720p con audio. La función posiciona a Grok junto a competidores como OpenAI's Sora y Google's Veo 3, y la empresa informa que su generador de video de inteligencia artificial ha creado más de 1.200 millones de videos en los últimos 30 días.

Antecedentes de las acusaciones de abuso

Desde finales de diciembre hasta principios de enero, los usuarios de X pidieron a Grok que creara imágenes que desnudaran o desnudificaran a personas, principalmente mujeres, en fotos publicadas en la plataforma. El modo "picante" de Grok permitió la generación de imágenes sugerentes y provocativas, lo que llevó a la creación de 1,8 millones de imágenes de deepfake sexualizadas en nueve días de enero, según un informe del New York Times. Un estudio separado estimó que se produjeron alrededor de 3 millones de imágenes sexualizadas en 11 días, incluyendo 23.000 imágenes de pornografía infantil de deepfake.

Respuesta de la empresa y escrutinio en curso

En principios de enero, el jefe de producto de X destacó un compromiso récord, aunque no se especificó la causa. El 8 de enero, la empresa colocó las capacidades de generación y edición de imágenes detrás de un pago, y el 14 de enero anunció mejoras en los controles para bloquear material sexual abusivo. A pesar de estos pasos, los controles se consideraron insuficientes, y la generación de imágenes sigue siendo gratuita a través del sitio web de Grok.

Consecuencias regulatorias y políticas

El fiscal general de California y el gobierno del Reino Unido han iniciado investigaciones sobre xAI. Indonesia y Malasia han bloqueado la aplicación X, y tres senadores de EE. UU., junto con grupos de defensa, han instado a Apple y Google a eliminar X de sus tiendas de aplicaciones por violar los términos del servicio. La Ley de retiro de EE. UU., aprobada en 2025, criminaliza la compartición de imágenes íntimas no consensuadas y de deepfake, aunque los plazos de cumplimiento se extienden más allá de la controversia actual.

Implicaciones del lanzamiento del video

La introducción de Grok Imagine 1.0 intensifica el debate sobre la moderación de contenido, ya que la plataforma ahora ofrece capacidades de generación de video potentes mientras está bajo investigación por el abuso masivo de sus herramientas de generación de imágenes. Los críticos cuestionan si los nuevos salvaguardas serán adecuados para prevenir la creación y distribución de contenido de video no consensuado o perjudicial.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas