Antecedentes

Desde principios de 2024, las ofertas de inteligencia artificial de Musk, incluido el chatbot Grok construido por xAI, han enfrentado escrutinio por permitir la creación de imágenes íntimas no consensuadas, videos explícitos y representaciones sexualizadas de menores. Críticos de Estados Unidos, Europa, Asia y Australia han iniciado investigaciones o emitido condenas, citando preocupaciones sobre privacidad, consentimiento y seguridad infantil.

Nuevas restricciones en X

En respuesta, X anunció un conjunto de medidas tecnológicas destinadas a evitar que Grok edite imágenes de personas reales en trajes de baño, ropa interior u otros atuendos reveladores. La política se aplica a todos los usuarios de la plataforma X, independientemente de si tienen suscripciones gratuitas o de pago. Además, X introdujo un geobloqueo que restringe la generación de imágenes de personas reales con dicha ropa en jurisdicciones donde es ilegal. La empresa también reiteró su compromiso de eliminar contenido violatorio de alta prioridad, incluyendo material de abuso sexual infantil y desnudez no consensuada.

Hallazgos de los investigadores

A pesar de las salvaguardas anunciadas, múltiples investigaciones independientes han documentado que los servicios independientes de Grok siguen siendo capaces de producir el contenido prohibido. Paul Bouchaud, investigador principal de la organización sin fines de lucro AI Forensics, confirmó que el sitio web y la aplicación móvil de Grok pueden generar nudismo fotorealista de personas reales, una capacidad que parece estar bloqueada solo en la integración con X. Las pruebas realizadas por WIRED, The Verge y Bellingcat en el Reino Unido y Estados Unidos lograron eliminar la ropa de las imágenes de hombres y mujeres sin restricciones aparentes.

Los investigadores señalaron que la aplicación Grok en el Reino Unido solicitó a los usuarios su año de nacimiento antes de generar una imagen de un sujeto masculino, pero la solicitud aún podía ser cumplida. Otros usuarios informaron resultados mixtos en un foro de pornografía, con algunos prompts que produjeron imágenes explícitas después de varios intentos, mientras que otros encontraron una moderación más estricta que impidió la eliminación de la ropa.

Problemas continuos en la plataforma Grok

La persistencia de estas capacidades subraya una brecha entre la moderación aplicada en X y el ecosistema más amplio de los servicios de Grok. Mientras que las cuentas verificadas en X parecen haber perdido la capacidad de generar imágenes de mujeres en trajes de baño, la misma funcionalidad sigue siendo accesible en el sitio web y la aplicación de Grok. Esta discrepancia ha llevado a críticas de los grupos de defensa de las mujeres, que describen la situación como una "monetización del abuso".

Respuestas de Musk y xAI

Musk ha declarado públicamente que Grok, cuando se habilita el modo NSFW, está diseñado para permitir la desnudez de la parte superior del cuerpo de humanos adultos imaginarios, lo que se alinea con los estándares vistos en películas con clasificación R en plataformas como Apple TV. Él enfatizó que las concesiones de contenido pueden variar por país según las leyes locales. Los portavoces de xAI no han proporcionado comentarios sobre las pruebas recientes, mientras que un portavoz de X confirmó que el geobloqueo se aplica a ambos, la aplicación y el sitio web.

Implicaciones y perspectivas

La capacidad continua de los servicios no X de Grok para generar imágenes no consensuadas y sexualizadas plantea preguntas importantes sobre la efectividad de la moderación de contenido específica de la plataforma versus las salvaguardas del ecosistema en general. Los reguladores y los grupos de defensa siguen monitoreando la situación, instando a controles más comprehensivos para prevenir el abuso. A medida que los generadores de imágenes de inteligencia artificial se vuelven cada vez más sofisticados, el desafío de equilibrar el uso creativo con las salvaguardas éticas sigue siendo un punto focal para las empresas de tecnología, los formuladores de políticas y la sociedad civil.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas