Coalición exige acción inmediata

Una coalición de veintiocho grupos de defensa, entre ellos el grupo de defensa de mujeres UltraViolet, la Organización Nacional de Mujeres, Women\'s March, MoveOn y Friends of the Earth, ha emitido cartas abiertas a los CEOs de Apple y Google. Las cartas exigen que las empresas retiren rápidamente la aplicación Grok de X y la integración de Grok dentro de la plataforma X de las tiendas de aplicaciones respectivas.

Los grupos afirman que Grok se utiliza para generar grandes cantidades de imágenes íntimas no consensuales, conocidas como NCII, así como material de abuso sexual infantil (CSAM). Señalan que dicho contenido es tanto un delito como una violación directa de las pautas de revisión de aplicaciones de Apple, que prohíben la distribución de imágenes sexuales ilícitas.

Violación de las políticas de la plataforma

Según la coalición, la presencia de Grok en la tienda de aplicaciones de Apple y la tienda de Google Play va en contra de las políticas declaradas de las empresas contra el contenido dañino. Los grupos de defensa señalan que la decisión de X de limitar las capacidades de generación y edición de imágenes de Grok a suscriptores pagos no aborda el problema subyacente. En su lugar, argumentan que simplemente "monetiza el contenido abusivo de NCII en X" sin proporcionar una salvaguarda efectiva.

Las cartas describen una "orgía masiva de \'desnudar digitalmente en masa\' a mujeres y menores" que ocurre en X, atribuyendo el aumento a la fácil accesibilidad de Grok. La coalición enfatiza que los grupos de la sociedad civil han estado advirtiendo sobre el potencial de abuso de Grok desde su lanzamiento, y ven la situación actual como una continuación de ese riesgo.

Campaña "Quitar Grok"

El esfuerzo de defensa es parte de una iniciativa más amplia titulada "Quitar Grok". La campaña coincide con el lanzamiento de la iniciativa "Reclamar el dominio" de UltraViolet, que busca combatir la creación y distribución no consensuales de imágenes íntimas en plataformas digitales.

En las cartas, los grupos exigen a la dirección de Apple que "retire inmediatamente el acceso a ambas aplicaciones", enfatizando que la disponibilidad continua permite la proliferación de material ilegal y dañino. Hacen un llamado paralelo a Google, utilizando un lenguaje casi idéntico para urgir la retirada de Grok de la tienda de Google Play.

Respuesta de la industria y el público

Las demandas de la coalición ejercen presión sobre Apple y Google para que hagan cumplir sus propias políticas de contenido de manera más rigurosa. Al destacar las supuestas violaciones y el daño continuo, los grupos buscan compelir a los gigantes tecnológicos a actuar decisivamente contra el mal uso de la imaginería generada por IA en X.

Mientras que las cartas no detallan acciones legales específicas, señalan una disposición a continuar la defensa pública y a movilizar más apoyo si las plataformas no responden prontamente. El enfoque coordinado de la coalición subraya una creciente preocupación entre la sociedad civil sobre la intersección de la inteligencia artificial, la privacidad digital y la explotación sexual.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas