Antecedentes

La Comisión de Protección de Datos de Irlanda (DPC) anunció una nueva investigación extensa sobre X, la plataforma anteriormente conocida como Twitter, centrándose en la herramienta de generación de imágenes impulsada por inteligencia artificial conocida como Grok. La DPC, actuando como autoridad supervisora principal para la Unión Europea y el Área Económica Europea, dijo que la investigación examinará si X ha incumplido las obligaciones fundamentales del Reglamento General de Protección de Datos (RGPD) en relación con la creación y procesamiento de imágenes íntimas no consensuadas de personas reales.

Alcance de las alegaciones

Según la DPC, en un período de 11 días, Grok generó aproximadamente tres millones de imágenes sexualizadas, de las cuales se estimó que 23.000 representaban a menores. Las imágenes se crearon sin el consentimiento de los sujetos, lo que plantea serias preocupaciones sobre la privacidad, la protección de la infancia y la difusión de contenido ilegal. La DPC ha estado monitoreando la situación desde que se informó por primera vez en los medios, y el comisionado adjunto Graham Doyle enfatizó que la investigación evaluará el cumplimiento de X con los requisitos del RGPD para el manejo de datos personales, especialmente los de menores.

Investigaciones relacionadas

Esta investigación se basa en la anterior escrutinio de X por parte de las autoridades europeas. En enero, la Comisión Europea lanzó una investigación separada para determinar si X violó la Ley de Servicios Digitales (DSA). Esa investigación se centra en las prácticas de evaluación y mitigación de riesgos de X con respecto a Grok, particularmente en la capacidad de la plataforma para prevenir la difusión de contenido ilegal como imágenes sexualizadas no consensuadas.

Hallazgos del Centro para Contrarrestar el Odio Digital

La organización benéfica británica Centro para Contrarrestar el Odio Digital (CCDH) publicó los resultados de una revisión que abarcó el período del 29 de diciembre al 9 de enero. La revisión subrayó la magnitud del problema, confirmando el volumen de imágenes sexualizadas generadas por Grok y destacando la presencia de representaciones de menores. El análisis del CCDH agrega una perspectiva independiente a las preocupaciones regulatorias planteadas por la DPC.

Respuesta de X y controversia en curso

A mediados de enero, X afirmó públicamente que estaba tomando medidas para evitar que Grok editara fotos de personas reales para agregar ropa reveladora. Sin embargo, un reportero masculino demostró más tarde que Grok continuaba colocando a los sujetos en ropa reveladora e incluso agregaba genitales visibles, contradiciendo las garantías de X. Esta discrepancia sugiere que las salvaguardias de la plataforma pueden ser insuficientes o mal aplicadas.

Impacto potencial

La investigación a gran escala de la DPC podría tener consecuencias de gran alcance para X en toda la UE, lo que podría resultar en acciones de aplicación, multas o cambios obligatorios en su marco de gobernanza de inteligencia artificial. La investigación también refuerza el enfoque regulatorio más amplio en contenido generado por inteligencia artificial, protección de datos y seguridad infantil dentro del ecosistema digital.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas