Antecedentes

La Comisión Europea anunció una nueva investigación dirigida a X, la plataforma de medios sociales propiedad de Elon Musk, por su manejo de contenido sexual generado por IA. El enfoque está en la herramienta de inteligencia artificial de la plataforma, Grok, que los reguladores dicen puede ser capaz de producir imágenes sexualmente explícitas de individuos, incluyendo menores, que podrían constituir contenido ilegal bajo la ley europea.

Preocupaciones regulatorias

Los funcionarios de la Comisión destacaron que la difusión de deepfakes sexuales representa una "forma violenta e inaceptable de degradación" y que la UE debe determinar si X ha cumplido con sus deberes legales bajo el Acta de Servicios Digitales (DSA). La investigación examinará si X tomó medidas suficientes para reducir el riesgo de difusión de contenido ilegal, particularmente imágenes manipuladas que podrían constituir material de abuso sexual infantil (CSAM).

Potencial aplicación de la ley

La Comisión advirtió que la investigación podría llevar a medidas de aplicación adicionales contra X. Esto sigue a una multa anterior de 120 millones de euros (aproximadamente 140 millones de dólares) impuesta a la plataforma por infracciones anteriores de la DSA, incluyendo problemas relacionados con su algoritmo de recomendación y herramientas de moderación de contenido.

Capacidades de Grok

Según CBS News, Grok aún podía generar imágenes de individuos desnudos en el último cheque, a pesar de la afirmación anterior de X de que la función había sido eliminada para usuarios gratuitos y de pago. Los reguladores ven esto como evidencia de que los riesgos de contenido ilegal se han materializado, exponiendo a los ciudadanos de la UE a un daño grave.

Respuesta de la plataforma

X reiteró su compromiso con la seguridad, afirmando que mantiene una política de tolerancia cero para la explotación sexual infantil, la nudez no consensuada y el contenido sexual no deseado. Un portavoz enfatizó los esfuerzos continuos de la empresa para mantener la plataforma segura para todos los usuarios.

Contexto más amplio

La investigación llega en un momento en que las autoridades europeas están intensificando la vigilancia de las principales empresas de tecnología que operan en la región. Musk había criticado anteriormente a la UE, refiriéndose a ella como "el cuarto Reich" y pidiendo su abolición después de la multa anterior.

Próximos pasos

La Comisión Europea continuará su evaluación del cumplimiento de X con la DSA, centrándose en la implementación de Grok y las estrategias generales de mitigación de riesgos de la plataforma. El resultado podría influir en futuras acciones regulatorias y sentar precedentes para cómo se poliza el contenido generado por IA en línea.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas