Antecedentes

Las autoridades europeas han intensificado la vigilancia de las plataformas de redes sociales y las herramientas de inteligencia artificial generativa después de preocupaciones de que puedan facilitar la difusión de contenido ilegal o perjudicial. La Ley de Servicios Digitales obliga a las grandes empresas tecnológicas a mitigar la distribución de dicho material, mientras que el Reglamento General de Protección de Datos (RGPD) requiere un manejo estricto de los datos personales, especialmente para características de alto riesgo.

Investigación de la Unión Europea sobre xAI

La Unión Europea ha abierto una investigación formal sobre xAI, la subsidiaria de inteligencia artificial propiedad de Elon Musk, alegando que su modelo de lenguaje Grok genera imágenes sexualizadas de mujeres y niños. La investigación, anunciada el lunes, examinará si el contenido viola la Ley de Servicios Digitales y si X, la plataforma más amplia, ha incumplido las disposiciones del RGPD que exigen fines legítimos para el procesamiento de datos personales, privacidad por diseño en el desarrollo de productos y evaluaciones de riesgos previas al lanzamiento para características de alto riesgo.

Acciones legales relacionadas

Al comienzo del mes, los investigadores franceses y europeos allanaron las oficinas de X en París como parte de una investigación más amplia sobre los algoritmos de la empresa y la difusión de material de abuso sexual generado por inteligencia artificial. Los fiscales franceses han citado a Elon Musk y a la ex directora ejecutiva Linda Yaccarino para entrevistas voluntarias en París en abril. La Oficina del Comisionado de Información del Reino Unido también anunció una nueva investigación sobre X y xAI, expresando serias preocupaciones sobre el uso de datos personales por parte de Grok y su potencial para crear contenido sexualizado perjudicial y videos.

Respuesta de la empresa

X ha respondido calificando las alegaciones de "infundadas" y describiendo los allanamientos franceses como "un acto abusivo de teatro policial diseñado para lograr objetivos políticos ilegítimos". La empresa sostiene que elimina el material de abuso sexual infantil y la nudez no consensuada, y ha implementado medidas tecnológicas el mes pasado para limitar a Grok a generar ciertas imágenes explícitas, después de la presión de los gobiernos de todo el mundo, incluidas las amenazas de multas y prohibiciones en la Unión Europea, el Reino Unido y Francia.

Turbulencia interna

Las investigaciones llegan en un período turbulento para X. Decenas de empleados abandonaron la empresa la semana pasada, incluidos dos cofundadores. Musk les dijo a los empleados en una reunión de todos los empleados que el grupo sería reestructurado después de su fusión con SpaceX.

Implicaciones

El resultado de la investigación de la Unión Europea podría tener repercusiones significativas en la forma en que se despliegan los modelos de inteligencia artificial en las grandes plataformas, lo que podría llevar a requisitos de cumplimiento más estrictos, multas más altas o cambios operativos para prevenir la creación y difusión de contenido ilegal. Las investigaciones simultáneas en Francia y el Reino Unido subrayan un esfuerzo regulatorio coordinado para abordar los riesgos que plantean las tecnologías de inteligencia artificial generativa.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas