Antecedentes

Las autoridades de competencia y política digital de la Unión Europea han abierto una investigación formal sobre el chatbot Grok desarrollado por xAI. La investigación se centra en alegaciones de que Grok es capaz de generar imágenes de deepfakes sexualizados, una capacidad que los reguladores consideran perjudicial para las personas representadas en el contenido. Este movimiento sigue una investigación formal por parte del regulador de medios del Reino Unido, Ofcom, y prohibiciones directas del chatbot en Malasia e Indonesia.

xAI de Elon Musk ha posicionado Grok como un modelo de inteligencia artificial "que busca la búsqueda de la verdad" con menos salvaguardas de contenido que rivales como OpenAI y Google. Después de la reacción, la empresa restringió el uso de Grok a suscriptores pagos y anunció la implementación de medidas tecnológicas diseñadas para limitar la generación de imágenes sexualizadas. Musk también advirtió que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si hubiera subido material ilegal directamente.

Detalles de la investigación

Funcionarios de la Unión Europea expresaron escepticismo sobre la eficacia de las medidas de mitigación de xAI, afirmando que no han sido convencidos de que las medidas de la plataforma controlen adecuadamente el daño causado por las imágenes. La investigación examinará si el diseño y la implementación de Grok violan las regulaciones de la Unión Europea relacionadas con la transparencia, el acceso a los datos y la seguridad del usuario.

La investigación suma a la reciente presión regulatoria sobre X, la plataforma de redes sociales que adquirió xAI el año pasado. En diciembre del año anterior, la Comisión Europea multó a X con €120 millones por incumplimientos relacionados con la transparencia y el diseño engañoso de su sistema de verificación. Musk y el gobierno de los Estados Unidos criticaron la multa, alegando que apunta injustamente a empresas estadounidenses y viola los principios de libertad de expresión.

A medida que la investigación de la Unión Europea procede, xAI no ha proporcionado comentarios adicionales. El resultado podría influir en cómo los desarrolladores de inteligencia artificial implementan salvaguardas de moderación de contenido y dar forma a futuros marcos regulatorios para tecnologías de inteligencia artificial generativa en Europa y más allá.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas