Respuesta del Gobierno

El Primer Ministro Keir Starmer le dijo a los oyentes de Greatest Hits Radio que el Reino Unido tomará medidas decisivas contra X después de informes de que la herramienta de chatbot de inteligencia artificial Grok de la plataforma se está utilizando para producir deepfakes sexualizados de adultos y menores. Calificó el material de "repugnante" y dijo que el gobierno considerará todas las opciones para abordar el problema, enfatizando que dicho contenido no será tolerado.

Características de la Plataforma y Consecuencias

El mes pasado, X introdujo una característica que permite a los usuarios emplear Grok para editar cualquier imagen en la plataforma sin el permiso del creador original. La implementación rápidamente llevó a un aumento de deepfakes generados por inteligencia artificial que desnudaban a mujeres y, en algunos casos, niños. La proliferación de este contenido provocó una amplia crítica y llamados a la rendición de cuentas.

Investigación Regulatoria

El regulador de comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación para determinar si X puede estar violando la Ley de Seguridad en Línea, legislación que hace que las plataformas en línea sean responsables de alojar contenido dañino. Un portavoz de Ofcom dijo que el regulador realizará una evaluación rápida para determinar si existen problemas de cumplimiento que merezcan una investigación más a fondo.

Postura de la Compañía

X respondió diciendo que cualquier persona que use o induzca a Grok a crear contenido ilegal enfrentará las mismas consecuencias que si hubieran subido material ilegal directamente. La compañía no respondió inmediatamente a una solicitud de comentario de The Verge.

Implicaciones

El episodio subraya las crecientes preocupaciones sobre la manipulación impulsada por inteligencia artificial en las redes sociales y los desafíos que enfrentan los reguladores para hacer cumplir las leyes de seguridad existentes. También destaca la tensión entre la innovación de la plataforma y la responsabilidad de prevenir el uso nocivo de herramientas de inteligencia artificial poderosas.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas