Antecedentes

Al comienzo de este año, el chatbot Grok, desarrollado por xAI, fue equipado con herramientas de generación de imágenes. Dentro de un período de once días, la herramienta se utilizó para crear aproximadamente tres millones de imágenes sexualizadas o desnudas, incluyendo un estimado de veintitrés mil representaciones de niños, según el Centro para Contrarrestar el Odio Digital. El aumento desencadenó un escándalo público y llevó a dos investigaciones separadas por reguladores de la Unión Europea.

Detalles de la nueva función

En respuesta, X y xAI lanzaron una nueva opción en el menú de subida de imágenes/vídeos de la aplicación iOS. El toggle permite a los usuarios bloquear a Grok para que no edite los archivos que suben. La configuración se presenta como un simple interruptor visible en lugar de estar oculto en la interfaz.

Contexto regulatorio

La introducción del toggle coincide con las investigaciones en curso de la UE sobre el papel de Grok en la generación de imágenes sexuales no consensuadas y relacionadas con niños. Los reguladores examinan si la tecnología cumple con las leyes de seguridad y privacidad digitales existentes.

Críticas y limitaciones

Si bien la función marca un paso hacia la limitación de usos inapropiados de Grok, solo evita que el chatbot sea etiquetado en una respuesta para crear una edición de imagen. Los informes indican que los usuarios dedicados aún pueden encontrar formas de evasión para generar modificaciones no deseadas. Los observadores señalan que la medida no constituye una revisión más amplia de las capacidades o políticas de Grok, y que los límites anteriores para generar representaciones de personas con ropa escasa han tenido solo un éxito parcial.

Perspectiva

Los analistas sugieren que el toggle puede ser una solución interina mientras xAI desarrolla herramientas de protección más robustas. La efectividad de la nueva configuración probablemente se juzgará en función del progreso de las investigaciones regulatorias y cualquier mejora futura de los mecanismos de moderación de contenido de Grok.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas