Google amplía las contramedidas contra la NCII

Google se está asociando con la organización benéfica del Reino Unido StopNCII para luchar contra la imagen íntima no consensuada (NCII), a menudo referida como revenge porn. En los próximos meses, el gigante de la búsqueda comenzará a utilizar los hash de StopNCII - huellas digitales creadas desde archivos subidos por los usuarios - para bloquear el contenido íntimo no deseado de los individuos en sus resultados de búsqueda.

El sistema de StopNCII funciona permitiendo a los usuarios seleccionar una foto en su dispositivo; la organización luego crea un hash del archivo y sube esa huella digital a su servicio. La foto original nunca sale del dispositivo del usuario, preservando la privacidad. Las plataformas participantes reciben el hash y pueden eliminar o bloquear automáticamente la imagen si se sube en otro lugar.

Google no es la única empresa involucrada. StopNCII ya es socia de Meta, Reddit, Pornhub, OnlyFans, Snap, Microsoft Bing, X y otros servicios, creando una red más amplia de plataformas que pueden reconocer y actuar sobre contenido señalado.

Cómo funciona el sistema de hash

Cuando un usuario crea un hash, la huella digital se sube a StopNCII, que luego la comparte con las plataformas asociadas. Si un infractor intenta subir la misma imagen, la coincidencia de hash puede activar una eliminación o bloqueo automático, incluso antes de que se vuelva visible. El método se limita a imágenes conocidas; no cubre contenido nuevo o generado por IA, grabaciones de audio o chats de texto.

Debido a que el sistema se basa en hash conocidos, las víctimas deben generar primero una huella digital de la imagen íntima que desean proteger. El proceso está diseñado para ser sencillo y preservar la privacidad, asegurando que la imagen en sí nunca se transmita al servicio.

Aunque el enfoque basado en hash agrega una capa valiosa de protección, no es una solución infalible. Solo funciona para imágenes que han sido previamente hash y para plataformas que participan en la red de StopNCII. El contenido subido a sitios no asociados no será bloqueado automáticamente. Además, el sistema no aborda imágenes generadas por IA u otras formas de contenido no consensuado.

Sin embargo, la asociación representa un avance notable en el compromiso de Google para combatir la NCII. Al integrar la tecnología de StopNCII, Google busca reducir la prevalencia de revenge porn en sus servicios y aliviar la carga sobre las víctimas que buscan la eliminación de contenido dañino.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas