Antecedentes y cambios recientes

La Unión Europea está revisando su propuesta de 'Control de Chat', que busca combatir la distribución de contenido sexual ilegal en línea. Después de que intentos anteriores no lograron obtener una mayoría, los legisladores alteraron la legislación haciendo que el escaneo de contenido en el dispositivo, previamente obligatorio, sea voluntario. Este cambio se presentó inicialmente como un compromiso que podría romper un estancamiento de tres años en las negociaciones.

Ampliación del alcance de la detección

A pesar del cambio a un escaneo voluntario, el proyecto de ley revisado amplía el rango de material que podría ser examinado. Originalmente limitado a URLs, imágenes y videos, la legislación ahora también tiene como objetivo los mensajes de texto. Los académicos advierten que esta expansión 'abre la puerta a vigilar y examinar una parte más grande de las conversaciones' sin beneficios demostrables para la protección de los niños.

Dependencia de la tecnología de inteligencia artificial

La propuesta depende de herramientas de inteligencia artificial para identificar contenido prohibido. Los investigadores advierten que los sistemas de inteligencia artificial actuales carecen de la precisión necesaria para una detección confiable, lo que aumenta la probabilidad de resultados falsos positivos. Argumentan que la tecnología 'está lejos de ser lo suficientemente precisa como para realizar estas tareas con las garantías necesarias para el nivel de precisión requerido'.

Medidas de verificación de edad

Un otro elemento controvertido es la introducción de mecanismos de verificación de edad en tiendas de aplicaciones y plataformas de mensajería encriptada como WhatsApp. Los expertos sostienen que los métodos existentes no pueden verificar la edad de manera que preserve la privacidad porque dependen de datos biométricos, de comportamiento o contextuales, lo que podría llevar a una mayor recopilación de datos sobre menores. También señalan que tales medidas podrían ser fácilmente sorteadas utilizando VPN o servicios fuera de la UE.

Riesgos y críticas potenciales

La coalición académica enfatiza varios riesgos asociados con el proyecto de ley:

• Vigilancia ampliada de las comunicaciones privadas.
• Falta de precisión en la inteligencia artificial que conduce a una señalización incorrecta de contenido.
• Nuevas vulnerabilidades de privacidad y seguridad debido a la verificación de edad obligatoria.
• Potencial exclusión de usuarios que no pueden proporcionar documentos oficiales para probar su edad.

Concluyen que las tecnologías de detección en el dispositivo, ya sean obligatorias o voluntarias, 'no pueden considerarse una herramienta razonable para mitigar los riesgos' dado la falta de beneficio demostrado y el alto potencial de abuso.

Perspectiva

La carta abierta al Consejo Europeo subraya una creciente inquietud entre los expertos en privacidad sobre la dirección de la legislación. Aunque el cambio a un escaneo voluntario puede haber aliviado las tensiones políticas, los académicos argumentan que las preocupaciones fundamentales — exceso de autoridad, inexactitud y intrusión en la privacidad — siguen sin resolverse, lo que genera dudas sobre la efectividad del proyecto de ley para salvaguardar a los niños sin infringir los derechos digitales fundamentales.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas