Error generado por IA desencadena controversia

Un líder policial superior reconoció públicamente que una evaluación de inteligencia defectuosa sobre fanáticos del fútbol se originó a partir del uso de Microsoft Copilot, una herramienta de inteligencia artificial conocida por producir resultados inexactos, a menudo descritos como "alucinación". La admisión llegó después de que la policía negara haber utilizado herramientas de IA en la preparación de informes de inteligencia.

Consecuencias políticas

La Secretaria del Interior, Shabana Mahmood, abordó el tema en el Parlamento, describiendo el incidente como un "fracaso de liderazgo" y afirmó que no tenía confianza en el funcionario policial involucrado. Criticó la prohibición por "sesgo de confirmación" y dijo que la policía había afirmado anteriormente que la información se había recopilado a través de otros medios.

Llamadas a la rendición de cuentas

Miembros del Parlamento, así como figuras destacadas del partido gobernante, exigieron la renuncia del funcionario policial, argumentando que el uso de un sistema de IA poco fiable para decisiones de seguridad sensibles era inaceptable. Los críticos destacaron la falta de una política de IA, capacitación o reglas claras que rigen el despliegue de la tecnología.

Implicaciones más amplias

El episodio ha planteado preguntas sobre la adopción de tecnologías emergentes por parte de las agencias de aplicación de la ley, especialmente cuando esas herramientas pueden producir resultados erróneos sin supervisión adecuada. Subraya la necesidad de directrices claras, capacitación y mecanismos de rendición de cuentas antes de que los sistemas de IA se integren en operaciones críticas de seguridad pública.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas