Erro Gerado por IA Desencadeia Controvérsia

Um líder policial sênior reconheceu publicamente que uma avaliação de inteligência defeituosa sobre torcedores de futebol originou-se do uso do Microsoft Copilot, um assistente de inteligência artificial conhecido por produzir resultados imprecisos, frequentemente descritos como "alucinações". A admissão veio após a polícia ter negado o uso de ferramentas de IA na preparação de relatórios de inteligência.

Consequências Políticas

A Secretária do Interior, Shabana Mahmood, abordou a questão no Parlamento, descrevendo o incidente como uma "falha de liderança" e afirmando que não tinha mais confiança no oficial de polícia envolvido. Ela culpou a proibição por "viés de confirmação" e disse que a polícia havia afirmado anteriormente que as informações foram coletadas por outros meios.

Chamados à Responsabilização

Membros do Parlamento, bem como figuras seniores do partido no poder, exigiram a renúncia do oficial de polícia, argumentando que o uso de um sistema de IA não confiável para decisões de segurança sensíveis era inaceitável. Críticos destacaram a falta de uma política de IA, treinamento ou regras claras que governem o uso da tecnologia.

Implicações Mais Amplas

O episódio levantou questões sobre a adoção de tecnologias emergentes por agências de aplicação da lei, especialmente quando essas ferramentas podem produzir saídas errôneas sem supervisão adequada. Isso sublinha a necessidade de diretrizes claras, treinamento e mecanismos de responsabilização antes que os sistemas de IA sejam integrados a operações críticas de segurança pública.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas