Sistema de Segurança de IA Confunde Pacote de Doritos com Arma em Escola de Ensino Médio em Maryland
Visão Geral do Incidente
Um estudante da Kenwood High School no condado de Baltimore, Maryland, foi supostamente algemado e revistado após um sistema de detecção de armas alimentado por IA ter identificado seu pacote de Doritos como uma possível arma de fogo. O estudante, identificado como Taki Allen, disse que foi obrigado a ajoelhar, colocar as mãos atrás das costas e foi algemado.
Resposta da Escola
A diretora Katie Smith disse que o departamento de segurança da escola revisou e cancelou o alerta de detecção de armas. No entanto, o cancelamento do alerta não foi imediatamente reconhecido, levando o oficial de recursos da escola a envolver a polícia local. A declaração do diretor para os pais notou o cancelamento e as ações subsequentes tomadas.
Reação da Empresa
Omnilert, a empresa que opera o sistema de IA, emitiu uma declaração expressando arrependimento sobre o incidente e preocupação com o estudante e a comunidade. A empresa também afirmou que o processo funcionou como pretendido, apesar do alarme falso.
Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas