Contexto

Um tiroteio em massa em uma escola de ensino médio canadense trouxe escrutínio para o papel das plataformas de inteligência artificial na identificação de potenciais ameaças. A OpenAI identificou a atividade do suspeito em seu serviço de chatbot, mas não notificou a polícia, levantando preocupações entre os funcionários sobre lacunas na segurança e coordenação de segurança pública.

Ação do Governo

O ministro canadense de inteligência artificial, Evan Solomon, se reuniu diretamente com o CEO da OpenAI, Sam Altman. Durante uma reunião virtual, Solomon "pediu que a OpenAI tomasse várias ações, que Altman concordou em fazer". As demandas do governo se concentram em protocolos de segurança mais fortes que envolvem notificações imediatas à polícia quando os usuários exibem comportamento potencialmente violento.

Resposta da OpenAI

A OpenAI se comprometeu a incorporar especialistas canadenses em privacidade, saúde mental e aplicação da lei em seu processo de revisão para casos de alto risco envolvendo usuários canadenses. A empresa também se comprometeu a produzir um relatório detalhando os novos protocolos e a aplicá-los retroativamente, revisando incidentes suspeitos anteriores e compartilhando dados relevantes com as autoridades quando apropriado.

Medidas Anteriores

Este acordo se baseia em medidas anteriores anunciadas pela vice-presidente de política global da OpenAI, Ann O’Leary, que indicou que a empresa ajustaria seus sistemas de detecção para melhor prevenir que usuários banidos retornassem à plataforma. Os compromissos recentes visam fechar a lacuna que permitiu que a conta do atirador original fosse suspensa, mas posteriormente recriada.

Implicações e Próximos Passos

O novo quadro de segurança é esperado para estabelecer um precedente para como os provedores de IA colaboram com as autoridades nacionais em questões de segurança pública. Embora a OpenAI não tenha confirmado se os protocolos serão exclusivos do Canadá, o governo planeja monitorar a implementação e avaliar a eficácia das medidas para prevenir incidentes futuros.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas