Visão Geral do Incidente

O diretor interino da Agência de Segurança de Infraestrutura e Cibersegurança dos EUA (CISA), Madhu Gottumukkala, enviou documentos internos do governo marcados como "para uso oficial apenas" para a versão pública do ChatGPT. Essa ação desencadeou vários alertas de segurança automatizados projetados para prevenir o roubo ou a divulgação involuntária de arquivos do governo de redes federais.

Exceção para Usar o ChatGPT

Gottumukkala havia sido concedido uma exceção para usar o ChatGPT anteriormente em sua gestão como diretor da CISA, em um momento em que outros funcionários estavam proibidos de acessar a ferramenta. A exceção permitiu que ele interagisse com o grande modelo de linguagem apesar de uma proibição departamental mais ampla.

Resposta do Departamento

Oficiais do Departamento de Segurança Nacional, que supervisiona a CISA, começaram a avaliar se algum dano havia ocorrido à segurança do governo como resultado dos uploads. Um porta-voz da CISA caracterizou o uso de Gottumukkala do sistema de IA como "de curto prazo e limitado".

Riscos Potenciais

Enviar documentos internos do governo não classificados, mas sensíveis, para uma plataforma de IA pública é problemático porque o modelo pode incorporar as informações em seus dados de treinamento. Isso pode permitir que o conteúdo seja compartilhado com outros usuários do sistema, levantando preocupações sobre a disseminação involuntária de informações sensíveis.

Antecedentes do Diretor

Antes de sua nomeação para a CISA, Madhu Gottumukkala atuou como diretor de informática de Dakota do Sul sob a ex-governadora Kristi Noem. Após sua mudança para a CISA, ele supostamente falhou em um polígrafo de contrainteligência, um evento posteriormente descrito pelo Departamento de Segurança Nacional como "não autorizado". Na sequência do incidente, seis funcionários de carreira foram suspensos de acessar informações classificadas.

Implicações para a Política de IA do Governo

O episódio destaca os desafios que as agências federais enfrentam ao equilibrar a adoção de ferramentas de IA avançadas com a necessidade de proteger dados sensíveis. Ele destaca a importância de políticas claras e mecanismos de aplicação rigorosos para prevenir ocorrências semelhantes no futuro.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas