Resumen del incidente

El director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. (CISA), Madhu Gottumukkala, subió documentos gubernamentales internos marcados como "para uso oficial solo" a la versión pública de ChatGPT. Esta acción activó múltiples advertencias de seguridad automatizadas diseñadas para prevenir el robo o la divulgación involuntaria de archivos gubernamentales de las redes federales.

Excepción para utilizar ChatGPT

Gottumukkala había sido autorizado a utilizar ChatGPT con anterioridad en su cargo como director de CISA, en un momento en que otros empleados estaban prohibidos de acceder a la herramienta. La excepción le permitió interactuar con el modelo de lenguaje grande a pesar de una prohibición departamental más amplia.

Respuesta departamental

Los funcionarios del Departamento de Seguridad Nacional, que supervisa a CISA, comenzaron a evaluar si se había producido algún daño a la seguridad gubernamental como resultado de las subidas. Un portavoz de CISA caracterizó el uso de Gottumukkala del sistema de inteligencia artificial como "de corto plazo y limitado".

Riesgos potenciales

Subir documentos gubernamentales internos no clasificados pero sensibles a una plataforma de inteligencia artificial pública es problemático porque el modelo puede incorporar la información en sus datos de entrenamiento. Esto podría permitir que el contenido se compartiera con otros usuarios del sistema, lo que plantea preocupaciones sobre la divulgación involuntaria de información sensible.

Antecedentes del director

Antes de su nombramiento en CISA, Madhu Gottumukkala se desempeñó como director de información de Dakota del Sur bajo la ex gobernadora Kristi Noem. Después de su traslado a CISA, presuntamente no aprobó una prueba de polígrafo de contrainteligencia, un evento que más tarde fue descrito por Seguridad Nacional como "no autorizado". A raíz del incidente, seis miembros del personal de carrera fueron suspendidos de acceder a información clasificada.

Implicaciones para la política de inteligencia artificial del gobierno

El episodio destaca los desafíos que enfrentan las agencias federales para equilibrar la adopción de herramientas de inteligencia artificial avanzadas con la necesidad de proteger datos sensibles. Subraya la importancia de políticas claras y mecanismos de aplicación estrictos para prevenir ocurrencias similares en el futuro.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas