Resumen del incidente

El director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA), Madhu Gottumukkala, subió involuntariamente documentos designados como "para uso oficial solo" a la versión pública de ChatGPT el verano pasado. Según cuatro funcionarios del Departamento de Seguridad Nacional con conocimiento del incidente, las subidas activaron múltiples alertas de seguridad internas diseñadas para detener el robo o la divulgación no intencional de material gubernamental de las redes federales.

Acceso restringido a la inteligencia artificial y política

Gottumukkala solicitó permiso especial para utilizar el chatbot de OpenAI, una herramienta que la mayoría del personal de DHS está bloqueado para acceder. En cambio, el personal de DHS suele confiar en aplicaciones impulsadas por inteligencia artificial aprobadas, como el DHSChat de la agencia, que están configuradas para evitar que las consultas o documentos salgan de las redes federales. La solicitud de acceso y el posterior mal uso generaron preocupación entre los funcionarios de que el director "obligó a CISA a darle ChatGPT, y luego lo abusó".

Naturaleza de la información filtrada

El material subido no estaba clasificado pero llevaba una etiqueta de "para uso oficial solo", una designación utilizada dentro de DHS para identificar información no clasificada de naturaleza sensible. Si se comparte sin autorización, dicha información podría afectar adversamente la privacidad o el bienestar de una persona y podría obstaculizar programas esenciales para el interés nacional.

Exposición potencial y riesgos

Debido a que ChatGPT es un servicio público con aproximadamente 700 millones de usuarios activos, existe preocupación de que los datos subidos puedan ser accesados o utilizados para responder a solicitudes de cualquiera de esos usuarios. Los expertos han advertido que el uso de herramientas de inteligencia artificial públicas conlleva riesgos reales, ya que los datos subidos pueden ser retenidos, violados o incorporados en respuestas para otros usuarios.

Investigación y posibles consecuencias

DHS ha iniciado una investigación para evaluar si el incidente dañó la seguridad gubernamental. Los funcionarios indicaron que la investigación podría llevar a medidas administrativas o disciplinarias que van desde una advertencia formal y capacitación obligatoria hasta la suspensión o revocación de una autorización de seguridad. OpenAI no respondió a las solicitudes de comentarios.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas