La Casa Blanca ha rechazado formalmente la solicitud de Anthropic para ampliar la implementación de Mythos, el modelo de inteligencia artificial de ciberseguridad avanzada de la empresa, a unas 70 organizaciones adicionales. Los funcionarios citaron dos preocupaciones principales: el riesgo de que el modelo pueda ser utilizado para ataques cibernéticos maliciosos y la capacidad computacional limitada de Anthropic, que podría sobrecargar el uso del sistema por parte del gobierno.

Mythos, presentado a principios de abril bajo el Proyecto Glasswing de Anthropic, puede ubicar y explotar autonomamente vulnerabilidades en una amplia gama de software crítico. Anthropic ha mantenido el modelo bajo control estricto, permitiendo que un grupo selecto de unas 50 organizaciones lo pruebe en sus propias redes. El plan de expansión de la empresa aumentaría más del doble ese grupo a unas 120 entidades.

Según una fuente senior de la administración, la objeción de la Casa Blanca se basa en razones de seguridad y operativas. Los funcionarios temen que una base de usuarios más grande pueda aumentar la posibilidad de que el modelo caiga en manos de actores que intenten utilizar sus capacidades para fines maliciosos. Al mismo tiempo, argumentan que Anthropic no posee suficientes recursos computacionales para servir a un conjunto expandido de usuarios sin degradar el rendimiento para los clientes gubernamentales existentes, en particular la Agencia de Seguridad Nacional, que ya utiliza Mythos.

Acceso no autorizado desencadena alarma

Lo que agrava las preocupaciones de la Casa Blanca es que un pequeño grupo de usuarios no autenticados supuestamente obtuvo acceso a Mythos en un foro en línea privado el mismo día en que Anthropic anunció su plan de lanzamiento limitado. Los detalles del incidente de seguridad siguen siendo poco claros, pero el episodio destacó la dificultad de contener un modelo diseñado para operar de forma autónoma en entornos hostiles. El incidente ha amplificado la ansiedad del gobierno sobre cualquier expansión adicional de la base de usuarios.

Las capacidades de Mythos están bien documentadas. En las pruebas, el modelo descubrió de forma autónoma miles de vulnerabilidades de día cero en sistemas operativos y navegadores principales, logró el 73% de las tareas de captura de banderas de nivel experto y se convirtió en el primer modelo de inteligencia artificial en completar un ataque simulado de red corporativa de 32 pasos desde el principio hasta el final. Esos resultados subrayan por qué el gobierno de los Estados Unidos considera el modelo como un activo estratégico y una posible amenaza de seguridad.

La disputa se desarrolla en medio de una guerra de políticas más amplia. A principios de este año, el Pentágono etiquetó a Anthropic como un riesgo para la cadena de suministro de la seguridad nacional después de que las negociaciones se estancaran sobre si el ejército podría implementar el modelo Claude de Anthropic para armas autónomas y vigilancia masiva, usos que el CEO de la empresa, Dario Amodei, ha descartado públicamente. Al mismo tiempo, la Casa Blanca está redactando una acción ejecutiva que permitiría a las agencias sortear la designación del Pentágono e integrar los modelos de Anthropic, incluido Mythos, en las operaciones federales.

La jefa de personal de la Casa Blanca, Susie Wiles, y el secretario del Tesoro, Scott Bessent, se reunieron con Amodei en las últimas semanas, describiendo la discusión como productiva. La administración dice que está tratando de equilibrar la innovación con la seguridad mientras trabaja con el sector privado, pero las vías contrastantes, bloqueando la expansión comercial de Mythos mientras corteja a la empresa para su uso gubernamental, siguen sin resolverse.

El resultado de estas negociaciones dará forma a la estrategia de implementación de Anthropic y sentará un precedente para cómo los Estados Unidos regulan los sistemas de inteligencia artificial capaces de operaciones cibernéticas ofensivas. Por ahora, los planes de expansión de la empresa están en espera, y el debate sobre la gobernanza de la inteligencia artificial en el ámbito de la seguridad nacional se intensifica.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas