Anthropic presentó Project Glasswing el martes, reuniendo a una coalición transindustrial para examinar las implicaciones de seguridad de su último modelo de IA, Claude Mythos Preview. El consorcio cuenta con Microsoft, Apple, Google, Amazon Web Services, la Linux Foundation, Cisco, Nvidia, Broadcom y más de 40 organizaciones tecnológicas, de ciberseguridad, de infraestructura crítica y financieras entre sus miembros.

Los participantes recibirán acceso privado y de etapa temprana a Mythos Preview, que Anthropic dice que aún no está programado para una versión general. El modelo, originalmente entrenado para destacar en código, ha demostrado una proficiencia secundaria en tareas de ciberseguridad como el descubrimiento de vulnerabilidades, el desarrollo de exploits, las pruebas de penetración, la evaluación de puntos finales, la búsqueda de malconfiguraciones y el análisis de binarios sin código fuente.

"No lo entrenamos específicamente para ser bueno en ciberseguridad", dijo el CEO de Anthropic, Dario Amodei, en un video de lanzamiento. "Lo entrenamos para ser bueno en código, y como efecto secundario también es bueno en ciberseguridad". La empresa enfatiza que la iniciativa es menos sobre mostrar el modelo y más sobre preparar a la industria para un futuro en el que capacidades similares se vuelvan ampliamente disponibles dentro de meses.

Logan Graham, líder de equipo de red de Anthropic, describió el lanzamiento escalonado como una forma de divulgación coordinada de vulnerabilidades. Al dar a los desarrolladores tiempo para solucionar problemas antes de la discusión pública, el consorcio espera evitar entregar a los atacantes una herramienta poderosa nueva. "Hemos visto que Mythos Preview logra cosas que un investigador de seguridad senior podría lograr", señaló Graham, advirtiendo que la liberación descuidada podría acelerar las tácticas de los atacantes.

La vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, dio la bienvenida al esfuerzo, afirmando que la IA presenta tanto desafíos como oportunidades para la defensa cibernética. El director de seguridad global de Microsoft, Igor Tsyganskiy, repitió el sentimiento, diciendo que la asociación permite a la empresa tecnológica identificar y mitigar el riesgo temprano, aumentando sus soluciones de seguridad para los clientes.

Desde que comenzó la colaboración, Anthropic informa que Mythos Preview ya ha Descubierto miles de vulnerabilidades críticas, incluyendo errores de décadas que han eludido incluso las bases de código más examinadas. Los hallazgos subrayan el potencial del modelo para detectar fallos ocultos a gran escala.

Los organizadores de Project Glasswing enfatizan que el consorcio debe expandirse más allá de un puñado de empresas para ser efectivo. "Lo más importante es determinar las preguntas que necesitan respuestas y luego encontrar esas respuestas", dijo Graham. "Debe crecer hasta convertirse en algo aún más grande".

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas