Anthropic lanzó el Proyecto Glasswing el lunes, posicionando el programa como una respuesta directa a las crecientes preocupaciones de que la inteligencia artificial podría amplificar las amenazas cibernéticas. La empresa trabajará con una lista de líderes de la industria, incluidos Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Fundación Linux, Microsoft, NVIDIA y Palo Alto Networks, para asegurar el software más crítico contra los ataques impulsados por la IA.

En el núcleo del esfuerzo se encuentra Claude Mythos Preview, un modelo general de propósito sin lanzar que, según Anthropic, ya ha descubierto miles de vulnerabilidades. "Hemos encontrado errores explotables en cada sistema operativo y navegador web importante", dijo un representante a los reporteros. Los socios integrarán el modelo en sus propias herramientas de seguridad, con el objetivo de detectar y corregir debilidades antes de que los actores maliciosos puedan aprovecharlas.

Socios del Proyecto Glasswing

La coalición abarca proveedores de servicios en la nube, fabricantes de hardware, empresas de seguridad y instituciones financieras. Amazon Web Services y Microsoft probablemente alojarán las cargas de trabajo de cálculo del modelo, mientras que Apple y NVIDIA contribuirán con experiencia en aceleración de hardware. Los especialistas en seguridad CrowdStrike y Palo Alto Networks están preparados para integrar los hallazgos en plataformas de inteligencia de amenazas, y la Fundación Linux ayudará a estandarizar las prácticas de remediación en los ecosistemas de código abierto. La participación de JPMorgan Chase señala un enfoque en la protección de los sistemas financieros, un sector históricamente objetivo de ataques sofisticados.

Impulso de seguridad de Anthropic en medio de la controversia

El Proyecto Glasswing llega en un año turbulento para Anthropic. A principios de este año, la empresa se resistió a una solicitud del Pentágono para eliminar las barreras de seguridad de sus servicios, lo que llevó al Departamento de Defensa a etiquetar a Anthropic como un "riesgo de cadena de suministro". La designación subrayó las tensiones entre la implementación rápida de la IA y las preocupaciones de seguridad nacional.

La controversia se vio exacerbada por un hacker que supuestamente utilizó el modelo Claude de Anthropic en febrero para infiltrarse en varias agencias gubernamentales mexicanas. Aunque los detalles son escasos, el incidente destacó la naturaleza dual de uso de los modelos de lenguaje poderosos. Anthropic argumenta que la nueva iniciativa demuestra su compromiso con el desarrollo responsable de la IA, pasando de posturas defensivas a una defensa proactiva.

Los observadores de la industria señalan que la colaboración podría sentar un precedente para cómo las empresas de IA abordan los desafíos de seguridad. Al combinar recursos y compartir datos de vulnerabilidad, los socios buscan mantenerse por delante de los actores de amenazas que cada vez más confían en la IA para automatizar vectores de ataque. "Si la IA puede encontrar errores más rápido que los humanos, necesitamos que la IA los corrija más rápido", dijo un representante de CrowdStrike durante el anuncio.

Anthropic planea hacer que los hallazgos del modelo Claude Mythos Preview estén disponibles para sus socios de forma continua. La empresa también insinuó futuras extensiones del Proyecto Glasswing para cubrir tecnologías emergentes como dispositivos IoT y plataformas de computación de borde, aunque no se proporcionó un cronograma.

Los críticos advierten que el esfuerzo puede no ser suficiente para contener la marea del cibercrimen habilitado por la IA. Señalan el ritmo rápido del desarrollo del modelo y la facilidad con la que los actores maliciosos pueden obtener o replicar capacidades similares. Sin embargo, la alianza marca un paso notable hacia una estrategia de defensa coordinada en una era donde las herramientas de IA pueden proteger y amenazar la infraestructura digital.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas