Descripción del acuerdo

OpenAI ha entrado en un contrato con el Departamento de Defensa de los Estados Unidos para desplegar sus modelos de inteligencia artificial en la red interna de la agencia. El director ejecutivo de la empresa comunicó públicamente el acuerdo, enfatizando que el trato incorpora dos de los principios de seguridad más importantes de OpenAI: una prohibición sobre la vigilancia masiva nacional y el requisito de que los humanos mantengan la responsabilidad sobre el uso de la fuerza, incluidos los sistemas de armas autónomos.

Compromisos de seguridad

Los principios de seguridad están incorporados en el contrato, y OpenAI se comprometió a construir salvaguardas técnicas que aseguren que los modelos se comporten como se pretende. Ingenieros de OpenAI serán asignados para trabajar directamente con el Departamento de Defensa para monitorear y mantener estas salvaguardas. El despliegue se limitará a redes en la nube, y la empresa planea utilizar Amazon Web Services para alojamiento a nivel de empresa.

Contexto gubernamental

El acuerdo sigue una amplia iniciativa gubernamental para regular el uso de la IA en áreas sensibles. Un funcionario senior del Departamento de Defensa señaló que el contrato hace referencia a autoridades legales existentes e incluye mecanismos de seguridad mutuamente acordados. El mismo marco de seguridad se ofreció a otras empresas de IA, pero no todas han aceptado.

Postura de Anthropic

Anthropic, otro importante desarrollador de IA, rechazó públicamente un contrato comparable con el Departamento de Defensa. La empresa reiteró su oposición a la vigilancia masiva nacional y a las armas autónomas completamente, declarando que desafiaría cualquier designación de "riesgo de cadena de suministro" en los tribunales. El rechazo de Anthropic subraya los diferentes enfoques corporativos para las asociaciones gubernamentales que involucran restricciones de seguridad de la IA.

Infraestructura en la nube y asociaciones

El despliegue de OpenAI se ejecutará inicialmente en plataformas en la nube, y la empresa ha anunciado una asociación con Amazon para hacer que sus modelos estén disponibles en Amazon Web Services para clientes empresariales. Si bien el Departamento de Defensa actualmente confía en un proveedor de nube diferente, la asociación podría permitir la migración futura de los modelos de OpenAI a la infraestructura preferida del departamento.

Implicaciones

El acuerdo ilustra una creciente intersección entre la tecnología de IA avanzada y las agencias de seguridad nacional, destacando la importancia de las salvaguardas de seguridad en los contratos gubernamentales. Al incorporar prohibiciones explícitas sobre la vigilancia y el uso de armas autónomas, OpenAI busca equilibrar la innovación con la responsabilidad ética mientras satisface las necesidades operativas del Departamento de Defensa.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas