Antecedentes del conflicto

Anthropic, una empresa de inteligencia artificial, se encuentra actualmente en un punto muerto con el Departamento de Guerra de los Estados Unidos. El Pentágono ha solicitado a Anthropic acceso sin restricciones a su tecnología de inteligencia artificial, una solicitud que la empresa ha rechazado. La solicitud incluye el posible uso de los modelos de Anthropic para la vigilancia masiva doméstica y la weaponry autónoma completamente autónoma, ambos de los cuales Anthropic se ha opuesto públicamente.

Movilización de empleados

En respuesta al plazo del Pentágono para la conformidad, más de trescientos empleados de Google y más de sesenta empleados de OpenAI firmaron una carta abierta. La carta pide a los líderes de ambas empresas que apoyen la postura de Anthropic y que rechacen la demanda del Departamento de Guerra de acceso sin restricciones. Los firmantes enfatizan la necesidad de que la industria tecnológica se una contra lo que describen como un intento de dividir a las empresas a través del miedo.

Requisitos clave de la carta abierta

La carta abierta solicita específicamente que los ejecutivos de Google y OpenAI mantengan las "líneas rojas" de Anthropic contra el uso de sistemas de inteligencia artificial para la vigilancia masiva doméstica y la weaponry autónoma completamente autónoma. Insta a las empresas a "dejar de lado sus diferencias y unirse" para mantener estos límites éticos.

Reacciones de las empresas

Los líderes de Google y OpenAI no han emitido declaraciones formales con respecto a la carta abierta. Sin embargo, los comentarios informales indican un cierto grado de simpatía por la postura de Anthropic. El CEO de OpenAI, Sam Altman, le dijo a CNBC que no cree que el Pentágono deba amenazar con la Ley de Producción de Defensa contra las empresas. Un portavoz de OpenAI confirmó que la empresa comparte las "líneas rojas" de Anthropic sobre la weaponry autónoma y la vigilancia masiva.

El jefe de científicos de DeepMind de Google, Jeff Dean, hablando individualmente, publicó en X que la vigilancia masiva viola la Cuarta Enmienda y tiene un efecto desalentador en la libertad de expresión. Advirtió que los sistemas de vigilancia son propensos a ser utilizados indebidamente para fines políticos o discriminatorios.

Acceso militar a otras plataformas de inteligencia artificial

Según los informes, el ejército ya utiliza Grok de X, Gemini de Google y ChatGPT de OpenAI para tareas no clasificadas y está negociando para extender su uso a trabajos clasificados. Anthropic, a pesar de tener una asociación existente con el Pentágono, ha mantenido firme que su tecnología no será utilizada para la vigilancia masiva doméstica o la weaponry autónoma completamente autónoma.

Presión del Pentágono y respuesta de Anthropic

El secretario de Defensa, Pete Hegseth, advirtió al CEO de Anthropic, Dario Amodei, que no cumplir podría resultar en que el Pentágono etiquete a la empresa como un "riesgo de cadena de suministro" o invoque la Ley de Producción de Defensa para obligar a cumplir. En un comunicado, Amodei dijo que las dos amenazas son contradictorias, una que marca a Anthropic como un riesgo de seguridad, la otra que considera su inteligencia artificial esencial para la seguridad nacional, y que no cambian la postura de la empresa. Anthropic mantiene que no puede, en conciencia, acceder a la solicitud.

Implicaciones para la industria tecnológica

El episodio subraya las crecientes tensiones entre los desarrolladores de inteligencia artificial y las entidades gubernamentales sobre el uso ético de tecnologías poderosas. También destaca la disposición de los empleados dentro de las principales empresas de inteligencia artificial a abogar públicamente por prácticas responsables de inteligencia artificial, incluso cuando implica desafiar las demandas del Departamento de Guerra. El resultado de este enfrentamiento puede sentar precedentes para cómo las empresas de inteligencia artificial negocian con las agencias gubernamentales sobre cuestiones de seguridad nacional y libertades civiles.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas