Antecedentes

Anthropic, el creador del chatbot de IA Claude, se retiró recientemente de un contrato propuesto con agencias de inteligencia de EE. UU. La empresa citó preocupaciones de seguridad sobre la implementación de la inteligencia artificial para la vigilancia masiva de ciudadanos domésticos y para armas autónomas completamente autónomas.

Memorando interno de Anthropic

En respuesta, el CEO de Anthropic, Dario Amodei, circuló un memorando interno largo que ataca duramente la mensajería pública de OpenAI sobre su propio acuerdo con el Pentágono. Amodei califica las declaraciones de OpenAI como "mentiras directas" y llama a la mensajería en general "mendaz". Argumenta que la prometida "capa de seguridad" de OpenAI y otras seguridades equivalen a "teatro de seguridad" y sirven más para aplacar a los empleados que para proteger al público.

Crítica del acuerdo de OpenAI

Amodei tiene problemas con una cláusula en el acuerdo de OpenAI que hace referencia a "todo uso legal", describiendo el lenguaje como un área gris que podría permitir actividades cuestionables como la vigilancia doméstica. También sugiere que el énfasis de OpenAI en guardrails adicionales no aborda significativamente los riesgos de seguridad subyacentes.

Respuesta de OpenAI

El CEO de OpenAI, Sam Altman, admitió más tarde que el anuncio inicial del acuerdo con el Pentágono fue "apresurado" y "desordenado", lo que implica que la empresa puede necesitar perfeccionar su enfoque de los contratos gubernamentales.

Reanudación potencial de conversaciones con el Pentágono

Según un informe del Financial Times, Anthropic y su modelo Claude pueden estar explorando una asociación renovada con el ejército de EE. UU., aunque los detalles de cualquier término prospectivo siguen siendo inciertos.

Reacción de la industria y el público

La disputa ha aumentado la vigilancia de las relaciones entre las empresas de IA y los militares. En los días siguientes a los anuncios, la tasa de desinstalación de ChatGPT aumentó significativamente, mientras que Claude experimentó un aumento en las clasificaciones de la App Store, reflejando una opinión pública mixta sobre las implicaciones éticas de la implementación de la IA en contextos de defensa.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas