Anuncio de renuncia

Caitlin Kalinowski, quien supervisaba el hardware dentro de la división de robótica de OpenAI, publicó en X que renunciaba a su cargo. En su publicación, criticó la prisa de la empresa al asociarse con el Departamento de Defensa sin establecer guardrails claros.

Preocupaciones específicas planteadas

Kalinowski destacó dos líneas críticas que, en su opinión, merecen más deliberación: "la vigilancia de los estadounidenses sin supervisión judicial" y "la autonomía letal sin autorización humana". Ella explicó además que el anuncio del trato con el Pentágono fue apresurado y carecía de salvaguardias definidas, describiéndolo como una "preocupación de gobernanza antes que nada".

Respuesta de OpenAI

OpenAI confirmó la renuncia de Kalinowski y emitió un comunicado reconociendo que las personas tienen puntos de vista fuertes sobre estos asuntos. La empresa dijo que seguirá interactuando con las partes relevantes y reiteró su postura de que el acuerdo con el Pentágono crea un camino viable para usos responsables de la inteligencia artificial en la seguridad nacional. OpenAI enfatizó sus líneas rojas, afirmando que no habrá vigilancia doméstica ni armas autónomas bajo el trato.

Contexto del trato de defensa

La renuncia sigue a la decisión de OpenAI de firmar un trato con el Departamento de Defensa, un movimiento que ocurrió poco después de que otra empresa de inteligencia artificial, Anthropic, declinara levantar ciertas guardrails relacionadas con la vigilancia masiva y las armas autónomas completamente. El CEO de OpenAI, Sam Altman, indicó intenciones de enmendar el acuerdo para prohibir el espionaje a los estadounidenses.

Implicaciones

La partida de Kalinowski se describe como la más destacada consecuencia del trato de defensa, subrayando desacuerdos internos sobre el equilibrio entre avanzar en las capacidades de la inteligencia artificial y garantizar salvaguardias éticas. El episodio suma a las discusiones en curso en la industria sobre el papel adecuado de la inteligencia artificial en contextos de seguridad nacional y los mecanismos necesarios para proteger las libertades civiles.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas