Fundo

A Anthropic, uma empresa de inteligência artificial, tornou-se um ponto focal nos debates sobre como as tecnologias de IA avançadas devem ser aplicadas. O CEO da empresa, Dario Amodei, articulou publicamente a posição da empresa sobre duas questões controversas: o uso de IA para vigilância doméstica em massa e o deploy de armas totalmente autônomas.

IA e Vigilância Doméstica

Amodei explicou que, embora a empresa apoie o uso de IA para missões de inteligência estrangeira e contrainteligência legais, empregar as mesmas ferramentas para monitoramento em larga escala de cidadãos nos Estados Unidos conflita com princípios democráticos. Ele observou que a legislação atual permite que o governo compre registros detalhados dos movimentos, navegação na web e associações dos americanos de fontes públicas sem mandado. A IA, de acordo com Amodei, permite a montagem automática desses dados dispersos, individualmente inócuos, em uma imagem abrangente da vida deennenhum pessoa, e fazer isso em larga escala aumenta os riscos profundos para a governança democrática.

Armas Autônomas

Com relação aos sistemas de armas, Amodei expressou apoio a armas parcialmente autônomas, como as usadas no conflito na Ucrânia, mas traçou uma linha em armas totalmente autônomas que removem os humanos do loop de tomada de decisões entirely. Ele argumentou que os modelos de IA ainda não são confiáveis o suficiente para suportar a responsabilidade de tomar decisões de alvo letal por conta própria. Embora tenha reconhecido que armas totalmente autônomas possam eventualmente ser críticas para a defesa nacional, ele enfatizou que a tecnologia não é atualmente confiável para esse propósito.

Reação da Indústria e Implicações Políticas

As declarações de Amodei geraram discussão entre empresas de tecnologia, formuladores de políticas e grupos de defesa. Alguns líderes políticos descreveram a Anthropic em termos duros, refletindo preocupações mais amplas sobre a influência da empresa na política de IA. As declarações destacam uma tensão contínua entre o fomento da inovação americana em IA de fronteira e o enfrentamento dos desafios éticos e de segurança impostos por sua implantação.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas