Contexto e Motivação

Valerie Veatch, uma cineasta, notou o modelo de inteligência artificial gerativa Sora da OpenAI quando ele foi lançado em 2024. Embora ela estivesse curiosa sobre as possibilidades criativas, ela rapidamente observou que o modelo frequentemente produzia imagens impregnadas de racismo e sexismo. A falta de preocupação de seus pares entusiastas da IA aprofundou sua inquietude e a levou a investigar as causas subjacentes dessas saídas prejudiciais.

Raízes Históricas da Inteligência Artificial Gerativa

O documentário de Veatch, Fantasma na Máquina, argumenta que os problemas vistos na inteligência artificial gerativa moderna não são novos. Ele traça uma linhagem que começa na Inglaterra da era vitoriana com o desenvolvimento da eugenia por Francis Galton, um primo de Charles Darwin. A crença de Galton em melhorar a humanidade através da eliminação de 'raças inferiores' informou as primeiras ciências sociais. Seu trabalho em modelagem multidimensional influenciou Karl Pearson, que mais tarde criou ferramentas estatísticas como a regressão logística - técnicas que agora formam uma parte central dos algoritmos de aprendizado de máquina.

O filme também destaca que o termo 'inteligência artificial' foi cunhado em 1956 pelo cientista da computação John McCarthy como uma frase de marketing para atrair financiamento, um rótulo que persistiu apesar de seu significado vago.

Encontros Pessoais de Veatch com Viés

Enquanto experimentava uma versão inicial do Sora em um canal Slack de artistas, Veatch testemunhou as tentativas de uma mulher de cor de gerar imagens de si mesma sendo 'branqueadas'. O modelo reteve seus tranças e moda, mas a colocou em uma 'galeria branca', levando Veatch a reagir com incredulidade. Ela entrou em contato com a OpenAI para relatar as saídas racistas, sexistas e misóginas - como imagens que adicionavam seios extras ou forçavam uma pose de twerking - mas recebeu uma resposta displicente de que a questão não podia ser alterada.

Conteúdo e Perspectiva do Documentário

Fantasma na Máquina reúne pesquisadores de IA, historiadores e teóricos críticos que argumentam que o viés na inteligência artificial gerativa está enraizado em suas conexões históricas com campos científicos construídos sobre visões de mundo discriminatórias. Veatch se recusa a apresentar um retrato lisonjeiro dos líderes da indústria, afirmando que ela não abraçaria Sam Altman em frente às câmeras porque isso se tornaria propaganda.

Informações de Lançamento

O documentário estará disponível para streaming na Kinema de 26 a 28 de março, após o que está programado para ir ao ar na PBS no outono. Uma nota de correção no artigo original esclarece que o termo correto é 'regressão logística', e não 'regressão lógica'

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas