Contexto

A série Gemma da Google é comercializada como uma família de modelos de IA projetados para desenvolvedores integrarem em aplicações. Os modelos são oferecidos por meio da plataforma AI Studio da Google e, separadamente, via uma API para uso de desenvolvedores. A Google enfatizou que o Gemma não é um chatbot voltado para o consumidor e não deve ser usado para responder a perguntas factuais.

Reclamação da Senadora

A senadora Marsha Blackburn, republicana do Tennessee, escreveu ao CEO da Google, Sundar Pichai, alegando que o Gemma gerou uma declaração falsa afirmando que ela havia sido acusada de um relacionamento sexual com um policial rodoviário durante sua campanha para o senado estadual em 1987. O modelo também forneceu uma lista de artigos de notícias falsificados para apoiar a alegação. Blackburn observou que o ano da campanha alegado era incorreto; sua campanha real ocorreu em 1998, e os links fornecidos pelo modelo levavam a páginas de erro ou conteúdo não relacionado. Ela caracterizou a resposta como difamação e exigiu que a Google desativasse o modelo até que ele pudesse ser controlado.

Resposta da Google

Em uma postagem no X, a conta de notícias oficial da Google, a empresa afirmou que havia "visto relatórios de não-desenvolvedores tentando usar o Gemma no AI Studio e fazer perguntas factuais a ele". Para evitar mais confusão, a Google removeu o acesso ao Gemma da plataforma AI Studio, afirmando que o modelo continuaria disponível para desenvolvedores por meio da API. A empresa reiterou seu compromisso em "minimizar alucinações e continuar melhorando todos os nossos modelos".

Implicações

O incidente destaca os desafios contínuos com alucinações de IA - situações em que os modelos geram informações falsas ou enganosas que parecem factuais. Embora a Google reconheça esses problemas, o episódio sublinha a tensão entre ferramentas de IA voltadas para desenvolvedores e expectativas públicas de precisão, especialmente quando figuras políticas estão envolvidas. A reclamação da senadora adiciona uma dimensão política, provocando escrutínio sobre como as saídas de IA podem impactar reputações e a importância de salvaguardas robustas contra a difamação.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas