Antecedentes

La senadora estadounidense Marsha Blackburn envió una carta al director ejecutivo de Google, Sundar Pichai, alegando que el modelo Gemma de la empresa, accesible a través del entorno de desarrollo AI Studio, produjo declaraciones falsas sobre su conducta personal. En la carta, Blackburn afirmó que cuando se le preguntó sobre acusaciones de violación, el modelo fabricó una narrativa que involucraba a un trooper estatal y actos no consentidos, lo que ella describió como completamente falso. La senadora también se refirió a una demanda separada presentada por el activista conservador Robby Starbuck, quien afirma que los sistemas de IA de Google han generado afirmaciones difamatorias sobre él.

Blackburn enmarcó la salida del modelo como más que una simple "alucinación" - un término comúnmente utilizado para describir las inexactitudes generadas por la IA - argumentando que las declaraciones falsas constituyen difamación que fue distribuida por un sistema propiedad de Google. Ella vinculó el incidente a preocupaciones más amplias sobre el sesgo percibido contra figuras conservadoras en las tecnologías de IA.

Respuesta de Google

Google reconoció el problema, señalando que Gemma fue diseñado como un modelo ligero y de código abierto para que los desarrolladores lo integraran en sus propias aplicaciones, y no como un chatbot orientado al consumidor. La empresa explicó que los informes de no desarrolladores que utilizaban AI Studio para hacer preguntas factuales provocaron la decisión de retirar Gemma de la plataforma. Google enfatizó que el modelo seguiría estando disponible a través de su interfaz de programación de aplicaciones (API) para fines de desarrollo legítimos.

En respuesta a las alegaciones de la senadora, el vicepresidente de asuntos gubernamentales y política pública de Google reiteró que las alucinaciones son un desafío conocido en los grandes modelos de lenguaje y que la empresa está trabajando activamente para mitigar dichos errores. La empresa aclaró que nunca tuvo la intención de que el modelo se utilizara como una herramienta de preguntas y respuestas pública, reafirmando su compromiso con el despliegue responsable de las tecnologías de IA.

La retirada de Gemma de AI Studio subraya la tensión entre la innovación rápida de la IA y la demanda de rendición de cuentas, especialmente cuando las figuras políticas afirman que las salidas de la IA han causado daño a su reputación. El incidente agrega a los debates en curso sobre cómo las empresas de tecnología deben abordar el contenido erróneo o potencialmente difamatorio generado por sus modelos, y cómo los organismos reguladores podrían supervisar dichos asuntos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas