Error en la notificación push de Google AI

Google envió una notificación push generada por IA que incluyó la palabra N de manera incorrecta. La notificación contenía un enlace a un artículo de Hollywood Reporter sobre un incidente en los premios BAFTA de cine. La palabra ofensiva apareció directamente debajo del enlace, lo que generó una reacción inmediata.

El problema fue detectado por primera vez por el usuario de Instagram Danny Price, quien compartió una captura de pantalla con la leyenda "qué mes de la historia negra tan interesante ha resultado ser". En respuesta, Google eliminó la notificación ofensiva, emitió una disculpa y dijo que estaba "trabajando para evitar que esto vuelva a suceder".

Contexto del incidente en los BAFTA

La historia de Hollywood Reporter vinculada cubría un incidente en los premios BAFTA en el que un miembro de la audiencia con síndrome de Tourette gritó la palabra N mientras Michael B. Jordan y Delroy Lindo estaban en el escenario presentando un premio. El individuo, identificado como el activista John Davidson, explicó más tarde que el estallido fue involuntario y expresó que estaba "profundamente mortificado si alguien considera que mis tics involuntarios son intencionados o llevan algún significado". El incidente generó indignación pública y renovó la discusión sobre las realidades de vivir con tics vocales.

Reacciones de la industria y errores de IA anteriores

El error de Google se suma a una lista creciente de errores de IA de alto perfil. Apple, por ejemplo, descontinuó sus propias notificaciones push impulsadas por IA después de una serie de errores vergonzosos, incluido un informe incorrecto de que un hombre acusado de matar al CEO de UnitedHealthcare, Brian Thompson, se había disparado a sí mismo. Estos incidentes resaltan los desafíos continuos en la implementación de IA para la entrega automática de contenido y subrayan la necesidad de salvaguardias más fuertes.

Ambas empresas han indicado su compromiso de mejorar sus sistemas de IA para evitar errores futuros que puedan causar daño o ofensa pública.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas