Antecedentes

Un tiroteo masivo en una escuela secundaria canadiense llevó a un escrutinio sobre el papel de las plataformas de inteligencia artificial en la identificación de posibles amenazas. OpenAI identificó la actividad del sospechoso en su servicio de chatbot pero no notificó a la policía, lo que generó preocupaciones entre los funcionarios sobre lagunas en la seguridad y la coordinación de la seguridad pública.

Acción del gobierno

El ministro de inteligencia artificial de Canadá, Evan Solomon, se reunió directamente con el director ejecutivo de OpenAI, Sam Altman. Durante una reunión virtual, Solomon "pidió a OpenAI que tomara varias acciones, que Altman ha acordado hacer". Las demandas del gobierno se centran en protocolos de seguridad más fuertes que involucran notificaciones inmediatas a las fuerzas del orden cuando los usuarios exhiben comportamiento potencialmente violento.

Respuesta de OpenAI

OpenAI se ha comprometido a incorporar a expertos canadienses en privacidad, salud mental y aplicación de la ley en su proceso de revisión para casos de alto riesgo que involucran a usuarios canadienses. La empresa también se comprometió a producir un informe que describa los nuevos protocolos y a aplicar los cambios de forma retrospectiva, revisando incidentes sospechosos anteriores y compartiendo datos relevantes con las autoridades cuando sea apropiado.

Medidas anteriores

Este acuerdo se basa en medidas anteriores anunciadas por la vicepresidenta de política global de OpenAI, Ann O’Leary, quien indicó que la empresa ajustaría sus sistemas de detección para prevenir mejor que los usuarios prohibidos regresen a la plataforma. Los compromisos recientes apuntan a cerrar la brecha que permitió que la cuenta original del tirador fuera suspendida pero luego re-creada.

Implicaciones y próximos pasos

El nuevo marco de seguridad se espera que establezca un precedente para cómo los proveedores de inteligencia artificial colaboran con las autoridades nacionales en asuntos de seguridad pública. Si bien OpenAI no ha confirmado si los protocolos serán exclusivos de Canadá, el gobierno planea monitorear la implementación y evaluar la efectividad de las medidas para prevenir incidentes futuros.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas