Antecedentes y motivación

Una coalición bipartidista de pensadores, incluyendo al físico Max Tegmark, ha producido la Declaración Pro-Humana, un marco integral para el desarrollo responsable de la IA. La declaración surgió después de tensiones de alto perfil entre el Departamento de Defensa de EE. UU. y las principales empresas de IA, destacando la falta de reglas claras que gobiernen la inteligencia artificial avanzada y la creciente preocupación pública sobre una carrera desregulada hacia la superinteligencia.

Disposiciones clave de la Declaración

El documento establece cinco pilares: mantener a los humanos al mando, evitar la concentración de poder, proteger la experiencia humana, preservar la libertad individual y hacer que las empresas de IA sean legalmente responsables. Entre sus disposiciones más destacadas se encuentran una prohibición absoluta sobre el desarrollo de superinteligencia hasta que un consenso científico confirme la seguridad y la aprobación democrática, interruptores de apagado obligatorios para sistemas poderosos y una prohibición de arquitecturas que se auto-replican o auto-mejoran que podrían resistir el apagado.

Enfoque en la seguridad infantil

Una de las prioridades inmediatas de la declaración es la seguridad de los usuarios más jóvenes. Llama a la prueba obligatoria de productos de IA, particularmente chatbots y aplicaciones de compañía dirigidas a niños, para evaluar riesgos como la ideación suicida aumentada, la exacerbación de la salud mental y la manipulación emocional. Tegmark compara esto con el proceso de aprobación de medicamentos de la FDA, argumentando que si las leyes existentes ya criminalizan el comportamiento dañino de los humanos, deberían aplicarse estándares similares a las máquinas.

Amplio apoyo a lo largo del espectro político

La declaración ha atraído firmas de un grupo diverso de firmantes, que van desde el ex asesor de Trump Steve Bannon hasta la ex asesora de Seguridad Nacional de Obama Susan Rice, así como el ex presidente del Estado Mayor Conjunto Mike Mullen y líderes progresistas de la fe. Este apoyo transpartidista subraya una preocupación compartida de que la humanidad se enfrenta a un punto de inflexión: o un futuro dominado por máquinas o uno donde la IA amplifica el potencial humano.

Implicaciones para la política y la industria

Los defensores argumentan que los principios de la declaración podrían dar forma a futuras legislaciones, instando al Congreso a actuar antes de que los sistemas de IA se arraiguen en la infraestructura crítica. La llamada a la prueba obligatoria de productos de IA para niños podría expandirse a requisitos de seguridad más amplios, incluyendo la prevención de que la IA facilite actividades terroristas o socave instituciones democráticas. Al enmarcar la seguridad de la IA como un tema de protección infantil, los partidarios esperan generar la presión pública necesaria para romper el actual impasse político.

Mirando hacia adelante

La Declaración Pro-Humana llega en un momento crucial, ofreciendo un conjunto concreto de pautas en medio de la creciente incertidumbre sobre la trayectoria de la IA. Su énfasis en la supervisión humana, la responsabilidad legal y la prueba de seguridad apunta a dirigir el desarrollo hacia resultados que mejoren, en lugar de reemplazar, las capacidades humanas. Si los formuladores de políticas adoptarán estas recomendaciones sigue siendo visto, pero la declaración marca un paso significativo hacia una conversación más estructurada sobre la gobernanza de la IA en los Estados Unidos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas