Disolución de la Unidad de Alineación

OpenAI anunció que su equipo de alineación, descrito internamente como el grupo responsable de hacer que los sistemas de inteligencia artificial sean seguros, confiables y consistentemente alineados con los valores humanos, ha sido disuelto. El equipo, que fue creado en el otoño de 2024, se centró en desarrollar métodos que permitan a la inteligencia artificial seguir la intención humana en una amplia gama de escenarios, incluyendo condiciones de alto riesgo y adversas. Los funcionarios de la empresa dijeron que la decisión refleja reorganizaciones rutinarias típicas de una organización en constante movimiento. Aunque no se divulgaron los nuevos destinos específicos de los miembros del equipo, el portavoz indicó que han sido transferidos a otros roles dentro de OpenAI donde continuarán trabajando en tareas que se alinean con la misión original.

El esfuerzo de alineación incluyó previamente un grupo de "superalineación" que se formó en 2023 para estudiar los riesgos existenciales a largo plazo de la inteligencia artificial. Ese grupo anterior también fue disuelto, lo que indica un patrón de reestructuración interna en torno a iniciativas enfocadas en la seguridad.

Nuevo Rol para el Ex Líder

Josh Achiam, quien lideró el equipo de alineación, ha asumido un nuevo puesto como futurista chief de OpenAI. En una publicación de blog, Achiam explicó que sus nuevas responsabilidades involucran apoyar la misión general de OpenAI analizando cómo el mundo evolucionará en respuesta a los avances en inteligencia artificial, inteligencia artificial general y tecnologías relacionadas. Notó que colaborará con otros miembros del personal técnico, incluyendo al físico Jason Pruet, para explorar escenarios futuros y guiar decisiones estratégicas.

El rol de futurista chief tiene como objetivo ampliar la perspectiva más allá de los desafíos inmediatos de alineación, centrándose en los impactos sociales a largo plazo y asegurando que el desarrollo de sistemas de inteligencia artificial poderosos beneficie a la humanidad en su conjunto. Aunque sigue sin estar claro si Achiam liderará un nuevo equipo bajo este título, la empresa enfatizó que la reestructuración es parte de ajustes operativos normales.

En general, los cambios recientes de OpenAI resaltan una evolución continua de su estructura interna a medida que equilibra la investigación de seguridad inmediata con la previsión estratégica más amplia. La empresa continúa afirmando su compromiso con el desarrollo responsable de la inteligencia artificial mientras adapta su diseño organizacional para satisfacer las demandas en constante cambio del campo.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas