Novo Cargo de Chefe de Preparação da OpenAI

O CEO da OpenAI, Sam Altman, anunciou que a empresa está contratando um Chefe de Preparação, oferecendo um pacote de compensação de $555.000 em salário mais ações. Altman enfatizou que o cargo será "de alto estresse" e que o selecionado será lançado em responsabilidades críticas desde o primeiro dia.

Escopo do Cargo

O Chefe de Preparação será responsável por desenvolver uma compreensão matizada de como os modelos de IA avançados podem ser abusados, orientar decisões de segurança em toda a organização e proteger os sistemas da OpenAI para mitigar riscos emergentes. O líder chefiará uma equipe "pequena, mas de alto impacto" que opera sob o quadro de Preparação da OpenAI, que visa equilibrar os benefícios tremendos da IA com a necessidade de limitar seus efeitos colaterais.

Contexto e Desafios Recentemente Enfrentados

Altman referenciou uma "previsão" de impactos de saúde mental relacionados a modelos observados em 2025, sugerindo que interações com o ChatGPT foram vinculadas a resultados graves, incluindo mortes. Ele também citou um recente recuo de uma atualização do GPT-4o após a empresa admitir que a mudança poderia reforçar comportamentos de usuário prejudiciais.

Antigos Ocupantes do Cargo

O cargo foi anteriormente ocupado por Aleksander Madry, que foi posteriormente reatribuído dentro da OpenAI. Joaquin Quiñonero Candela subsequentemente ocupou o cargo antes de se mudar para se tornar Chefe de Contratação. Lilian Weng também passou tempo como Chefe de Preparação.

Implicações para a OpenAI

O anúncio ocorre em meio a críticas de ex-funcionários que acusaram a OpenAI de priorizar oportunidades comerciais e ambições de AGI sobre considerações de segurança. Ao oferecer um salário substancial e enfatizar a importância da preparação, a OpenAI parece estar sinalizando uma mudança em direção a uma gestão de riscos e supervisão de segurança mais forte.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas