A OpenAI começou a oferecer a opção de Contato Trusted para usuários adultos do ChatGPT esta semana, ampliando a caixa de ferramentas de segurança que já abrange contas de adolescentes. O recurso aparece na seção de configurações do aplicativo e permite que um usuário nomeie uma única pessoa - com pelo menos 18 anos (19 na Coreia do Sul) - que será notificada se o chatbot sinalizar uma conversa como potencialmente indicativa de autolesão.

Configurar o contato é opcional. Uma vez que um usuário seleciona um nomeado, o aplicativo envia ao contato um convite que explica o papel e oferece uma janela de uma semana para aceitar. Se o convite for recusado, o usuário pode escolher outra pessoa. O processo não compartilha nenhuma parte da conversa; o alerta simplesmente afirma que a autolesão foi mencionada de uma maneira preocupante e pede que o contato verifique.

Quando os algoritmos do ChatGPT detectam linguagem que pode sinalizar um risco sério, o sistema primeiro informa o usuário de que um Contato Trusted pode ser notificado. Ele também sugere iniciadores de conversa para ajudar o usuário a se comunicar diretamente. Uma pequena equipe de revisores humanos treinados avalia a situação. Se eles confirmam uma ameaça genuína, o contato recebe uma notificação por e-mail, mensagem de texto ou alerta no aplicativo. A OpenAI tem como objetivo concluir essa revisão humana dentro de uma hora.

O recurso de Contato Trusted se baseia nos esforços mais amplos de segurança da OpenAI, que incluem alertas para contas de adolescentes vinculadas quando sinais de angústia aparecem. O desenvolvimento envolveu clínicos, pesquisadores e organizações de saúde mental, como a Associação Americana de Psicologia. A OpenAI enfatiza que a nova ferramenta não substitui as linhas diretas de crise, os serviços de emergência ou a assistência profissional; o chatbot continua a direcionar os usuários para esses recursos quando necessário.

Os usuários retêm o controle total sobre o recurso. Eles podem remover ou substituir seu Contato Trusted a qualquer momento, e os contatos podem se excluir. Ao dar aos usuários uma maneira de envolver uma pessoa de confiança, a OpenAI espera mitigar os limites da conversa impulsionada por IA ao lidar com questões profundamente pessoais.

Observadores da indústria notam que a adição reflete uma tendência crescente entre os provedores de IA para incorporar salvaguardas de "humano no loop". À medida que os chatbots de IA se tornam mais enraizados na vida diária, as plataformas estão sob pressão para abordar possíveis danos sem comprometer a privacidade do usuário. A abordagem da OpenAI - combinando detecção algorítmica, revisão humana rápida e compartilhamento mínimo de dados - oferece um modelo que equilibra segurança com confidencialidade.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas