A OpenAI anunciou um novo recurso de segurança opcional para o ChatGPT chamado Contato Confiável. A ferramenta permite que qualquer usuário adulto designe um adulto confiável - amigo, familiar ou cuidador - para ser alertado se a inteligência artificial detectar que a conversa pode envolver autolesão ou ideia suicida. O recurso é projetado para complementar as linhas de ajuda internas do chatbot, dando aos usuários uma linha direta para alguém que já conhecem.

Ativar o Contato Confiável é um processo simples. Os usuários entram nas configurações da conta do ChatGPT, inserem o nome e e-mail ou número de telefone do contato e enviam um convite. A pessoa convidada tem sete dias para aceitar; caso contrário, o pedido expira. Ambas as partes mantêm o controle total: o usuário pode editar ou excluir o contato a qualquer momento, e o contato pode se remover da lista sem penalidade.

Quando os sistemas automatizados da OpenAI sinalizam uma conversa como potencialmente perigosa, o chatbot primeiro encoraja o usuário a contatar seu Contato Confiável designado. Se o usuário não responder, uma pequena equipe de funcionários treinados revisa a troca. Após uma avaliação breve, a equipe pode enviar um e-mail conciso, texto ou notificação no aplicativo para o contato, alertando-o sobre um possível problema de segurança. Importante, a notificação não inclui nenhuma transcrição de chat ou detalhes pessoais além do fato de que uma preocupação foi levantada.

O recurso Contato Confiável se baseia em uma opção de contato de emergência introduzida em setembro, que seguiu um caso trágico em que um menor de 16 anos que confidenciou no ChatGPT tirou sua própria vida. O Meta lançou um sistema comparável para o Instagram, alertando os pais quando menores de idade procuram repetidamente por conteúdo de autolesão. A última ação da OpenAI sinaliza um impulso mais amplo da indústria para incorporar salvaguardas de saúde mental diretamente em produtos de inteligência artificial.

A OpenAI enquadrou a adição como uma abordagem "validada por especialistas", observando que conectar uma pessoa em crise com alguém em quem confia pode fazer uma diferença significativa. Embora a empresa tenha destacado a natureza limitada das alertas, defensores da privacidade levantaram questões sobre como a equipe de revisão determina a seriedade de uma conversa sinalizada e quais dados são retidos. A OpenAI mantém que o recurso não compartilha o conteúdo do chat com o contato e que qualquer revisão é realizada por uma pequena equipe treinada.

Especialistas dizem que a opção Contato Confiável pode preencher uma lacuna entre a assistência anônima de IA e a ajuda profissional. Ao dar aos usuários uma maneira de envolver uma rede de apoio pessoal, o recurso pode reduzir a dependência de linhas de crise genéricas e encorajar a intervenção mais cedo. À medida que os assistentes de IA se tornam mais ubíquos, ferramentas como o Contato Confiável podem se tornar uma parte padrão do deploy de IA responsável.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas