Contexto

Moxie Marlinspike, conhecido por criar o aplicativo de mensagens seguras Signal e seu protocolo de criptografia de código aberto amplamente utilizado, apresentou uma nova plataforma de IA centrada na privacidade chamada Confer no início deste ano. A plataforma é projetada para fornecer o poder da IA gerativa enquanto protege as conversas com criptografia de ponta a ponta.

Integração com Meta AI

Marlinspike anunciou que a tecnologia de criptografia da Confer será integrada ao Meta AI. Ele explicou que os serviços de chat de IA atuais carecem de criptografia, permitindo que os dados sejam acessados por empresas de IA, funcionários, hackers, intimações e governos. Ao incorporar a camada de privacidade da Confer, as conversas do Meta AI poderiam se tornar privadas, impedindo que os dados sejam usados para treinamento de modelos ou outros fins.

Detalhes da Colaboração

Marlinspike enfatizou que a Confer permanecerá independente da Meta, mesmo enquanto sua tecnologia subjaz ao Meta AI. Ele descreveu o objetivo como dar aos usuários "o pleno poder da IA junto com a plena privacidade de uma conversa criptografada". A parceria se baseia no trabalho de Marlinspike em 2016, quando ele ajudou a implementar a criptografia de ponta a ponta para o WhatsApp, um serviço de propriedade da Meta que recentemente adicionou um chatbot do Meta AI.

Reações da Indústria

Will Cathcart, chefe do WhatsApp, destacou a importância da IA privada para casos de uso pessoais e confidenciais. A pesquisadora de criptografia Mallory Knodel, da Universidade de Nova York, chamou o desenvolvimento de "ótimo para as pessoas que usam chatbots que usam o Meta AI para ter confidencialidade e privacidade dentro dessa troca", observando que a Meta não poderia acessar os dados de chat para treinamento. JP Aumasson, diretor de segurança da Taurus, chamou a Confer de "provavelmente a melhor solução de IA privada, considerando todos os aspectos", enquanto reconhecia que a documentação e o modelagem de ameaças ainda são limitadas.

Considerações Técnicas

A tecnologia da Confer é construída em modelos de peso aberto, permitindo que os usuários se beneficiem de uma ampla gama de tarefas enquanto falta algumas capacidades dos modelos de fronteira proprietários. A colaboração dá a Marlinspike a oportunidade de trabalhar diretamente com os modelos de código fechado da Meta, potencialmente combinando a tecnologia de chat de IA mais privada com os modelos de IA mais capazes disponíveis.

Perspectiva

Os pesquisadores veem a parceria como um passo significativo em direção à adoção mais ampla da IA criptografada, embora eles destaquem que a solução ainda não é perfeita. O esforço demonstra como os conceitos de computação confiável, datados da década de 1990, podem ser aplicados à IA gerativa moderna para proteger a privacidade do usuário. Se bem-sucedida, a integração poderia estabelecer um novo padrão para interações de IA privadas em plataformas principais.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas