Antecedentes

Moxie Marlinspike, conocido por crear la aplicación de mensajería segura Signal y su protocolo de encriptación de código abierto ampliamente utilizado, presentó una nueva plataforma de IA centrada en la privacidad llamada Confer a principios de este año. La plataforma está diseñada para brindar el poder de la IA generativa mientras protege las conversaciones con encriptación de extremo a extremo.

Integración con Meta AI

Marlinspike anunció que la tecnología de encriptación de Confer se integrará en Meta AI. Explicó que los servicios de chat de IA actuales carecen de encriptación, lo que permite que los datos sean accesados por las empresas de IA, empleados, hackers, citaciones judiciales y gobiernos. Al integrar la capa de privacidad de Confer, las conversaciones de Meta AI podrían volverse privadas, evitando que los datos se utilicen para el entrenamiento de modelos o otros fines.

Detalles de la colaboración

Marlinspike enfatizó que Confer permanecerá independiente de Meta, incluso mientras su tecnología sustenta los servicios de IA de Meta. Describió el objetivo como dar a los usuarios "el poder total de la IA junto con la privacidad total de una conversación encriptada". La asociación se basa en el trabajo anterior de Marlinspike en 2016, cuando ayudó a implementar la encriptación de extremo a extremo para WhatsApp, un servicio propiedad de Meta que recientemente agregó un chatbot de Meta AI.

Reacciones de la industria

Will Cathcart, jefe de WhatsApp, destacó la importancia de la IA privada para casos de uso personales y confidenciales. La investigadora de criptografía Mallory Knodel de la Universidad de Nueva York calificó el desarrollo como "genial para las personas que utilizan chatbots que utilizan Meta AI para tener confidencialidad y privacidad dentro de ese intercambio", señalando que Meta no podría acceder a los datos de chat para el entrenamiento. JP Aumasson, director de seguridad de Taurus, calificó a Confer como "probablemente la mejor solución de IA privada, considerando todo", mientras reconoce que la documentación y el modelado de amenazas todavía son limitados.

Consideraciones técnicas

La tecnología de Confer se basa en modelos de peso abierto, lo que permite a los usuarios beneficiarse de una amplia gama de tareas mientras carecen de algunas capacidades de los modelos fronterizos propietarios. La colaboración da a Marlinspike la oportunidad de trabajar directamente con los modelos de código cerrado de Meta, combinando potencialmente la tecnología de chat de IA más privada con los modelos de IA más capaces disponibles.

Perspectiva

Los investigadores ven la asociación como un paso significativo hacia la adopción más amplia de la IA encriptada, aunque enfatizan que la solución todavía no es perfecta. El esfuerzo demuestra cómo los conceptos de computación de confianza, que datan de la década de 1990, pueden aplicarse a la IA generativa moderna para proteger la privacidad del usuario. Si tiene éxito, la integración podría establecer un nuevo estándar para las interacciones de IA privadas en las principales plataformas.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas