Moxie Marlinspike, a defensor da privacidade que criou o aplicativo de comunicação segura Sign e seu protocolo de criptografia de código aberto amplamente utilizado, disse esta semana que sua plataforma de IA focada na privacidade, Conferircomeçará a incorporar sua tecnologia nos sistemas de IA da Meta.
Todos os dias, bilhões de mensagens de bate-papo enviadas através do Sign, WhatsApp da Meta e Mensagens da Apple são protegidas por criptografia de ponta a ponta. O recurso, que torna impossível para as empresas de tecnologia e qualquer pessoa que não seja o remetente e o destinatário espionar suas mensagens, tornou-se common na última década. No entanto, à medida que as plataformas generativas de IA explodem em popularidade, as pessoas também trocam milhares de milhões de mensagens por dia com chatbots de IA que não oferecem a protecção da encriptação de ponta a ponta – facilitando às empresas de IA o acesso ao que você fala.
Isso ocorre intencionalmente, visto que as plataformas muitas vezes desejam treinar seus modelos de IA com o máximo possível de dados do usuário e dificultam a opção de não usar suas informações como dados de treinamento. Mas à medida que os chatbots e os agentes de IA se tornam mais capazes, alguns tecnólogos e empresas estão a pressionar para criar sistemas mais restritos e centrados na privacidade.
“À medida que os LLMs continuam a ser capazes de fazer mais, devemos esperar que ainda mais dados fluam para eles”, escreveu Marlinspike em um comunicado. breve postagem no blog sobre sua colaboração com Meta publicado na terça-feira. “No momento, nenhum desses dados é privado. Eles são compartilhados com empresas de IA, seus funcionários, hackers, intimações e governos. Como sempre acontece com dados não criptografados, eles inevitavelmente acabarão nas mãos erradas.”
Marlinspike escreveu que “trabalhará para integrar a tecnologia de privacidade da Confer para que ela apoie a Meta AI”. Ele também enfatizou que o Confer, que estreou no início deste ano, continuará a operar independente da Meta. O objetivo do projeto, acrescentou Marlinspike, é oferecer uma tecnologia que “permita que todos obtenham todo o poder da IA junto com a privacidade complete de uma conversa criptografada”.
Em 2016, Marlinspike trabalhou com o WhatsApp, propriedade da Meta, para implementar criptografia ponta a ponta em mais de um bilhão de contas simultaneamente. No ano passado, o WhatsApp introduziu um chatbot Meta AI em seu aplicativo, que não é protegido da empresa da mesma forma que os bate-papos individuais.
“As pessoas usam IA de maneiras profundamente pessoais e exigem acesso a informações confidenciais”, disse Will Cathcart, chefe do WhatsApp. escreveu na quarta-feira na plataforma de mídia social X sobre a colaboração com a Confer. “É importante construirmos essa tecnologia de uma forma que dê às pessoas o poder de fazer isso de forma privada.”
A adoção de IA criptografada ainda está emergindo. Os esquemas criptográficos usados na criptografia ponta a ponta para comunicação digital tradicional não são fácil ou diretamente traduzíveis em proteções de dados para IA generativa. Por sua vez, Confer ainda é um projeto novo, e a postagem no weblog de Marlinspike não forneceu detalhes específicos sobre como exatamente funcionará a colaboração com Meta ou quais são os objetivos específicos para integração.
Nem Marlinspike nem Meta forneceram à WIRED comentários adicionais antes da publicação.
Mallory Knodel, pesquisador de criptografia da Universidade de Nova York, diz que seria “ótimo para as pessoas que usam chatbots que usam Meta AI terem confidencialidade e privacidade nessa troca”. Crucialmente, isso significa que Meta não seria capaz de acessar dados de chat de IA para treinamento, diz Knodel, que junto com colegas publicou recentemente um estudo sobre criptografia ponta a ponta e IA. “Eu realmente espero que mais chatbots de IA adotem essa abordagem.”
Avaliações preliminares e iniciais de Knodel sobre Confer indicar que a plataforma não é perfeita, mas é um exemplo importante de como construir um chatbot de IA privado.
