O fundador do Sign tem trabalhado silenciosamente em um chatbot de IA de código aberto e criptografado de ponta a ponta, projetado para manter as conversas dos usuários em segredo.
Em uma série de postagens no weblog, Moxie Marlinspike deixa claro que, embora seja um fã de grandes modelos de linguagem, ele está preocupado com a pouca privacidade que a maioria das plataformas de IA oferece atualmente.
Marlinspike argumenta que, assim como o Sign, a interface de um chatbot deve refletir com precisão o que está acontecendo nos bastidores. O Sign parece uma conversa privada porque é uma só. Enquanto isso, chatbots como ChatGPT e Claude parecem um espaço seguro para trocas íntimas ou um diário privado, embora as conversas dos usuários possam ser acessadas pela empresa por trás deles e às vezes usadas para treinamento.
Em outras palavras, se um chatbot sentir que você está tendo uma conversa privada, Marlinspike diz que ele também deveria funcionar dessa maneira.
Ele diz que isso é especialmente importante porque os LLMs representam o primeiro grande meio de tecnologia que “convida ativamente à confissão.” À medida que as pessoas conversam com esses sistemas, elas acabam compartilhando muito sobre como seu cérebro funciona, incluindo padrões de pensamento e incertezas.
Marlinspike alerta que esse tipo de informação pode facilmente ser direcionada contra os usuários, com os anunciantes eventualmente explorando insights sobre eles para vender produtos ou influenciar comportamentos.
Sua solução proposta é o Confer, um chatbot de IA que criptografa prompts e respostas para que somente o usuário possa acessá-los.
“O Confer foi projetado para ser um serviço onde você pode explorar ideias sem que seus próprios pensamentos possam conspirar contra você algum dia; um serviço que quebra o ciclo de suggestions de seus pensamentos, transformando-se em anúncios direcionados, tornando-se pensamentos; um serviço onde você pode aprender sobre o mundo – sem corretores de dados e treinamentos futuros aprendendo sobre você”, escreveu Marlinspike
O Sign foi fundado em 2014 com base em princípios semelhantes, e seu protocolo de mensagens criptografadas de código aberto foi eventualmente adotado pelo WhatsApp da Meta apenas alguns anos depois. Portanto, é possível que a Meta e outros gigantes da tecnologia possam eventualmente adotar a tecnologia da Confer também.
Como funciona
De acordo com Marlinspike, o Confer foi projetado para que as conversas dos usuários sejam criptografadas antes mesmo de eles saírem de seus dispositivos, semelhante ao funcionamento do Sign.
Os prompts são criptografados no computador ou telefone do usuário e enviados aos servidores do Confer nesse formato e, em seguida, descriptografados apenas em um ambiente de dados seguro para gerar uma resposta.
O Confer faz isso usando uma combinação de ferramentas de segurança. Em vez de senhas tradicionais, ele usa chaves de acesso, como Face ID, Contact ID ou um PIN de desbloqueio de dispositivo em dispositivos de usuários verificados, para obter chaves de criptografia.
Quando chega a hora da IA responder, o Confer usa o que chama de computação confidencial, onde o isolamento imposto por {hardware} é usado para executar código em um ambiente de execução confiável (TEE).
“A máquina host fornece CPU, memória e energia, mas não pode acessar a memória ou o estado de execução do TEE”, Marlinspike.
Com o “pensamento” ou inferência do LLM executado em uma máquina digital confidencial, a resposta é então criptografada e enviada de volta ao usuário.
O {hardware} também produz prova criptográfica, conhecida como atestado, que permite ao dispositivo do usuário verificar se tudo está funcionando como deveria.
Tudo isso é feito para manter os dados dos usuários seguros e não, como diz Marlinspike, enviados para “um knowledge lake projetado especificamente para extrair significado e contexto”.
