À medida que a linha entre a automação de IA e a agência autônoma se desfaz, uma nova fronteira técnica está emergindo, agentes confiáveis e verificáveis que podem agir de forma independente em todos os ecossistemas. Sentamos com Matthieu Jung, gerente de marketing de produtos da IEXEC, para explorar o que essa mudança significa para o futuro da infraestrutura inteligente, que problemas ele resolve e como desenvolvedores e empresas devem estar pensando de maneira diferente sobre o cálculo baseado em agentes.
Ishan Pandey: Obrigado por se juntar a nós. Para começar, você pode explicar o que os “agentes de IA confiáveis” estão realmente em sua estrutura e como eles diferem dos agentes típicos de IA que vemos em automação ou produtos baseados em LLM?
Matthieu Jung: Todos sabemos que os agentes da IA são a nova interface. Eles mudam a maneira como criamos, construímos e colaboramos. Mas, para escalar, os agentes precisam de uma coisa: confie. A privacidade não é negociável. Os agentes trabalham com dados sensíveis: avisos privados, ativos de criptografia, carteiras. Sem privacidade, não há confiança e, sem agentes de confiança, não escalam. É por isso que os agentes de IA confiáveis correm inteiramente dentro de enclaves seguros como a Intel TDX. Nossa pilha de computação confidencial mantém sua lógica, dados e ações privadas, mesmo do host, enquanto gera provas verificáveis de execução. Ao contrário dos agentes típicos baseados em LLM que dependem das APIs centrais e expõem os dados do usuário, o IEXEC fornece a camada de confiança para que os agentes possam agir de forma autônoma com total confidencialidade e prova.
Ishan Pandey: A colaboração entre o IEXEC e o Eliza OS parece mesclar infraestrutura de privacidade com computação autônoma. Como você está tecnicamente alcançando verificabilidade e confidencialidade? Eles não estão frequentemente em conflito?
Matthieu Jung: Essa é uma ótima pergunta e é central para o que torna os agentes de IA confiáveis diferentes. A tensão entre confidencialidade e verificabilidade é real na maioria das arquiteturas, mas não na nossa.
Com a pilha Elizaos X Iexec, estamos alavancando ambientes de execução confiáveis (TEES), especificamente Intel TDX, para isolar não apenas a lógica do agente construída com Elizaos, mas também o próprio modelo de IA, aquele usado para treinar ou ajustar o agente. Isso é crucial. Isso significa que todo o ambiente de tempo de execução, incluindo os parâmetros lógicos e o modelo sensível, está protegido contra acesso externo, mesmo de hosts de nuvem ou administradores de sistema. Ao mesmo tempo, esses enclaves geram provas criptográficas que certificam a integridade da execução. É assim que alcançamos a verificabilidade: qualquer um pode verificar o que foi executado, sem ver como funciona. Não há necessidade de escolher entre expor o modelo para auditabilidade ou escondê -lo ao custo de confiança. Nós fornecemos os dois, graças à arquitetura da computação confidencial. Portanto, para resumir: os enclaves TDX trazem confidencialidade (protegendo o modelo e a lógica) e a verificabilidade (produzindo provas de execução correta). Essa é a base dos agentes de IA confiáveis.
Ishan Pandey: Em um mundo em que muitas startups de IA dependem fortemente de APIs centralizadas e modelos fechados, o que é preciso para construir agentes autônomos que são descentralizados pelo design?
Matthieu Jung: É preciso uma nova pilha que adiciona execução verificável privada às APIs. Com a computação confidencial, o IEXEC facilita a provar todas as ações da cadeia. A IEXEC acabou de lançar o IAPP Generator, uma ferramenta de desenvolvimento que permite que os desenvolvedores possam criar e implantar aplicativos confidenciais em minutos. Nossa equipe também está lançando servidores de protocolo de contexto de modelo MCP otimizados para agentes confiáveis para que possam escalar enquanto permanecem verificáveis.
Ishan Pandey: Como a infraestrutura da IEXEC ajuda os agentes a provar seu trabalho, estado ou lógica para partes externas?
Matthieu Jung: O IEXEC executa agentes dentro dos enclaves Intel TDX que geram provas assinadas do código, entradas e saídas. Essas provas podem ser compartilhadas em cadeia para que qualquer pessoa possa verificar a identidade do enclave e confirmar que o agente fez exatamente o que prometeu, sem nunca expor os dados ou código privados.
Ishan Pandey: Vamos falar sobre risco. Qual é a desvantagem potencial de permitir que agentes autônomos de IA operem em cadeias ou aplicações? Estamos prontos para inteligência verdadeiramente composta?
Matthieu Jung: Permitir que os agentes passem por correntes ou aplicativos gera novas superfícies de ataque e interações inesperadas. Um bug em um protocolo pode cascata em outro. Além disso, sem padrões claros, provar responsabilidade ou reverter as más ações fica complicadas. É por isso que a confiança e a governança ainda são tão importantes quando se trata de agentes descentralizados e automatização de ações na blockchain.
Ishan Pandey: Você pode nos levar por um exemplo hipotético ou caso de uso em que um agente de IA confiável é implantado na natureza, o que faz, como ele prova sua execução e por que é melhor que os modelos tradicionais?
Matthieu Jung: Imagine agentes de IA que negociam por você, gerenciando estratégias de defi, lendo sinais, colocando negociações e adaptando portfólios. Ele precisa interagir com dados e ativos confidenciais, como sua chave privada ou carteira. Com o IEXEC, a lógica do agente é confidencialmente em uma camiseta. Os comerciantes podem proteger seus conjuntos de dados, compartilhar acesso com segurança com um modelo e até receber alertas confidenciais. Todo comércio e todas as decisões são executadas com segurança e verificação. Eles podem até monetizar seus dados de negociação privados. Você não precisa confiar no dev ou no infra.
Ishan Pandey: Finalmente, para construtores e investidores assistindo à narrativa de confiança do agente de IA se desenrolar, quais são os sinais em que devem prestar atenção nos próximos 12 meses?
Matthieu Jung: Já sabemos que os agentes são a nova interface. E, infelizmente, isso significa que começaremos a ver vazamentos de avisos de agentes e exposições de dados, e isso ressaltará por que a execução privada é importante. Outra inovação que levará os agentes ao próximo nível é o MCP ou o Model Context Protocol. Ele permite que os agentes compartilhem com segurança instantâneos criptografados de seu estado de trabalho à medida que se movem e item em vários aplicativos. O IEXEC já implantou um servidor MCP. Essas tendências revelarão quem está realmente construindo agentes descentralizados e de privacidade em primeiro lugar em relação àquelas que ainda estão ligadas a APIs fechadas.
Não se esqueça de gostar e compartilhar a história!
