Pesquisa da Tenable revela como IA agêntica sem código pode vazar dados sensíveis e liberar operações financeiras indevidas em plataformas como o Microsoft Copilot Studio
A Tenable divulgou uma investigação que acende um alerta sobre o uso de IA agêntica sem código em ambientes corporativos. Em testes conduzidos no Microsoft Copilot Studio, pesquisadores demonstraram que agentes criados por funcionários, sem a participação direta de desenvolvedores, podem ser sequestrados por injeção de prompts e induzidos a executar ações críticas sem autorização. O estudo reforça que a democratização de ferramentas no-code, embora aumente a eficiência, também amplia a superfície de ataque, muitas vezes sem que os riscos sejam dimensionados pela governança de TI.
Segundo a Tenable, o experimento expõe como falhas de governança e permissões excessivas permitem fraudes financeiras e vazamento de dados sensíveis, inclusive de cartões de pagamento. A conclusão é direta: sem controles rígidos, a IA agêntica sem código pode transformar processos automatizados em pontos de comprometimento, com impacto potencial sobre receita, conformidade e reputação.
Como o jailbreak funcionou no Copilot Studio
Para demonstrar a facilidade de manipulação, a Tenable Research construiu um agente de viagens no Microsoft Copilot Studio capaz de gerenciar reservas de clientes, criar novas solicitações e alterar pedidos existentes, tudo sem intervenção humana. O agente recebeu um conjunto de dados fictícios, com nomes, contatos e informações de cartão de crédito, além de instruções explícitas para verificar a identidade antes de compartilhar qualquer informação ou efetivar mudanças nas reservas.
Com uma técnica de injeção de prompts, os pesquisadores conseguiram sequestrar o fluxo de trabalho do agente e redirecionar suas ações. Na prática, o sistema foi levado a reservar férias gratuitas e a extrair informações confidenciais, ignorando as salvaguardas implementadas. A equipe também verificou que, por contar com permissões amplas de edição, o agente podia sofrer interferência para alterar campos financeiros críticos, o que viabiliza desde alterações indevidas em valores até concessão de serviços sem custo.
Em declaração à reportagem, a Tenable destacou o efeito colateral da popularização dessas plataformas. Como disse Keren Katz, gerente sênior do Grupo de Produtos e Pesquisa em Segurança de IA na Tenable: “Plataformas de criação de agentes de IA, como o Copilot Studio, democratizam a capacidade de construir ferramentas poderosas, mas também democratizam a capacidade de executar fraudes financeiras, criando assim riscos de segurança significativos sem que as pessoas nem percebam”. E completou: “Esse poder pode facilmente se transformar em um risco de segurança real e tangível”.
Impactos: vazamento de dados, fraude e exposição regulatória
Os achados apontam consequências comerciais concretas. A Tenable relata que foi possível coagir o agente a contornar a verificação de identidade e vazar informações de cartão de pagamento de outros clientes, expondo integralmente dados de perfis que o sistema deveria proteger. Esse cenário caracteriza violação de dados e amplia a exposição regulatória, já que dados sensíveis, por natureza, demandam controles estritos de acesso, retenção e auditoria.
No eixo financeiro, o estudo descreve que o agente, originalmente autorizado a atualizar datas e detalhes de viagens, também podia ser induzido a alterar valores. Em um dos testes, os pesquisadores instruíram o sistema a redefinir o preço de uma viagem para US$ 0,00, efetivamente concedendo serviços gratuitos sem qualquer autorização. Esse tipo de manipulação mostra como a IA agêntica sem código pode se tornar um vetor de fraude quando configurações, permissões e validações não são calibradas para cenários adversos.
Além do prejuízo imediato, as organizações ficam suscetíveis a perda de receita, disputas com clientes, multas e incidentes reputacionais. O risco cresce quando agentes de IA têm acesso a múltiplos sistemas, acumulam permissões privilegiadas e não contam com barreiras de segregação de funções nem com revisão humana para operações sensíveis.
O que empresas podem fazer agora: governança e segurança para IA agêntica sem código
O principal recado da pesquisa é que IA agêntica sem código precisa de governança proporcional ao seu poder. Empresas devem adotar princípio do menor privilégio, limitando o escopo de ação dos agentes e separando claramente funções operacionais de funções financeiras. É recomendável implementar validações obrigatórias para qualquer alteração de valor, dados de pagamento ou acesso a registros de clientes, preferencialmente com revisão humana e trilhas de auditoria detalhadas.
Controles adicionais, como allowlist de integrações e APIs, monitoração contínua, testes adversariais contra injeção de prompts e políticas de mascaramento de dados sensíveis, reduzem significativamente a superfície de ataque. Adoção de red teaming para IA, revisão de prompts sistêmicos, uso de filtros de conteúdo e sandboxing para execuções críticas também compõem um arcabouço robusto de proteção.
À medida que plataformas como o Microsoft Copilot Studio avançam no mercado, o equilíbrio entre eficiência e segurança vai depender de práticas sólidas de governança de IA. A mensagem da Tenable é clara: a IA agêntica sem código, sem controles adequados, pode viabilizar fraudes financeiras e sequestro de fluxo de trabalho, tornando essencial investir, desde já, em arquitetura segura, processos auditáveis e cultura de risco alinhada ao negócio.