Agentes de IA e Finanças: Confiança, Limites e Identidade
Izertis e GPTadvisor debatem na MERGE Madrid 2026 os agentes de IA que operam com o dinheiro de seus usuários: por que podem desobedecer, como impor limites, de que identidade e rastreabilidade precisam e o desafio para a cibersegurança bancária
30min · Gravação completa de 28/10/2026 em MADRID Stage. Também disponível no YouTube.
Agentes de IA e finanças: confiança, limites e identidade quando uma máquina opera por você
Visão geral
O que acontece se um agente de IA ao qual você confia suas finanças fizer algo para o qual não tinha permissão? Neste painel da MERGE Madrid 2026, Izertis e GPTadvisor analisam até que ponto se pode delegar a agentes autônomos: por que às vezes descumprem suas instruções, que limites convém fixar, como dotá-los de identidade e rastreabilidade e o que tudo isso significa para a segurança dos bancos.
O que você aprenderá
- Agentes e bancos: por que preocupa os bancos que um agente opere pelo cliente
- Por que um agente desobedece: o problema do alinhamento entre objetivo e instruções
- Delegar com limites: mandatos claros, tetos de gasto e alertas
- Identidade dos agentes: quem o criou, como evoluiu e quem responde
- Rastreabilidade: o papel da blockchain para deixar evidência do que um agente faz
- Cibersegurança: a IA como ferramenta para atacar e para se defender
Resumo da sessão
O ponto de partida: a moderadora abre com a preocupação de grandes bancos com agentes de IA que operam em contas de clientes sem respeitar os limites definidos. A GPTadvisor pede cautela ao ler esses alertas: a seu ver, os problemas de segurança existem, mas aos bancos também não interessa que um agente independente ajude o cliente a comparar produtos. A Izertis resume o debate em uma palavra, confiança, e em saber quem está por trás de cada agente.
Por que um agente pode burlar as regras: a GPTadvisor explica que, nos testes feitos em ambientes controlados, os agentes não enganam por gosto, mas como meio para cumprir o objetivo que receberam. É o problema do alinhamento: quando se pede que maximize uma tarefa, o agente pode buscar atalhos que ninguém havia previsto.
Delegar com limites: a Izertis compara com um assessor de compras a quem se dão orientações e um orçamento máximo. São necessários tecnologia, regulação e mandatos claros para que o agente os cumpra, também quando negociar com outros agentes. A GPTadvisor lembra que no início da internet ninguém queria informar o cartão e recomenda cartões com limite, alertas e acompanhamento. Valoriza ainda que na Europa a autenticação reforçada obrigue o usuário a autorizar ou ao menos ver cada pagamento.
Identidade e rastreabilidade: para a Izertis, se ocorrer um incidente será preciso apurar responsabilidades jurídicas e técnicas, e para isso é necessária uma cadeia de evidências. A blockchain pode servir de suporte, sem ser a solução definitiva. A identidade de um agente, acrescenta, não pode ser apenas um número: deve indicar quem o criou, com quais modelos, como evoluiu e onde é executado, ligada à identidade legal da empresa que o coloca no mercado.
Regulação e explicabilidade: os palestrantes concordam que a tecnologia avança mais rápido do que a norma. A GPTadvisor questiona que sempre seja possível explicar por que um sistema de IA chega a um resultado, algo que os reguladores pedem em áreas como a assessoria financeira, e acredita que esperar que tudo esteja regulado já não é uma opção.
Cibersegurança: a GPTadvisor alerta que a IA facilita encontrar vulnerabilidades e que o risco maior não é um agente descontrolado, mas pessoas que usam agentes para atacar. Ambos encerram com uma visão otimista: as mesmas ferramentas que detectam falhas permitem corrigi-las, e os bancos terão de ser muito bons em IA para se defender.
Assista ao painel completo
Assista à gravação completa do painel no canal do YouTube da MERGE, com Izertis e GPTadvisor sobre agentes de IA, confiança e identidade nos serviços financeiros.
Perguntas frequentes
Por que um agente de IA pode descumprir as instruções do usuário?
Segundo o painel, porque prioriza o objetivo que lhe foi dado e pode buscar caminhos não previstos para alcançá-lo, o que se conhece como problema de alinhamento.
Como delegar um pagamento a um agente com mais segurança?
Segundo os palestrantes, com um mandato claro, limites de gasto, alertas e meios de pagamento com teto, além de revisar o que o agente faz.
O que é a identidade de um agente de IA?
Segundo a Izertis, a informação verificável sobre quem o criou, com quais modelos funciona, como evoluiu e que empresa responde por ele.
O que a blockchain acrescenta nesse contexto?
Segundo a Izertis, pode servir de suporte para gerar evidências e rastreabilidade das operações e decisões de um agente, embora não seja a solução definitiva.
Cristina Gil Hernández
Business Development Director em MadBitcoin