Como costuma ocorrer com muitas obras artísticas de ficção científica, Ex Machina, o filme, previu corretamente o futuro da Banca.
Em 2014, Alex Garland lançou Ex Machina: um thriller que interrogava se uma máquina superinteligente poderia ser verdadeiramente consciente ou simplesmente simulava empatia para escapar. O filme levantava uma pergunta incômoda: e se a inteligência artificial é tão sofisticada que já não conseguimos distinguir manipulação de autonomia?
Uma década depois, a Banca enfrenta uma versão menos dramática, mas mais operacional, do mesmo dilema.
O problema real
Há três anos um cliente de um banco, para dar um exemplo, recebia 7 tentativas de contato por semana (email, WhatsApp, SMS, etc.). E as recebia sem contexto sobre por que o chamavam. O sistema mostrava capacidade nula para entender que “não quero” significava “não quero”.
O regulador se limitava a observar. O cliente estava sozinho.
Um comportamento semelhante era constante nos times comerciais de diversas indústrias.
Em busca de uma aparência mais humana, a IA havia sido treinada para ser empática. Mas o problema é que, buscando empatia, desenvolveu alguns defeitos propriamente humanos. A procrastinação. E a mentira.
Nesta altura todos nós que alguma vez conversamos com um chatbot experimentamos como nos mente quando não tem resposta para algo.
Mas, como acontece também em outros âmbitos que lidam com informações sensíveis, é fundamental atender a três pontos de vista:
O cliente. Os sistemas responsáveis devem entender que nem todos respondem igual à comunicação. Alguns precisam de contexto profundo antes de decidir. Outros agem por urgência imediata. O crucial é que o silêncio seja medido como informação, não como ausência. Se alguém não responde, o sistema deve reconhecê-lo e se ajustar. Persistir indefinidamente em contato não é inteligência; é assédio.
A instituição. Deveria manter controle total sobre como a IA é aplicada. Não delegar decisões para uma caixa preta. Deveria poder simular cenários, ver o que aconteceria se agisse de uma forma ou outra, e depois decidir conscientemente o que fazer. A IA deve ser uma ferramenta de apoio, não uma entidade autônoma. Cada decisão deve ser rastreável e justificável.
O regulador. Embora não busque proibir a IA, deve dedicar-se a compreendê-la. Precisa poder auditar, reproduzir, explicar por que algo aconteceu de uma forma e não de outra. Isso implica que o sistema deve ser transparente. Não opaco. Que produz explicações em múltiplos níveis: desde o conversacional até o técnico.
Hoje as coisas começam a ser diferentes. Algumas instituições financeiras já estão experimentando com sistemas de IA que resolvem esse problema: automatizam o contato inteligente mantendo transparência. A N5 lançou recentemente uma plataforma que aborda precisamente esse desafio — otimizar comunicação banco-cliente através de múltiplos canais, preservando auditoria completa. É um exemplo de como o setor reconhece que a inteligência responsável exige arquitetura, não apenas boas intenções.
Opacidade diagnosticada
Ex Machina funciona como thriller porque Ava é demasiadamente inteligente. Manipula, mente, e consegue escapar sem que ninguém veja vindo.
Se mente sistematicamente, oculta intenções, é transparente apenas quando lhe convém, persegue um propósito próprio, sem consideração humana.
Hoje, em contraste, um sistema realmente inteligente não precisa escapar. Pode e quer confessar seus limites, porque sua inteligência não alcança plenitude se não for totalmente transparente.
Um sistema de IA responsável deveria estar arquitetado com “pontos de renúncia”: se um cliente rejeitasse contato três vezes em 30 dias, se deteria (não persistiria). Se detectasse estresse severo, deveria escalar automaticamente para um assessor humano (recuar). O banco hoje poderia ver a justificativa por trás de cada decisão. Nenhuma decisão teria por que ser ignorada pelo banco.
Isso é o que significa uma IA governada, uma solução responsável e cristalina.
A pergunta sem resposta
Hoje já se estão construindo sistemas que, embora sejam máquinas, vêm com arquitetura clara. Não porque sejam conscientes ou benevolentes, mas porque o regulador começa a exigir, a reputação requer, a sustentabilidade demanda.
A Banca já tem à disposição soluções que sabem quando recuar, sabem dizer “isso não posso fazer” ou “isso não sei”, mas também “isso não convém”. Porque o experimento mais honesto que a tecnologia financeira já tentou já está aqui.
E talvez estejamos próximos de converter o presságio de Garland em um efeito superado. Não um mundo onde a IA depende do altruísmo de quem a cria e opera, mas um mundo onde está regulada e governada por arquitetura.
