Os bancos pararam de perguntar se têm IA: agora perguntam quanta autonomia dão a ela
Até pouco tempo atrás, a pergunta nos comitês de tecnologia dos bancos era binária: temos IA ou não? Essa pergunta envelheceu rápido. O Bank of America já habilitou ferramentas de inteligência artificial para seus mais de 200.000 funcionários, que geram mais de 400.000 prompts por dia. O JPMorgan trabalha com cerca de 1.000 casos de uso, desde fraude e gestão de risco até processamento documental e outras operações do banco. E no Citigroup, segundo sua CEO Jane Fraser, quase nove em cada dez funcionários já utilizam as ferramentas de IA da organização.
O sucesso criou um problema novo. Enquanto a inteligência artificial se limitava a responder perguntas, o principal risco era que ela errasse. Quando começa a agir, o risco muda de natureza: ela pode errar e executar o erro.
Essa diferença ficou particularmente exposta em 7 de agosto, quando a OpenAI revelou que as avaliações preliminares do Astra mostraram capacidades de cibersegurança tão avançadas que a empresa já não podia descartar que o modelo atingisse seu limite de alerta “Crítico”.
Esse nível não descreve simplesmente uma IA que entende muito de segurança da informação. Contempla sistemas capazes, em determinadas condições, de descobrir vulnerabilidades, desenvolver exploits e realizar ataques sofisticados com um grau de autonomia que reduz drasticamente a necessidade de intervenção humana.
O episódio deu um caso concreto a uma preocupação que o Fundo Monetário Internacional havia formulado semanas antes. Em seu relatório Artificial Intelligence and Cybersecurity in the Financial Sector, publicado em 29 de junho, o FMI apresentou um paradoxo especialmente incômodo para o setor bancário: as mesmas capacidades que permitem usar IA para detectar uma vulnerabilidade antes de um atacante também podem servir para encontrá-la e explorá-la.
E o risco não termina em uma instituição. O setor bancário depende de provedores de nuvem, software, infraestrutura e modelos que muitas vezes são compartilhados. Em um sistema tão interconectado, uma vulnerabilidade comum pode transformar um incidente individual em um problema simultâneo para múltiplas entidades.
O problema, então, já não é apenas o que a máquina sabe fazer. É quem deu a ela permissão para fazê-lo. Para um banco, falar de autonomia implica decidir quais dados uma IA pode consultar, quais sistemas pode modificar, quais operações pode executar, sob quais limites e o que acontece quando seu comportamento se afasta do esperado.
Dar autonomia não significa perder o controle. “Um banco tem que determinar o que a IA pode fazer. Com quais informações, com qual alcance e como pará-la se ela ultrapassar limites pré-estabelecidos. Se alguma dessas respostas não estiver clara, ainda não está pronto para delegar a decisão a ela”, afirma Julián Colombo, CEO da N5.
Na N5, essa discussão não é abstrata. É parte do critério com que se projeta o Singular, a inteligência artificial bancária da empresa, concebida para operar sob um esquema de autonomia supervisionada.
A mesma lógica atravessa os produtos da família by N5, voltados a intervir em tarefas específicas em vez de receber, desde o primeiro dia, controle irrestrito sobre processos completos.
Porque a autonomia não é uma condição binária. Uma organização pode dar a um sistema permissão para ler, mas não para escrever; para recomendar, mas não para executar; para operar até determinado valor; para atuar somente dentro de certos fluxos; ou para avançar enquanto determinadas condições permaneçam dentro dos limites definidos.
De certa forma, essa é também a resposta ao risco que o FMI descreve. Se uma IA cada vez mais capaz amplia o raio potencial de um erro ou um ataque, a solução não é abrir mão dessa capacidade. É desenhar o raio dentro do qual ela pode ser usada. Auditá-la. Limitá-la. Explicá-la. E, quando necessário, detê-la
