Um assistente que arredonda um saldo ou inventa uma taxa não comete um erro menor: no setor bancário regulado, cada palavra pode terminar em uma reclamação, uma multa ou um processo.
Ariel escreve para o chatbot do seu banco para perguntar quanto lhe cobrariam para quitar o empréstimo antes do prazo. A resposta chega em segundos, em tom seguro: “a multa é de 1% sobre o saldo restante”. Ariel faz as contas, decide que vale a pena quitar e transfere o dinheiro. Um mês depois, o extrato mostra uma cobrança diferente: 4%, não 1%. Ele reclama, e o banco leva semanas para conseguir explicar de onde saiu o número que o assistente tinha informado. Ninguém sabe ao certo, porque ninguém projetou esse número: o modelo o gerou porque soava como uma resposta razoável.
Quando o modelo completa o que não sabe
Os modelos de linguagem não falham como falha um programa tradicional, com um erro visível que interrompe a execução. Falham completando: quando não têm o dado exato, geram o dado mais provável segundo o padrão do texto, com a mesma confiança com que teriam dado o dado correto. Para uma recomendação de filme, esse hábito é quase uma virtude. Para uma taxa, uma data de vencimento ou um saldo, é um problema, porque o cliente não tem como distinguir uma resposta verificada de uma inventada: as duas soam igualmente seguras.
No banco, não existe erro pequeno
Esse mesmo comportamento, tolerável em outros setores, muda de categoria no setor bancário. Informar errado uma taxa, um prazo ou uma condição não é uma anedota: é informação regulada, com órgãos de defesa do consumidor e reguladores financeiros que existem justamente para isso. Um cliente que tomou uma decisão com base em um dado falso tem uma reclamação legítima, e o banco responde pelo que o seu assistente disse com a mesma seriedade com que responderia pelo que um funcionário disse em uma agência. A diferença é que um funcionário consegue lembrar por que disse o que disse. Um modelo que gerou um número do nada, não.
Ninguém consegue reconstruir de onde saiu a resposta
Aí aparece o segundo problema, mais silencioso: quando a reclamação chega, alguém no banco precisa conseguir explicar como se chegou àquela resposta. Se o número saiu de um processo generativo sem restrições, não há nada a reconstruir: não houve uma consulta a um sistema, não houve uma regra aplicada, houve uma inferência estatística sobre texto. Auditoria e compliance ficam sem nada para mostrar ao regulador, além de “o modelo errou”, que não é uma resposta que um banco possa dar.
A resposta: cada dado com uma fonte por trás
Com o Singular, nenhum agente inventa um número porque nenhum o gera livremente: toda taxa, saldo, prazo ou condição que aparece em uma conversa é obtida consultando ao vivo os sistemas do banco, e não completando um padrão de texto. Nos temas regulados, o Studio permite ao banco definir de antemão exatamente o que cada agente pode e não pode dizer, com as fontes oficiais como única origem possível dessa resposta: não há margem para o modelo improvisar um número. Cada conversa fica registrada de ponta a ponta, então, se um cliente ou um regulador perguntar por que o assistente disse o que disse, o banco pode mostrar exatamente qual dado e qual regra o geraram. E o Comandante monitora ao vivo cada conversa, para que uma resposta duvidosa seja corrigida antes de chegar ao cliente, e não depois de já ter gerado uma reclamação.
A diferença não é que o Singular seja mais cauteloso: é que a precisão não depende da sorte de o modelo ter completado bem desta vez. Cada resposta pode ser comprovada, porque cada resposta tem um dado real por trás.
No último artigo da série: o que acontece quando essas conversas se multiplicam aos milhares ao mesmo tempo, e por que escalar não pode significar perder qualidade?

