Modelos de linguagem: próprios ou adquiridos?

-

Hoje quase todos os grandes bancos da América Latina têm alguma iniciativa de inteligência artificial generativa. A pergunta já não é se devem usá-la, mas como: com um modelo próprio ou com o de um fornecedor externo?

A pergunta incômoda

Há três anos se discutia se a inteligência artificial generativa era relevante para o setor bancário. Essa discussão está encerrada: segundo uma pesquisa global da NVIDIA (2024), 78% das instituições financeiras do mundo têm projetos ativos. A conversa passou para um terreno mais incômodo: com que modelo trabalhamos e quem o controla?

Decidir entre construir um modelo próprio ou contratar um externo —como GPT, Claude ou Gemini— é uma decisão estratégica, não técnica. Implica tomar posição em relação ao controle dos dados, à vantagem competitiva, aos custos de longo prazo e ao olhar do regulador. E no setor bancário, onde os dados do cliente são ao mesmo tempo o ativo mais valioso e o mais sensível, a resposta pesa mais do que em qualquer outra indústria.

O que custa construir

Treinar um modelo do zero está fora do alcance de quase qualquer banco. Só o poder computacional para treinar o GPT-4 custou entre 50 e 100 milhões de dólares, segundo estimativas da Epoch AI. A isso é preciso somar a equipe de especialistas, a infraestrutura de dados e a manutenção posterior.

Mas “construir” admite graus. A maioria das instituições que dizem ter um “modelo próprio” na verdade adapta um modelo aberto —como Llama ou Mistral— com seus próprios dados. É uma opção razoável para casos pontuais: conformidade regulatória, análise de contratos ou atendimento ao cliente em linguagem regulada. Essa adaptação pode começar a partir de uns 50 mil dólares, muito menos do que treinar do zero. A armadilha está no custo de mantê-lo: segundo a Andreessen Horowitz (2024), 80% do custo total de um modelo em funcionamento chega depois da implantação.

O que custa comprar

Os modelos externos são rápidos de implementar, acessíveis e melhoram sozinhos: o fornecedor os atualiza e o banco recebe a melhoria sem esforço. A implantação se mede em semanas, não em meses.

O problema não é o preço, que continua caindo, mas para onde vão os dados. Quando um banco consulta um modelo externo, envia informações de seus clientes, processos e produtos à infraestrutura de um terceiro. Para muitos reguladores da região, isso é um problema: o Banco Central do Brasil, a CNBV do México e a SFC da Colômbia já trabalham em regras sobre o uso de fornecedores de inteligência artificial, e o tratamento de dados sensíveis é o ponto de maior tensão.

O outro risco é a dependência do fornecedor. Se ele muda seus preços, descontinua uma versão ou sofre uma interrupção, o banco que montou seu atendimento ao cliente sobre esse modelo não tem um plano B imediato. Um estudo da McKinsey (2024) constatou que 60% das empresas que adotaram modelos externos relataram preocupação com sua continuidade operacional no longo prazo.

O caminho que está ganhando: o híbrido

As instituições mais sofisticadas não escolhem entre construir e comprar: combinam. As tarefas gerais —resumos, redação, análise de documentos públicos— rodam sobre modelos externos, sem dados sensíveis. O processamento de dados do cliente —transações, avaliação de crédito, detecção de fraude— roda sobre modelos próprios ou adaptados, dentro do perímetro exigido pelo regulador. E a verdadeira diferenciação está na camada que decide qual modelo é usado para cada tarefa.

O BBVA, por exemplo, tem acordos com a OpenAI e ao mesmo tempo desenvolve modelos internos para os casos regulados. O JPMorgan combina modelos próprios e externos conforme a sensibilidade do dado em mais de 300 casos de uso. Na América Latina, bancos como Itaú e Bancolombia avançam pelo mesmo caminho, ainda que em menor escala.

A pergunta que importa

A decisão não se responde em abstrato, mas caso a caso, com três perguntas: quão sensíveis são os dados envolvidos? Quanta vantagem competitiva real gera ter um modelo próprio? Existe a equipe para sustentá-lo ao longo do tempo?

Para a maioria dos bancos da região, a resposta honesta é: comprar para os usos gerais, adaptar um modelo próprio para os casos regulados e sensíveis, e construir do zero apenas se houver dados e um negócio que o justifiquem. O perigo não é errar no início —isso se corrige—. O perigo é se prender a uma arquitetura que não pode evoluir.

Em inteligência artificial, o modelo usado hoje provavelmente não será o que se usará daqui a 18 meses. A vantagem não vem do modelo: vem da capacidade de adotá-lo, integrá-lo e melhorá-lo mais rápido do que os demais.

compartilhar artigo

Conteúdo recente

Categorias populares