Como a inteligência artificial concentra poder em algoritmos opacos e nos obriga a repensar regulação, transparência e debate público
As democracias modernas foram construídas sobre um pilar simples, porém poderoso: tanto as decisões individuais quanto as coletivas reconhecem um auditor maior — o “soberano”, o conjunto dos cidadãos.
Em uma era em que grande parte do mundo combate o autoritarismo, a inteligência artificial se ergue como uma possível ameaça de retorno a momentos históricos em que não se podia pensar nada além da cultura oficial.
É surpreendente que uma tecnologia que representa promessa de futuro possa introduzir uma novidade inquietante. Não veremos botas nazistas ou uniformes exibindo o poder das armas, mas poderemos estar sujeitos a forças invisíveis que operam por influência, repetição e opacidade.
A IA não é, por definição, inimiga da democracia. O problema surge quando seu desenvolvimento e uso avançam mais rápido do que nossa capacidade de compreendê-la, regulá-la e debatê-la publicamente.
Em um evento recente sobre Inteligência Artificial e Indústria Financeira, o CEO da N5 — empresa dedicada ao desenvolvimento de produtos de IA — refletiu sobre um ponto inquietante ao responder a uma pergunta sobre otimização de tarefas e desemprego:
“À medida que a IA substituir empregos, muitas pessoas perderão sua fonte de renda.
Suponhamos que o sistema resolvesse isso com uma renda universal, solução frequentemente sugerida. Isso não substituiria as outras dimensões da atividade laboral. O trabalho não está ligado apenas à compensação financeira. É difícil ser feliz quando não se produz, não se cria, não se transforma a própria realidade.
E isso sempre partindo do pressuposto de que os governos QUEIRAM resolver o problema da trivialização humana. A história nos mostra que, em muitos momentos, os incentivos das autoridades têm uma conexão frágil com os de seus governados.
Na Grécia ou em Roma, os cidadãos conquistaram grande parte de seus direitos quando o Estado precisou de homens comuns — principalmente para a guerra, a produção ou a expansão.
Em um mundo como o atual, em que guerras são vencidas com drones e o trabalho pode ser feito por robôs, é difícil não prever um afastamento dos valores democráticos. Por que buscar votos quando o poder bélico ou econômico depende mais da obediência da máquina do que da vontade humana? Por isso é indispensável fortalecer instituições que garantam um modelo com o ser humano no centro.”
Colombo também apontou um antídoto:
“Pensando de forma contemporânea, em nenhum país democrático há espaço para permitir, por exemplo, que uma IA substitua motoristas de transporte público. Por quê? Porque nenhum partido político supera o segundo colocado por uma margem maior do que o número de cidadãos que ficariam sem emprego. Nesse caso, a democracia funciona como reguladora. Por isso é mais essencial do que nunca.”
Poder concentrado, decisões invisíveis
A filósofa Hannah Arendt alertava que o poder se torna perigoso quando deixa de ser visível e discutível. Algo semelhante ocorre hoje com muitos sistemas de IA: concentram poder em poucos atores — grandes empresas de tecnologia ou Estados — e o exercem por meio de algoritmos opacos, difíceis de auditar até mesmo por especialistas.
Quando uma decisão importante é explicada com um “foi o algoritmo”, a responsabilidade política se dilui. Quem responde se o sistema discrimina, erra ou manipula?
A democracia se baseia em responsabilidades identificáveis. As “caixas-pretas” da IA, por enquanto, não tornam transparentes nem seus meios nem seus fins — muito menos seus responsáveis.
O espaço público sob pressão
m dos riscos mais concretos surge no coração da vida democrática: o debate público.
A IA permite segmentar mensagens políticas de forma enviesada, adaptando-as a medos, desejos e preconceitos individuais. Dois cidadãos podem receber discursos completamente distintos — até contraditórios — do mesmo candidato, sem saber.
Yuval Harari já apontou que, pela primeira vez, a tecnologia permite influenciar milhões de pessoas de maneira personalizada e automática.
Quando o espaço público deixa de ser comum, a deliberação democrática se fragmenta perigosamente.
Um exemplo simples
Imaginemos uma eleição em que todos os cidadãos estejam no radar de uma IA poderosa que gere a campanha.
Um eleitor indeciso recebe mensagens emocionais desenhadas para gerar medo; outro, promessas otimistas; um terceiro, notícias falsas cuidadosamente calibradas. Nenhum vê o que os outros veem. Não há debate — apenas estímulos personalizados. Uma versão sofisticada do “dividir para conquistar”.
A má notícia: isso já acontece.
Velocidade contra deliberação
A democracia é, por natureza, lenta. Como tudo o que exige debate, fricção e tempo institucional.
A IA é especialista em acelerar tudo. Decide em milissegundos, escala sem esforço e premia eficiência acima da reflexão.
O risco não está apenas nas decisões automatizadas, mas na velocidade com que elas acontecem diante de nossos olhos.
A pergunta incômoda
Como lembra Timnit Gebru, o debate sobre IA não é apenas técnico — é profundamente político: quem projeta os sistemas, com quais dados e em benefício de quem?
Já não discutimos se a IA deve ser usada, mas sob quais regras democráticas ela deve operar. Sem transparência, controle social e prestação de contas, a IA pode ampliar desigualdades e corroer a confiança nas instituições.
A democracia não morre quando as máquinas aprendem a pensar. Ela morre quando os cidadãos deixam de entender, questionar e decidir.
A inteligência artificial pode fortalecer nossas sociedades — mas apenas se aceitarmos que sua governança não é um tema para especialistas isolados, e sim uma conversa pública urgente.
Em setores como o financeiro, onde decisões impactam milhões de pessoas, implementar IA exige não apenas eficiência, mas transparência, rastreabilidade e responsabilidade institucional.
Se sua organização está avaliando como incorporar inteligência artificial de forma ética, estratégica e alinhada a princípios democráticos, a equipe da N5 está pronta para continuar essa conversa.
