As democracias modernas foram constru\u00eddas sobre um pilar simples, por\u00e9m poderoso: tanto as decis\u00f5es individuais quanto as coletivas reconhecem um auditor maior \u2014 o \u201csoberano\u201d, o conjunto dos cidad\u00e3os.<\/p>\n\n\n\n
Em uma era em que grande parte do mundo combate o autoritarismo, a intelig\u00eancia artificial se ergue como uma poss\u00edvel amea\u00e7a de retorno a momentos hist\u00f3ricos em que n\u00e3o se podia pensar nada al\u00e9m da cultura oficial.<\/p>\n\n\n\n
\u00c9 surpreendente que uma tecnologia que representa promessa de futuro possa introduzir uma novidade inquietante. N\u00e3o veremos botas nazistas ou uniformes exibindo o poder das armas, mas poderemos estar sujeitos a for\u00e7as invis\u00edveis que operam por influ\u00eancia, repeti\u00e7\u00e3o e opacidade.<\/p>\n\n\n\n
A IA n\u00e3o \u00e9, por defini\u00e7\u00e3o, inimiga da democracia. O problema surge quando seu desenvolvimento e uso avan\u00e7am mais r\u00e1pido do que nossa capacidade de compreend\u00ea-la, regul\u00e1-la e debat\u00ea-la publicamente.<\/p>\n\n\n\n
Em um evento recente sobre Intelig\u00eancia Artificial e Ind\u00fastria Financeira, o CEO da N5 \u2014 empresa dedicada ao desenvolvimento de produtos de IA \u2014 refletiu sobre um ponto inquietante ao responder a uma pergunta sobre otimiza\u00e7\u00e3o de tarefas e desemprego:<\/p>\n\n\n\n \u201c\u00c0 medida que a IA substituir empregos, muitas pessoas perder\u00e3o sua fonte de renda. Colombo tamb\u00e9m apontou um ant\u00eddoto:<\/p>\n\n\n\n \u201cPensando de forma contempor\u00e2nea, em nenhum pa\u00eds democr\u00e1tico h\u00e1 espa\u00e7o para permitir, por exemplo, que uma IA substitua motoristas de transporte p\u00fablico. Por qu\u00ea? Porque nenhum partido pol\u00edtico supera o segundo colocado por uma margem maior do que o n\u00famero de cidad\u00e3os que ficariam sem emprego. Nesse caso, a democracia funciona como reguladora. Por isso \u00e9 mais essencial do que nunca.\u201d<\/p><\/blockquote><\/figure>\n\n\n\n A fil\u00f3sofa Hannah Arendt alertava que o poder se torna perigoso quando deixa de ser vis\u00edvel e discut\u00edvel. Algo semelhante ocorre hoje com muitos sistemas de IA: concentram poder em poucos atores \u2014 grandes empresas de tecnologia ou Estados \u2014 e o exercem por meio de algoritmos opacos, dif\u00edceis de auditar at\u00e9 mesmo por especialistas.<\/p>\n\n\n\n Quando uma decis\u00e3o importante \u00e9 explicada com um \u201cfoi o algoritmo\u201d, a responsabilidade pol\u00edtica se dilui. Quem responde se o sistema discrimina, erra ou manipula?<\/p>\n\n\n\n A democracia se baseia em responsabilidades identific\u00e1veis. As \u201ccaixas-pretas\u201d da IA, por enquanto, n\u00e3o tornam transparentes nem seus meios nem seus fins \u2014 muito menos seus respons\u00e1veis.<\/p>\n\n\n\n m dos riscos mais concretos surge no cora\u00e7\u00e3o da vida democr\u00e1tica: o debate p\u00fablico.<\/p>\n\n\n\n A IA permite segmentar mensagens pol\u00edticas de forma enviesada, adaptando-as a medos, desejos e preconceitos individuais. Dois cidad\u00e3os podem receber discursos completamente distintos \u2014 at\u00e9 contradit\u00f3rios \u2014 do mesmo candidato, sem saber.<\/p>\n\n\n\n Yuval Harari j\u00e1 apontou que, pela primeira vez, a tecnologia permite influenciar milh\u00f5es de pessoas de maneira personalizada e autom\u00e1tica.<\/p>\n\n\n\n Quando o espa\u00e7o p\u00fablico deixa de ser comum, a delibera\u00e7\u00e3o democr\u00e1tica se fragmenta perigosamente.<\/p>\n\n\n\n Imaginemos uma elei\u00e7\u00e3o em que todos os cidad\u00e3os estejam no radar de uma IA poderosa que gere a campanha.<\/p>\n\n\n\n Um eleitor indeciso recebe mensagens emocionais desenhadas para gerar medo; outro, promessas otimistas; um terceiro, not\u00edcias falsas cuidadosamente calibradas. Nenhum v\u00ea o que os outros veem. N\u00e3o h\u00e1 debate \u2014 apenas est\u00edmulos personalizados. Uma vers\u00e3o sofisticada do \u201cdividir para conquistar\u201d.<\/p>\n\n\n\n A m\u00e1 not\u00edcia: isso j\u00e1 acontece.<\/p>\n\n\n\n A democracia \u00e9, por natureza, lenta. Como tudo o que exige debate, fric\u00e7\u00e3o e tempo institucional.<\/p>\n\n\n\n A IA \u00e9 especialista em acelerar tudo. Decide em milissegundos, escala sem esfor\u00e7o e premia efici\u00eancia acima da reflex\u00e3o.<\/p>\n\n\n\n O risco n\u00e3o est\u00e1 apenas nas decis\u00f5es automatizadas, mas na velocidade com que elas acontecem diante de nossos olhos.<\/p>\n\n\n\n Como lembra Timnit Gebru, o debate sobre IA n\u00e3o \u00e9 apenas t\u00e9cnico \u2014 \u00e9 profundamente pol\u00edtico: quem projeta os sistemas, com quais dados e em benef\u00edcio de quem?<\/p>\n\n\n\n J\u00e1 n\u00e3o discutimos se a IA deve ser usada, mas sob quais regras democr\u00e1ticas ela deve operar. Sem transpar\u00eancia, controle social e presta\u00e7\u00e3o de contas, a IA pode ampliar desigualdades e corroer a confian\u00e7a nas institui\u00e7\u00f5es.<\/p>\n\n\n\n A democracia n\u00e3o morre quando as m\u00e1quinas aprendem a pensar. Ela morre quando os cidad\u00e3os deixam de entender, questionar e decidir.<\/p>\n\n\n\n A intelig\u00eancia artificial pode fortalecer nossas sociedades \u2014 mas apenas se aceitarmos que sua governan\u00e7a n\u00e3o \u00e9 um tema para especialistas isolados, e sim uma conversa p\u00fablica urgente.<\/p>\n\n\n\n Em setores como o financeiro, onde decis\u00f5es impactam milh\u00f5es de pessoas, implementar IA exige n\u00e3o apenas efici\u00eancia, mas transpar\u00eancia, rastreabilidade e responsabilidade institucional.
Suponhamos que o sistema resolvesse isso com uma renda universal, solu\u00e7\u00e3o frequentemente sugerida. Isso n\u00e3o substituiria as outras dimens\u00f5es da atividade laboral. O trabalho n\u00e3o est\u00e1 ligado apenas \u00e0 compensa\u00e7\u00e3o financeira. \u00c9 dif\u00edcil ser feliz quando n\u00e3o se produz, n\u00e3o se cria, n\u00e3o se transforma a pr\u00f3pria realidade.
E isso sempre partindo do pressuposto de que os governos QUEIRAM resolver o problema da trivializa\u00e7\u00e3o humana. A hist\u00f3ria nos mostra que, em muitos momentos, os incentivos das autoridades t\u00eam uma conex\u00e3o fr\u00e1gil com os de seus governados.
Na Gr\u00e9cia ou em Roma, os cidad\u00e3os conquistaram grande parte de seus direitos quando o Estado precisou de homens comuns \u2014 principalmente para a guerra, a produ\u00e7\u00e3o ou a expans\u00e3o.
Em um mundo como o atual, em que guerras s\u00e3o vencidas com drones e o trabalho pode ser feito por rob\u00f4s, \u00e9 dif\u00edcil n\u00e3o prever um afastamento dos valores democr\u00e1ticos. Por que buscar votos quando o poder b\u00e9lico ou econ\u00f4mico depende mais da obedi\u00eancia da m\u00e1quina do que da vontade humana? Por isso \u00e9 indispens\u00e1vel fortalecer institui\u00e7\u00f5es que garantam um modelo com o ser humano no centro.\u201d<\/p><\/blockquote><\/figure>\n\n\n\nPoder concentrado, decis\u00f5es invis\u00edveis<\/strong><\/h3>\n\n\n\n
O espa\u00e7o p\u00fablico sob press\u00e3o<\/strong><\/h3>\n\n\n\n
Um exemplo simples<\/strong><\/h3>\n\n\n\n
Velocidade contra delibera\u00e7\u00e3o<\/strong><\/h3>\n\n\n\n
A pergunta inc\u00f4moda<\/strong><\/h3>\n\n\n\n
Se sua organiza\u00e7\u00e3o est\u00e1 avaliando como incorporar intelig\u00eancia artificial de forma \u00e9tica, estrat\u00e9gica e alinhada a princ\u00edpios democr\u00e1ticos, a equipe da N5 est\u00e1 pronta para continuar essa conversa.<\/p>\n\n\n\n