Esses exemplos s\u00e3o, como para uma pessoa, experi\u00eancias. Experi\u00eancias que ser\u00e3o avaliadas com um crit\u00e9rio estat\u00edstico. Quanto mais casos repitam um pensamento, uma rea\u00e7\u00e3o, uma manifesta\u00e7\u00e3o, uma informa\u00e7\u00e3o, mais presentes estar\u00e3o esses paradigmas entre as respostas da IA.<\/p>\n\n\n\n
Suponhamos que sejam mostrados \u00e0 IA milhares de casos de pessoas que solicitaram um empr\u00e9stimo.<\/p>\n\n\n\n
A IA aprende padr\u00f5es. E depois pode decidir se um cr\u00e9dito \u201c\u00e9 aprovado\u201d ou \u201cn\u00e3o \u00e9 aprovado\u201d.<\/p>\n\n\n\n
No entanto, nesse ato de se informar e raciocinar que envolve a decis\u00e3o, o processo n\u00e3o fica claro. \u00c9 o que se chama de \u201ccaixa-preta\u201d da IA.<\/p>\n\n\n\n
Muitas IAs modernas (especialmente as mais potentes) funcionam como uma caixa-preta: oferecem uma resposta, mas n\u00e3o revelam por que nem como chegaram at\u00e9 ela.<\/p>\n\n\n\n
Como voc\u00ea reagiria se fosse ao m\u00e9dico e ele prescrevesse um medicamento e, ao perguntar para que serve, ele dissesse\u2026 \u201cBom, isso n\u00e3o importa, o importante \u00e9 que voc\u00ea tome. Voc\u00ea n\u00e3o confia em mim?\u201d<\/p>\n\n\n\n
A IA opera em alguns \u00e2mbitos muito sens\u00edveis da nossa realidade. Esse h\u00e1bito multiplica os perigos e pode acarretar problemas grav\u00edssimos. Bancos, sa\u00fade e justi\u00e7a utilizam IA permanentemente.<\/p>\n\n\n\n
Que solu\u00e7\u00f5es foram pensadas recentemente para enfrentar essa potencial f\u00e1brica de inconvenientes? Aqui entra a chamada XIA, ou Intelig\u00eancia Artificial Explic\u00e1vel.<\/p>\n\n\n\n
O objetivo \u00e9 compreender como a IA processa e interpreta (\u201cintelige\u201d) a informa\u00e7\u00e3o com a qual foi treinada.<\/p>\n\n\n\n
Para isso, reuniu-se um conjunto de t\u00e9cnicas para tornar transparente essa informa\u00e7\u00e3o opaca que \u00e9 chamada de \u201ccaixa-preta\u201d.<\/p>\n\n\n\n
Na Europa, por exemplo, a EU AI Act j\u00e1 exige transpar\u00eancia\/explicabilidade em sistemas de \u201calto risco\u201d (como cr\u00e9dito ou scoring). Isso faz com que a XIA seja quase obrigat\u00f3ria em muitos setores.<\/p>\n\n\n\n
O prop\u00f3sito \u00e9 que seja poss\u00edvel:<\/p>\n\n\n\n
confiar mais na ferramenta e nos seus produtos; detectar vieses e eventualmente corrigir erros.<\/p>\n\n\n\n
Vamos a um exemplo. Suponhamos um motor de cr\u00e9dito cuja fun\u00e7\u00e3o principal \u00e9 aprovar ou negar empr\u00e9stimos recentemente incorporado por um banco que deseja acelerar seus processos.<\/p>\n\n\n\n
O modelo n\u00e3o \u201cpensa\u201d como um humano: calcula probabilidades com padr\u00f5es que aprendeu a partir de milhares de empr\u00e9stimos anteriores.<\/p>\n\n\n\n
Ele dever\u00e1 considerar e decidir se \u201caceita\u201d ou \u201cnega\u201d o cr\u00e9dito. Se fizer isso oferecendo apenas o resultado, estar\u00e1 atuando como uma grande caixa-preta.<\/p>\n\n\n\n
Por regulamenta\u00e7\u00e3o e por confian\u00e7a, o banco precisar\u00e1, em vez disso, de uma explica\u00e7\u00e3o clara. \u00c9 a\u00ed que entra a IA Explic\u00e1vel (XIA).<\/p>\n\n\n\n
Vejamos o caso de Ana R., 29 anos, registrada pelo sistema com renda mensal de R$ 1.200.000, com seis meses de antiguidade no trabalho e uma d\u00edvida atual de R$ 800.000. Em seu hist\u00f3rico de pagamentos constam dois atrasos no \u00faltimo ano. O sistema tamb\u00e9m indica que a parcela representaria 45% de seu sal\u00e1rio.<\/p>\n\n\n\n
O veredicto da IA \u00e9: \u201cN\u00e3o aprovar.\u201d<\/p>\n\n\n\n
Tanto a institui\u00e7\u00e3o financeira quanto a pr\u00f3pria solicitante, neste caso Ana R., ir\u00e3o se perguntar: \u201cPor qu\u00ea?\u201d<\/p>\n\n\n\n
E aqui \u00e9 onde a XIA se explicar\u00e1 para manter sua transpar\u00eancia e comprovar sua veracidade e valor. E far\u00e1 isso por meio de tr\u00eas camadas:<\/p>\n\n\n\n
A XIA usa t\u00e9cnicas como SHAP ou LIME para dizer quais vari\u00e1veis empurraram a decis\u00e3o para \u201cn\u00e3o aprovar\u201d.<\/p>\n\n\n\n
O sistema poderia devolver algo assim:<\/p>\n\n\n\n
Isso \u00e9 extremamente \u00fatil para o analista porque transforma o \u201cn\u00e3o\u201d em algo compreens\u00edvel. SHAP \u00e9 usado justamente para isso em scoring de cr\u00e9dito.<\/p>\n\n\n\n
Como deveria traduzir essa decis\u00e3o o agente humano que atende a cliente?<\/p>\n\n\n\n
\u201cNegamos principalmente porque voc\u00ea teve atrasos recentes e porque a parcela ficaria muito pesada em rela\u00e7\u00e3o \u00e0 sua renda.\u201d<\/p>\n\n\n\n
Esta \u00e9 a parte mais f\u00e1cil de entender para um cliente.<\/p>\n\n\n\n
O sistema responde:<\/p>\n\n\n\n
\u201cCom sua situa\u00e7\u00e3o atual, n\u00e3o \u00e9 aprovado.<\/p>\n\n\n\n
Se sua rela\u00e7\u00e3o parcela\/renda baixasse para 30%<\/p>\n\n\n\n
ou se voc\u00ea tivesse 0 atrasos em 12 meses, a aprova\u00e7\u00e3o mudaria para \u2018sim\u2019.\u201d<\/p>\n\n\n\n
Certamente essa explica\u00e7\u00e3o daria esperan\u00e7a de mudar essas condi\u00e7\u00f5es e conseguir o cr\u00e9dito em breve, mas tamb\u00e9m poderia gerar a ideia de que, se o valor solicitado fosse menor, talvez j\u00e1 pudesse obter o empr\u00e9stimo imediatamente.<\/p>\n\n\n\n
Em resumo, \u00e9 como dizer: \u201cAna, se voc\u00ea pedir um pouco menos (ou em mais parcelas) para que o valor pese menos no or\u00e7amento, n\u00f3s aprovar\u00edamos.\u201d Ou ent\u00e3o: \u201cSe voc\u00ea passar um ano sem atrasos, aprovaremos.\u201d<\/p>\n\n\n\n
\u00c0s vezes o banco precisa de regras que possa mostrar a um regulador ou auditoria interna.<\/p>\n\n\n\n
Ent\u00e3o a XIA resume algo assim:<\/p>\n\n\n\n
\u201cRejeita-se por: atrasos recentes > 1; e parcela\/renda > 40%.\u201d<\/p>\n\n\n\n
Essa an\u00e1lise contribui para o model risk management, uma pr\u00e1tica que os reguladores banc\u00e1rios v\u00eam refor\u00e7ando.<\/p>\n\n\n\n
Esse sistema deixou de ser uma inova\u00e7\u00e3o para se tornar uma obriga\u00e7\u00e3o em muito pouco tempo. A raz\u00e3o \u00e9 que sistemas de cr\u00e9dito s\u00e3o classificados como IA de alto risco na Europa, e a lei exige: transpar\u00eancia, explica\u00e7\u00f5es claras e compreens\u00edveis,<\/p>\n\n\n\n
rastreabilidade, monitoramento cont\u00ednuo.<\/p>\n\n\n\n
O que significa que n\u00e3o basta a IA acertar. Ela precisa justificar-se de maneira transparente.<\/p>\n\n\n\n
Sem XIA, o di\u00e1logo seria:<\/p>\n\n\n\n
Cliente: \u201cPor que meu pedido foi recusado?\u201d<\/p>\n\n\n\n
Banco: \u201cN\u00e3o sabemos, foi o modelo que disse.\u201d<\/p>\n\n\n\n
Com XIA, por outro lado, o banco diria:<\/p>\n\n\n\n
E o resultado para a institui\u00e7\u00e3o financeira ser\u00e1:<\/strong><\/p>\n\n\n\n Entenda o que \u00e9 a Intelig\u00eancia Artificial Explic\u00e1vel (XIA), como funciona e por que \u00e9 essencial para transpar\u00eancia em cr\u00e9dito, sa\u00fade e justi\u00e7a.<\/p>\n","protected":false},"author":36,"featured_media":15705,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[235],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/15708"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=15708"}],"version-history":[{"count":2,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/15708\/revisions"}],"predecessor-version":[{"id":15712,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/15708\/revisions\/15712"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/15705"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=15708"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=15708"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=15708"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n