{"id":14120,"date":"2025-05-16T10:38:00","date_gmt":"2025-05-16T13:38:00","guid":{"rendered":"https:\/\/blog.n5now.com\/dolorosos-errores-de-la-ia\/"},"modified":"2025-05-16T10:57:34","modified_gmt":"2025-05-16T13:57:34","slug":"dolorosos-errores-de-la-ia","status":"publish","type":"post","link":"https:\/\/blog.n5now.com\/pt-br\/dolorosos-errores-de-la-ia\/","title":{"rendered":"Erros dolorosos de IA"},"content":{"rendered":"\n

A IA est\u00e1 mudando o mundo; mas nesses est\u00e1gios iniciais, o faz com o risco permanente de que nem sempre seja para o bem.<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Gisela Colombo *<\/strong><\/p>\n\n\n\n

A intelig\u00eancia artificial tem mostrado imenso potencial para transformar ind\u00fastrias, otimizar processos e criar novas oportunidades. No entanto, tamb\u00e9m cometeu erros graves: muitos modelos de IA (como redes neurais profundas) s\u00e3o caixas pretas. Isso significa que n\u00e3o \u00e9 f\u00e1cil entender por que eles tomam certas decis\u00f5es. Isso \u00e9 especialmente verdadeiro em algumas \u00e1reas, como medicina, finan\u00e7as ou justi\u00e7a.<\/p>\n\n\n\n

Alguns bancos usam modelos de IA para avaliar pedidos de cr\u00e9dito. Houve casos em que pessoas com excelente hist\u00f3rico de cr\u00e9dito foram rejeitadas, e nem o banco nem o cliente conseguiram entender o porqu\u00ea, porque o modelo n\u00e3o p\u00f4de ser explicado claramente.<\/p>\n\n\n\n

Outro dos erros mais comuns \u00e9 que, ao coletar informa\u00e7\u00f5es, ele coleta quest\u00f5es que incluem preconceitos ou comportamentos sociais que foram superados na vis\u00e3o oficial contempor\u00e2nea de nossa cultura, que nem sempre foram erradicados e definitivamente ainda est\u00e3o latentes em nossas sociedades.<\/p>\n\n\n\n

Por esse motivo, a discrimina\u00e7\u00e3o racial ou de g\u00eanero em sistemas de contrata\u00e7\u00e3o de m\u00e3o de obra, reconhecimento facial ou decis\u00f5es judiciais \u00e9 um dos produtos indesej\u00e1veis da IA.<\/p>\n\n\n\n

\u00c0s vezes, por outro lado, o contexto determina que a imprud\u00eancia humana n\u00e3o consegue evitar o perigo. Dessa forma, a IA n\u00e3o pode operar \u00e0 vontade e isso gera consequ\u00eancias dolorosas. De fato, em 2018, um carro do Uber atropelou fatalmente uma mulher no Arizona. A IA reconheceu o pedestre como uma “bicicleta” e n\u00e3o acionou o freio. O sistema foi desativado em modo de emerg\u00eancia e n\u00e3o reagiu a tempo. O mesmo pode acontecer com a sa\u00fade, o transporte ou a defesa.<\/p>\n\n\n\n

Nos \u00faltimos tempos, tem-se falado muito em “Deepfakes”, formas de desinforma\u00e7\u00e3o produzidas por essa nova tecnologia. As IAs generativas s\u00e3o perfeitamente capazes de criar imagens, \u00e1udios e v\u00eddeos falsos incrivelmente realistas. O perigo \u00e9 que eles n\u00e3o s\u00e3o usados apenas para recrea\u00e7\u00e3o, mas constituem uma ferramenta para manipular a opini\u00e3o p\u00fablica, gerar not\u00edcias falsas e at\u00e9 mesmo se aventurar no roubo de identidade. Nos pr\u00f3ximos anos, todos os pa\u00edses ter\u00e3o que gerar respostas judiciais rigorosas para evitar esse perigo que o universo da comunica\u00e7\u00e3o de massa enfrenta.<\/p>\n\n\n\n

Um exemplo dessa mec\u00e2nica \u00e9 o v\u00eddeo falso de Zelensky que foi lan\u00e7ado em 2022, onde o presidente ucraniano Volodymir Zelensky apareceu pedindo que suas tropas se rendessem definitivamente. O material foi rapidamente desacreditado, por\u00e9m, gerou confus\u00e3o e demonstrou o poder dessas tecnologias para manipular em larga escala. O diagn\u00f3stico m\u00e9dico incorreto devido ao treinamento inadequado do modelo \u00e9 outra vers\u00e3o s\u00e9ria do fracasso.<\/p>\n\n\n\n

Alucina\u00e7\u00f5es.<\/strong><\/p>\n\n\n\n

Entre os erros cometidos pela IA est\u00e3o aqueles que foram chamados de “Alucina\u00e7\u00f5es”, um grupo de realidades que misteriosamente afirma o racioc\u00ednio artificial. Pode dar cita\u00e7\u00f5es ou refer\u00eancias falsas, inventar fatos hist\u00f3ricos ou dados cient\u00edficos.<\/p>\n\n\n\n

H\u00e1 um caso emblem\u00e1tico que n\u00e3o faz mais l\u00f3gico: um advogado americano usou IA para ajud\u00e1-lo a redigir um documento judicial. O modelo gerou refer\u00eancias jur\u00eddicas inventadas. O juiz considerou que as intima\u00e7\u00f5es n\u00e3o existiam e sancionou o advogado por apresentar informa\u00e7\u00f5es falsas.<\/p>\n\n\n\n

Embora essa tecnologia facilite muito a aquisi\u00e7\u00e3o de conhecimento e a interven\u00e7\u00e3o preventiva, alguns regimes autorit\u00e1rios a utilizam por meio de uma s\u00e9rie de imposi\u00e7\u00f5es que conflitam com a \u00e9tica e os direitos humanos. \u00c9 o caso da China. L\u00e1, ele foi usado para vigil\u00e2ncia em massa de minorias, como os uigures. C\u00e2meras com reconhecimento facial, geolocaliza\u00e7\u00e3o e an\u00e1lise comportamental s\u00e3o combinadas para controlar e restringir movimentos, sem processo legal transparente.<\/p>\n\n\n\n

O deslocamento de empregos tamb\u00e9m seria contemplado nos poss\u00edveis efeitos dos erros de IA. O exemplo cl\u00e1ssico desse tipo de inconveniente \u00e9 o que ocorreu no Jap\u00e3o: as empresas japonesas de mang\u00e1 e anima\u00e7\u00e3o come\u00e7aram a usar geradores de arte de IA para tarefas que antes eram feitas por ilustradores humanos. Muitos artistas freelancers perderam comiss\u00f5es porque as IAs podiam fazer um trabalho “aceit\u00e1vel” muito mais r\u00e1pido e barato.<\/p>\n\n\n\n

Diante desse panorama complexo, a responsabilidade, o julgamento e a abordagem humana tornam-se essenciais.
Num evento que juntou grandes empresas de sistemas, tivemos a oportunidade de consultar uma voz autorizada, que se posicionou como uma figura-chave na constru\u00e7\u00e3o de uma IA \u00e9tica e eficaz. O CEO e fundador da N5 se expressou nestes termos: -\u00c9 importante oferecer IA transparente e explic\u00e1vel, para que cada decis\u00e3o possa ser compreendida e auditada. Porque a IA n\u00e3o substitui o homem, mas \u00e9 para ele como um bra\u00e7o mec\u00e2nico foi e \u00e9 na ind\u00fastria automotiva: um instrumento para acelerar, otimizar e diminuir custos ao fazer a mesma tarefa.<\/p>\n\n\n\n

Para fazer isso, treinamos modelos com dados bem selecionados, reduzindo o risco de vi\u00e9s. \u00c0s vezes, at\u00e9 evitamos pesquisas de dados al\u00e9m do pr\u00f3prio banco de dados de cada empresa que contrata nossas solu\u00e7\u00f5es. Isso preserva dados confi\u00e1veis preservados e, al\u00e9m disso, garante muito mais a seguran\u00e7a de nossos clientes.<\/p>\n\n\n\n

Em suma, desenvolvemos solu\u00e7\u00f5es que cumprem as normas \u00e9ticas e regulamentares internacionais.<\/p>\n\n\n\n

Porque a inova\u00e7\u00e3o n\u00e3o \u00e9 suficiente. Voc\u00ea tem que fazer isso direito…<\/p>\n\n\n\n

Em um mundo onde a IA pode ser uma solu\u00e7\u00e3o e um problema, os l\u00edderes dizem que a inova\u00e7\u00e3o tamb\u00e9m pode ser respons\u00e1vel, transparente e profundamente humana.<\/p>\n\n\n\n

– A chave n\u00e3o \u00e9 apenas usar a intelig\u00eancia artificial, mas usar a intelig\u00eancia com responsabilidade.<\/p>\n","protected":false},"excerpt":{"rendered":"

A IA est\u00e1 transformando o mundo, mas erros neste est\u00e1gio inicial podem ter consequ\u00eancias s\u00e9rias. Um olhar cr\u00edtico sobre suas falhas mais preocupantes.<\/p>\n","protected":false},"author":36,"featured_media":14129,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[234,228],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14120"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=14120"}],"version-history":[{"count":2,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14120\/revisions"}],"predecessor-version":[{"id":14126,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14120\/revisions\/14126"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/14129"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=14120"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=14120"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=14120"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}