{"id":13847,"date":"2025-04-11T09:53:10","date_gmt":"2025-04-11T12:53:10","guid":{"rendered":"https:\/\/blog.n5now.com\/alucinaciones-de-ia\/"},"modified":"2025-04-11T09:56:09","modified_gmt":"2025-04-11T12:56:09","slug":"alucinaciones-de-ia","status":"publish","type":"post","link":"https:\/\/blog.n5now.com\/pt-br\/alucinaciones-de-ia\/","title":{"rendered":"Alucina\u00e7\u00f5es de IA"},"content":{"rendered":"\n

Quais s\u00e3o as alucina\u00e7\u00f5es produzidas pela Intelig\u00eancia Artificial? S\u00e3o erros inexplic\u00e1veis \u200b\u200bnas respostas oferecidas por essa nova tecnologia.<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Por Gisela Colombo.
<\/strong><\/p>\n\n\n\n

As crescentes preocupa\u00e7\u00f5es em rela\u00e7\u00e3o a essas falhas que a intelig\u00eancia artificial gera est\u00e3o se acelerando e come\u00e7am a ser os principais males que os especialistas devem combater.<\/p>\n\n\n\n

Embora estejamos mais perto de resolv\u00ea-los, porque aumentamos seu registro diariamente, no entanto, a solu\u00e7\u00e3o pode n\u00e3o ser t\u00e3o f\u00e1cil ou imediata.<\/p>\n\n\n\n

N\u00e3o se trata apenas de erros in\u00f3cuos de racioc\u00ednio ou pequenos erros de l\u00f3gica artificial<\/strong>. As alucina\u00e7\u00f5es de IA<\/strong> podem ter s\u00e9rios efeitos nos usu\u00e1rios. Reprovar em um exame seria o menor dos conflitos. Suponha que uma ponte sobre o rio T\u00e2misa dependa da capacidade de um sistema inteligente de detectar v\u00e1rios sinais e determinar sua abertura para que um navio navegue por um trecho do rio. Suponha tamb\u00e9m que o navio esteja esperando que ele abra e a IA que o dirige n\u00e3o interprete os dados corretamente. O que aconteceria?<\/p>\n\n\n\n

Observado de uma perspectiva leve, um erro na execu\u00e7\u00e3o da IA seria um imponder\u00e1vel menor, uma esp\u00e9cie de obst\u00e1culo que n\u00e3o pode prejudicar a relev\u00e2ncia de uma tecnologia como essa. No entanto, a IA n\u00e3o \u00e9 apenas um instrumento para agilizar processos ou facilitar tarefas. Trata-se, em muitos casos, de quest\u00f5es muito mais fundamentais.<\/p>\n\n\n\n

Um modelo de IA pode prever eventos que n\u00e3o acontecer\u00e3o, mas provavelmente arrastar\u00e1 muitos para uma tomada de decis\u00e3o completamente errada. Imposs\u00edvel quantificar. Um modelo de IA usado para detectar fraudes pode sinalizar uma transa\u00e7\u00e3o como fraudulenta quando n\u00e3o \u00e9. Os efeitos? Incalcul\u00e1vel. O uso recente da IA para diagnosticar doen\u00e7as pode, com um simples erro, levar a perdas irrevers\u00edveis.<\/p>\n\n\n\n

A quest\u00e3o \u00e9, ent\u00e3o, o que h\u00e1 de errado com essas respostas tecnol\u00f3gicas? \u00c9, no momento, misterioso. Qu\u00e3o misterioso \u00e9 o funcionamento da intelig\u00eancia humana.<\/p>\n\n\n\n

Alguns mist\u00e9rios da psique humana tamb\u00e9m escapam \u00e0s causas un\u00edvocas. Entre os fen\u00f4menos da experi\u00eancia que a ci\u00eancia n\u00e3o consegue explicar definitivamente, como seria o caso do “d\u00e9j\u00e0 vu”, h\u00e1 outro que tem gerado popularmente muito interesse. \u00c9 o que na linguagem coloquial tem sido chamado de “efeito Mandela” e consiste em uma falsa verdade que \u00e9 imposta em grande escala e de forma inexplic\u00e1vel.<\/p>\n\n\n\n

O nome do fen\u00f4meno responde a um dos casos mais emblem\u00e1ticos que surgiram globalmente: a morte na pris\u00e3o de Nelson Mandela. Este evento nunca aconteceu, no entanto, um n\u00famero muito grande de pessoas diz estar convencido de que este foi realmente o fim do ativista. Os motivos pelos quais tais erros se tornam verdadeiros para muitos constituem o enigma genu\u00edno que atrai e desconcerta.<\/p>\n\n\n\n

Mas o “efeito Mandela” n\u00e3o \u00e9 o \u00fanico de seu tipo. Fen\u00f4menos semelhantes tendem a surgir ainda mais fortemente no campo das artes. Esquecemos que a imagem de Hamlet, protagonista da pe\u00e7a hom\u00f4nima escrita por William Shakespeare, com o cr\u00e2nio de Yorik nas m\u00e3os enquanto pronuncia aquele solil\u00f3quio exemplar de “Ser ou n\u00e3o ser\/ eis a quest\u00e3o…” nunca aconteceu? No entanto, a s\u00edntese simb\u00f3lica que a cultura faz espontaneamente re\u00fane o discurso que fala da falta de sentido da vida com uma cena cujo objeto central remete a um conte\u00fado metaf\u00f3rico semelhante. Yorik era uma esp\u00e9cie de bobo da corte do rei Hamlet, pai do protagonista, cujos restos mortais ele encontra no cemit\u00e9rio. O esqueleto desencadeia nele a reflex\u00e3o sobre o t\u00e9rmino da vida, a partir da figura do palha\u00e7o. Nunca deixa de ser a refer\u00eancia ao comediante. Mas no inconsciente, ambas as cenas se fundem. Talvez um publicit\u00e1rio, um produtor de teatro, um designer ou um artista encarregado dos cartazes da pe\u00e7a pudessem t\u00ea-lo proposto. Mas se muitas pessoas o conceberam da mesma forma, \u00e9 porque o criador da fus\u00e3o penetrou profundamente e encontrou um fato percebido como verdadeiro.<\/p>\n\n\n\n

Em “Casablanca”, a tradi\u00e7\u00e3o oral envolve uma frase que nunca \u00e9 dita no filme: “Toque de novo, Sam”. Talvez o mesmo fen\u00f4meno ocorra ao propor o coment\u00e1rio mais emblem\u00e1tico de Sherlock Holmes como “Elemental, Watson”, j\u00e1 proferido nos textos originais. A mesma coisa acontece com “Ladran, Sancho, se\u00f1al de que cabalgamos” colocado na boca de um Quixote que se tornou independente de Cervantes, que nunca escreveu essa frase. O discurso parece vir de Goethe: ‘em busca de fortuna e prazeres \/ mas sempre atr\u00e1s eles latem para n\u00f3s’; ou de um prov\u00e9rbio de origem turca, que Rub\u00e9n Dar\u00edo mais tarde adaptaria. Mas de Dom Quixote, nenhuma not\u00edcia.<\/p>\n\n\n\n

Se cren\u00e7as err\u00f4neas que nunca foram comprovadas foram universalmente contagiosas, como no “efeito Mandela”, como podemos evitar que o mesmo aconte\u00e7a com as concep\u00e7\u00f5es do mundo futuro?<\/p>\n\n\n\n

Especialistas no assunto de IA se manifestaram sobre o assunto.<\/p>\n\n\n\n

Juli\u00e1n Colombo, CEO e fundador de uma empresa l\u00edder de software para bancos e seguradoras, destacou “a necessidade de implementar an\u00e1lises humanas para dados cr\u00edticos”. Isso significaria que, ao lado da IA que ergue a ponte sobre o T\u00e2misa, haver\u00e1 olhos humanos observando se os dados s\u00e3o verific\u00e1veis na realidade e que as decis\u00f5es da tecnologia levam em considera\u00e7\u00e3o as leis da f\u00edsica tradicional. Por exemplo, “essa mat\u00e9ria \u00e9 impenetr\u00e1vel”.<\/p>\n\n\n\n

Esta medida ser\u00e1 o melhor seguro contra neglig\u00eancia. A empresa que ele dirige, na verdade, est\u00e1 implementando dois assistentes de IA, chamados Alfred \u2013 aludindo ao mordomo do Batman \u2013 e PEP \u2013 em homenagem ao diretor t\u00e9cnico de futebol a quem muitos atribuem a excel\u00eancia de Lionel Messi. Ambas as intelig\u00eancias t\u00eam como objetivo auxiliar quem ser\u00e1 o “Comandante da IA”, uma posi\u00e7\u00e3o irrevogavelmente humana.<\/p>\n\n\n\n

Colombo at\u00e9 introduz a relev\u00e2ncia das respostas sens\u00edveis, mais filhos da intui\u00e7\u00e3o e da emo\u00e7\u00e3o, do que da l\u00f3gica. Isso, longe de complicar as coisas, pode conceder ao sujeito humano “maior precis\u00e3o, especialmente em \u00e1reas como risco e conformidade”.<\/p>\n\n\n\n

Os resultados parecem ser encorajadores. De um espectro que varia de 3% a 27% de alucina\u00e7\u00f5es, segundo Vectara, com as medidas recomendadas \u00e9 significativamente reduzido.<\/p>\n\n\n\n

O fator de alucina\u00e7\u00e3o desaparece? N\u00e3o parece cred\u00edvel. Talvez porque aqueles que pensaram em IA ainda acreditem que Mandela morreu na pris\u00e3o.<\/p>\n\n\n\n

A intelig\u00eancia artificial funciona gra\u00e7as aos dados coletados em escala provenientes de opera\u00e7\u00f5es humanas. \u00c9 a soma de tudo o que j\u00e1 foi experimentado, embora categorizado de acordo com o mais comum e o mais conveniente. Nesse caso, n\u00e3o deve ser uma surpresa para nenhum de n\u00f3s que a IA tamb\u00e9m produza alucina\u00e7\u00f5es.<\/p>\n\n\n\n

\"\"<\/figure>\n","protected":false},"excerpt":{"rendered":"

Quais s\u00e3o as alucina\u00e7\u00f5es produzidas pela Intelig\u00eancia Artificial? S\u00e3o erros inexplic\u00e1veis \u200b\u200bnas respostas oferecidas por essa nova tecnologia.<\/p>\n","protected":false},"author":36,"featured_media":13844,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[234,228],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/13847"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=13847"}],"version-history":[{"count":2,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/13847\/revisions"}],"predecessor-version":[{"id":13851,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/13847\/revisions\/13851"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/13844"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=13847"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=13847"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=13847"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}