Quais são as alucinações produzidas pela Inteligência Artificial? São erros inexplicáveis nas respostas oferecidas por essa nova tecnologia.
Por Gisela Colombo.
As crescentes preocupações em relação a essas falhas que a inteligência artificial gera estão se acelerando e começam a ser os principais males que os especialistas devem combater.
Embora estejamos mais perto de resolvê-los, porque aumentamos seu registro diariamente, no entanto, a solução pode não ser tão fácil ou imediata.
Não se trata apenas de erros inócuos de raciocínio ou pequenos erros de lógica artificial. As alucinações de IA podem ter sérios efeitos nos usuários. Reprovar em um exame seria o menor dos conflitos. Suponha que uma ponte sobre o rio Tâmisa dependa da capacidade de um sistema inteligente de detectar vários sinais e determinar sua abertura para que um navio navegue por um trecho do rio. Suponha também que o navio esteja esperando que ele abra e a IA que o dirige não interprete os dados corretamente. O que aconteceria?
Observado de uma perspectiva leve, um erro na execução da IA seria um imponderável menor, uma espécie de obstáculo que não pode prejudicar a relevância de uma tecnologia como essa. No entanto, a IA não é apenas um instrumento para agilizar processos ou facilitar tarefas. Trata-se, em muitos casos, de questões muito mais fundamentais.
Um modelo de IA pode prever eventos que não acontecerão, mas provavelmente arrastará muitos para uma tomada de decisão completamente errada. Impossível quantificar. Um modelo de IA usado para detectar fraudes pode sinalizar uma transação como fraudulenta quando não é. Os efeitos? Incalculável. O uso recente da IA para diagnosticar doenças pode, com um simples erro, levar a perdas irreversíveis.
A questão é, então, o que há de errado com essas respostas tecnológicas? É, no momento, misterioso. Quão misterioso é o funcionamento da inteligência humana.
Alguns mistérios da psique humana também escapam às causas unívocas. Entre os fenômenos da experiência que a ciência não consegue explicar definitivamente, como seria o caso do “déjà vu”, há outro que tem gerado popularmente muito interesse. É o que na linguagem coloquial tem sido chamado de “efeito Mandela” e consiste em uma falsa verdade que é imposta em grande escala e de forma inexplicável.
O nome do fenômeno responde a um dos casos mais emblemáticos que surgiram globalmente: a morte na prisão de Nelson Mandela. Este evento nunca aconteceu, no entanto, um número muito grande de pessoas diz estar convencido de que este foi realmente o fim do ativista. Os motivos pelos quais tais erros se tornam verdadeiros para muitos constituem o enigma genuíno que atrai e desconcerta.
Mas o “efeito Mandela” não é o único de seu tipo. Fenômenos semelhantes tendem a surgir ainda mais fortemente no campo das artes. Esquecemos que a imagem de Hamlet, protagonista da peça homônima escrita por William Shakespeare, com o crânio de Yorik nas mãos enquanto pronuncia aquele solilóquio exemplar de “Ser ou não ser/ eis a questão…” nunca aconteceu? No entanto, a síntese simbólica que a cultura faz espontaneamente reúne o discurso que fala da falta de sentido da vida com uma cena cujo objeto central remete a um conteúdo metafórico semelhante. Yorik era uma espécie de bobo da corte do rei Hamlet, pai do protagonista, cujos restos mortais ele encontra no cemitério. O esqueleto desencadeia nele a reflexão sobre o término da vida, a partir da figura do palhaço. Nunca deixa de ser a referência ao comediante. Mas no inconsciente, ambas as cenas se fundem. Talvez um publicitário, um produtor de teatro, um designer ou um artista encarregado dos cartazes da peça pudessem tê-lo proposto. Mas se muitas pessoas o conceberam da mesma forma, é porque o criador da fusão penetrou profundamente e encontrou um fato percebido como verdadeiro.
Em “Casablanca”, a tradição oral envolve uma frase que nunca é dita no filme: “Toque de novo, Sam”. Talvez o mesmo fenômeno ocorra ao propor o comentário mais emblemático de Sherlock Holmes como “Elemental, Watson”, já proferido nos textos originais. A mesma coisa acontece com “Ladran, Sancho, señal de que cabalgamos” colocado na boca de um Quixote que se tornou independente de Cervantes, que nunca escreveu essa frase. O discurso parece vir de Goethe: ‘em busca de fortuna e prazeres / mas sempre atrás eles latem para nós’; ou de um provérbio de origem turca, que Rubén Darío mais tarde adaptaria. Mas de Dom Quixote, nenhuma notícia.
Se crenças errôneas que nunca foram comprovadas foram universalmente contagiosas, como no “efeito Mandela”, como podemos evitar que o mesmo aconteça com as concepções do mundo futuro?
Especialistas no assunto de IA se manifestaram sobre o assunto.
Julián Colombo, CEO e fundador de uma empresa líder de software para bancos e seguradoras, destacou “a necessidade de implementar análises humanas para dados críticos”. Isso significaria que, ao lado da IA que ergue a ponte sobre o Tâmisa, haverá olhos humanos observando se os dados são verificáveis na realidade e que as decisões da tecnologia levam em consideração as leis da física tradicional. Por exemplo, “essa matéria é impenetrável”.
Esta medida será o melhor seguro contra negligência. A empresa que ele dirige, na verdade, está implementando dois assistentes de IA, chamados Alfred – aludindo ao mordomo do Batman – e PEP – em homenagem ao diretor técnico de futebol a quem muitos atribuem a excelência de Lionel Messi. Ambas as inteligências têm como objetivo auxiliar quem será o “Comandante da IA”, uma posição irrevogavelmente humana.
Colombo até introduz a relevância das respostas sensíveis, mais filhos da intuição e da emoção, do que da lógica. Isso, longe de complicar as coisas, pode conceder ao sujeito humano “maior precisão, especialmente em áreas como risco e conformidade”.
Os resultados parecem ser encorajadores. De um espectro que varia de 3% a 27% de alucinações, segundo Vectara, com as medidas recomendadas é significativamente reduzido.
O fator de alucinação desaparece? Não parece credível. Talvez porque aqueles que pensaram em IA ainda acreditem que Mandela morreu na prisão.
A inteligência artificial funciona graças aos dados coletados em escala provenientes de operações humanas. É a soma de tudo o que já foi experimentado, embora categorizado de acordo com o mais comum e o mais conveniente. Nesse caso, não deve ser uma surpresa para nenhum de nós que a IA também produza alucinações.
