{"id":12331,"date":"2024-08-09T12:23:32","date_gmt":"2024-08-09T15:23:32","guid":{"rendered":"https:\/\/blog.n5now.com\/alucinaciones-la-mayor-falla-de-la-inteligencia-artificialcomo-evitar-que-chatgpt-gemini-y-meta-ai-respondancon-errores\/"},"modified":"2024-08-09T12:46:12","modified_gmt":"2024-08-09T15:46:12","slug":"alucinaciones-la-mayor-falla-de-la-inteligencia-artificialcomo-evitar-que-chatgpt-gemini-y-meta-ai-respondancon-errores","status":"publish","type":"post","link":"https:\/\/blog.n5now.com\/pt-br\/alucinaciones-la-mayor-falla-de-la-inteligencia-artificialcomo-evitar-que-chatgpt-gemini-y-meta-ai-respondancon-errores\/","title":{"rendered":"Alucina\u00e7\u00f5es, a maior falha da intelig\u00eancia artificial: como evitar que o ChatGPT, Gemini e Meta AI respondam com erros"},"content":{"rendered":"\n

ESTIMA-SE QUE ENTRE 3% E 27% DAS RESPOSTAS DOS CHATBOTS EST\u00c3O ERRADAS. SIGUIENDO UNA SERIE DE CONSEJOS, EL MARGEN DE ERROR SE PUEDE REDUCIR AL M\u00cdNIMO<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Los chatbots de  (IA) generativa n\u00e3o s\u00e3o infal\u00edveis: cometem erros que muchas veces van m\u00e1s all\u00e1 de proporcionar informaci\u00f3n falsa. Los especialistas concluyen que estos sistemas est\u00e1n programados de una manera que puede llevarlos a .<\/p>\n\n\n\n

La IA Generativa lleg\u00f3 para quedarse en la vida diaria de las personas y las compa\u00f1\u00edas, tanto que en el mundo fintech ya fue valorada en 1,12 billones de d\u00f3lares en 2023. El r\u00e1pido crecimiento de sus tasas sugiere que llegar\u00e1 a los 4,37 billones de d\u00f3lares para 2027, seg\u00fan un reporte de Market.us.<\/p>\n\n\n\n

Como toda herramienta en plena evoluci\u00f3n y crecimiento, la IA tambi\u00e9n tendr\u00e1 que enfrentarse a diferentes barreiras y problemas.<\/p>\n\n\n\n

O QUE S\u00c3O AS ALUCINA\u00c7\u00d5ES DA INTELIG\u00caNCIA ARTIFICIAL<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Especialistas em algoritmos classificam os resultados incorretos ou enganosos gerados pelos modelos de IA \u2013 ChatGPT, Llama ou Gemini \u2013 como \u201calucina\u00e7\u00f5es\u201d. Essas falhas podem ser causadas por v\u00e1rios fatores, como dados de treinamento insuficientes, suposi\u00e7\u00f5es incorretas ou dados fornecidos usados \u200b\u200bpara treinar o modelo.<\/p>\n\n\n\n

As alucina\u00e7\u00f5es s\u00e3o um problema s\u00e9rio para os sistemas de IA usados \u200b\u200bpara tomar decis\u00f5es importantes, como diagn\u00f3sticos m\u00e9dicos ou negocia\u00e7\u00f5es financeiras.<\/p>\n\n\n\n

Os modelos s\u00e3o treinados com dados e aprendem a fazer previs\u00f5es procurando padr\u00f5es. No entanto, a precis\u00e3o destas previs\u00f5es depende geralmente da qualidade e integridade da informa\u00e7\u00e3o de forma\u00e7\u00e3o. Se estiverem incompletos, tendenciosos ou<\/p>\n\n\n\n

Em casos de defeitos, o modelo de IA pode aprender padr\u00f5es incorretos, levando a previs\u00f5es imprecisas ou alucina\u00e7\u00f5es.<\/p>\n\n\n\n

Por exemplo, um modelo de IA treinado com imagens m\u00e9dicas pode aprender a identificar c\u00e9lulas cancer\u00edgenas. No entanto, se n\u00e3o houver imagem de tecido saud\u00e1vel nesse conjunto de dados, o modelo de IA poder\u00e1 prever incorretamente que o tecido saud\u00e1vel \u00e9 c\u00e2ncer.<\/p>\n\n\n\n

\u201cOs modelos s\u00e3o treinados com grandes (muito grandes) volumes de informa\u00e7\u00f5es, e a partir da\u00ed aprendem padr\u00f5es e associa\u00e7\u00f5es com essas informa\u00e7\u00f5es que ainda podem ser insuficientes, obsoletas ou inconsistentes, e como n\u00e3o t\u00eam \u2018entendimento\u2019, n\u00e3o sabem realmente o que dizem\u201d, explica Pablo Velan, CTO e s\u00f3cio da N5, empresa de software especializada no setor financeiro.<\/p>\n\n\n\n

Segundo an\u00e1lises da startup Vectara, a taxa de alucina\u00e7\u00e3o dos chatbots varia entre 3% e 27%.<\/p>\n\n\n\n

Dados de treinamento ruins s\u00e3o apenas um dos motivos pelos quais podem ocorrer alucina\u00e7\u00f5es com IA. Outro fator que pode contribuir \u00e9 a falta de embasamento adequado.<\/p>\n\n\n\n

Um modelo de IA pode ter dificuldade em compreender com precis\u00e3o o conhecimento do mundo real, as propriedades f\u00edsicas ou as informa\u00e7\u00f5es factuais. Esta falta de fundamenta\u00e7\u00e3o pode fazer com que o modelo gere resultados que, embora pare\u00e7am plaus\u00edveis, s\u00e3o na verdade incorretos, irrelevantes ou sem sentido.<\/p>\n\n\n\n

Nessa linha, o gestor detalha que ao se deparar com quest\u00f5es amb\u00edguas ou sem contexto suficiente, entra em jogo a capacidade de interpola\u00e7\u00e3o e extrapola\u00e7\u00e3o da IA \u200b\u200bpara responder e far\u00e1 generaliza\u00e7\u00f5es ou suposi\u00e7\u00f5es incorretas.<\/p>\n\n\n\n

Esta situa\u00e7\u00e3o pode n\u00e3o ser uma preocupa\u00e7\u00e3o para quem utiliza as ferramentas por mera divers\u00e3o. No entanto, pode causar grandes problemas para empresas onde decis\u00f5es precisas s\u00e3o cruciais.<\/p>\n\n\n\n

Da mesma forma, Velan reflete se existe uma \u201ccura\u201d e destaca que existem algoritmos que evitam este tipo de erros por n\u00e3o estarem conectados \u00e0 Internet, pois s\u00e3o treinados em fontes fechadas de informa\u00e7\u00e3o, por isso s\u00e3o treinados apenas com dados de uma entidade espec\u00edfica.<\/p>\n\n\n\n

Por outro lado, os especialistas da IBM identificaram que os modelos de IA poderiam tomar certas medidas para reduzir estas falsas percep\u00e7\u00f5es e fazer com que os sistemas funcionassem de forma optimizada.<\/p>\n\n\n\n

DICAS PARA EVITAR ALUCINA\u00c7\u00d5ES NA INTELIG\u00caNCIA ARTIFICIAL<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Defina o prop\u00f3sito do modelo de IA<\/h2>\n\n\n\n

Explicar como o modelo de IA ser\u00e1 usado (bem como as limita\u00e7\u00f5es no uso do modelo) ajudar\u00e1 a reduzir as alucina\u00e7\u00f5es. Para tal, uma equipa ou organiza\u00e7\u00e3o deve estabelecer as responsabilidades e limita\u00e7\u00f5es do sistema de IA escolhido; Isso ajudar\u00e1 o sistema a concluir as tarefas com mais efici\u00eancia e minimizar resultados irrelevantes e \u201calucinat\u00f3rios\u201d.<\/p>\n\n\n\n

Use modelos de dados<\/h2>\n\n\n\n

Os modelos de dados fornecem \u00e0s equipes um formato predefinido, aumentando a probabilidade de um modelo de IA gerar resultados que se enquadrem nas diretrizes prescritas. Confiar nesta solu\u00e7\u00e3o garante a consist\u00eancia dos resultados e reduz a probabilidade de o modelo produzir resultados errados.<\/p>\n\n\n\n

Limitar respostas<\/h2>\n\n\n\n

Os modelos de IA muitas vezes confundem a mente porque n\u00e3o possuem restri\u00e7\u00f5es que limitem os resultados poss\u00edveis. Para evitar esse problema e melhorar a consist\u00eancia geral e a precis\u00e3o dos seus resultados, defina limites para seus modelos de IA usando ferramentas de filtragem ou limites probabil\u00edsticos claros.<\/p>\n\n\n\n

Teste e refine continuamente o sistema<\/h2>\n\n\n\n

Para evitar alucina\u00e7\u00f5es, \u00e9 essencial testar rigorosamente o modelo de IA antes de utiliz\u00e1-lo, bem como avali\u00e1-lo continuamente. Esses processos melhoram o desempenho geral do sistema e permitem que os usu\u00e1rios ajustem ou treinem novamente o modelo \u00e0 medida que os dados envelhecem e evoluem.<\/p>\n\n\n\n

Confie na supervis\u00e3o humana<\/h2>\n\n\n\n

Garantir que uma pessoa valide e revise os resultados da IA \u200b\u200b\u00e9 uma \u00faltima medida de conten\u00e7\u00e3o para evitar alucina\u00e7\u00f5es. Sua participa\u00e7\u00e3o garante que, caso a IA surte, algu\u00e9m estar\u00e1 dispon\u00edvel para filtr\u00e1-la e corrigi-la.<\/p>\n\n\n\n

Um revisor humano tamb\u00e9m pode oferecer experi\u00eancia no assunto, melhorando sua capacidade de avaliar a precis\u00e3o e a relev\u00e2ncia do conte\u00fado de IA para uma determinada tarefa.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
<\/td><\/tr>
<\/td><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Descubra como evitar alucina\u00e7\u00f5es, a maior falha da intelig\u00eancia artificial, e aprenda como reduzir erros de chatbots como ChatGPT, Gemini e Meta AI. Dicas para minimizar respostas incorretas, que variam de 3% a 27%<\/p>\n","protected":false},"author":23,"featured_media":12328,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[234,228],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/12331"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/23"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=12331"}],"version-history":[{"count":5,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/12331\/revisions"}],"predecessor-version":[{"id":12346,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/12331\/revisions\/12346"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/12328"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=12331"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=12331"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=12331"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}