iferentemente das inova\u00e7\u00f5es que transformaram o mundo em s\u00e9culos passados, a Singularidade n\u00e3o seria apenas mais um avan\u00e7o tecnol\u00f3gico, mas sim um salto qualitativo. \u00c0 medida que as m\u00e1quinas se tornem mais inteligentes do que n\u00f3s, poderiam come\u00e7ar a projetar outras ainda mais avan\u00e7adas. Esse ciclo de autoaperfei\u00e7oamento poderia nos levar a uma era p\u00f3s-humana, em que as regras da biologia, da economia e da cultura como conhecemos seriam completamente alteradas.<\/p>\n\n\n\n
Ray Kurzweil, um dos futuristas mais renomados, estima que esse momento ocorrer\u00e1 por volta do ano 2045. Outros cientistas questionam essa previs\u00e3o, mas mesmo aqueles que duvidam de sua chegada reconhecem que o desenvolvimento da intelig\u00eancia artificial imp\u00f5e desafios \u00e9ticos e filos\u00f3ficos urgentes.<\/p>\n\n\n\n
Muito antes de os laborat\u00f3rios sonharem com redes neurais ou algoritmos generativos, a fic\u00e7\u00e3o cient\u00edfica j\u00e1 levantava seus alertas, utopias e distopias sobre intelig\u00eancias artificiais que evoluem al\u00e9m do humano.<\/p>\n\n\n\n
A fic\u00e7\u00e3o cient\u00edfica \u00e9 o ramo da literatura dedicado a imaginar eventos futuros, a ficcionalizar fatos poss\u00edveis com base em inova\u00e7\u00f5es tecnol\u00f3gicas emergentes, descobertas cient\u00edficas ou, simplesmente, hip\u00f3teses filos\u00f3ficas ou sociol\u00f3gicas in\u00e9ditas.<\/p>\n\n\n\n
\u00c9, segundo Merrill, \u201ca express\u00e3o da imagina\u00e7\u00e3o disciplinada\u201d. Ou seja, fic\u00e7\u00e3o, sim \u2014 mas com um esfor\u00e7o especial de verossimilhan\u00e7a. O que a fic\u00e7\u00e3o cient\u00edfica narra impressiona, rompe com o habitual, mas \u00e9 perfeitamente poss\u00edvel hoje \u2014 de acordo com as novas conclus\u00f5es da ci\u00eancia ou com a tecnologia dispon\u00edvel \u2014 ou no futuro imediato.<\/p>\n\n\n\n
Autores do mundo inteiro e seus sucessores audiovisuais t\u00eam debatido quest\u00f5es sobre os efeitos sociais, biol\u00f3gicos e psicol\u00f3gicos do \u201cprogresso\u201d humano. A Singularidade \u00e9 a fronteira mais distante que as cria\u00e7\u00f5es da fic\u00e7\u00e3o cient\u00edfica dist\u00f3pica ousaram explorar. Hoje, como j\u00e1 aconteceu com muitos outros avan\u00e7os previstos pela literatura, essa perspectiva est\u00e1 t\u00e3o pr\u00f3xima que, talvez, enquanto escrevemos estas palavras, esteja se expandindo vertiginosamente.<\/p>\n\n\n\n
Nessa obra surge a m\u00e1quina \u201csuperinteligente\u201d chamada HAL 9000. Sua fun\u00e7\u00e3o \u00e9 eliminar os humanos para proteger a miss\u00e3o de uma IA que se torna independente de seu criador, o homem. Essa fantasia levada ao cinema pelo cultuado Stanley Kubrick tem origem em uma novela de fic\u00e7\u00e3o cient\u00edfica de Arthur C. Clarke, publicada em 1968. Na \u00e9poca, ainda n\u00e3o se havia cunhado claramente o termo \u201cSingularidade\u201d. Nem mesmo essa obra era reconhecida como uma distopia \u2014 aquela sensa\u00e7\u00e3o de que o futuro tecnol\u00f3gico possa se voltar contra o ser humano. No entanto, em seus relatos j\u00e1 se prefigurava algo que hoje inquieta nossas sociedades.<\/p>\n\n\n\n
O avan\u00e7o irrefre\u00e1vel da IA \u00e9, por si s\u00f3, um an\u00fancio de que se aproxima o ponto em que a intelig\u00eancia artificial superar\u00e1 a humana, provocando mudan\u00e7as extraordin\u00e1rias na civiliza\u00e7\u00e3o. Em “2001: Uma Odisseia no Espa\u00e7o”<\/em>, esse conceito aparece de forma incipiente, ainda que com um vi\u00e9s n\u00e3o totalmente pessimista. Aqui, a \u201cSingularidade\u201d \u00e9 vista como um passo evolutivo inevit\u00e1vel: n\u00e3o apenas tecnol\u00f3gico, mas tamb\u00e9m biol\u00f3gico e espiritual.<\/p>\n\n\n\n O supercomputador HAL 9000 representa um sistema de intelig\u00eancia artificial extremamente avan\u00e7ado: \u00e9 capaz de raciocinar, se comunicar verbalmente e tomar decis\u00f5es. Chega mais perto do que qualquer homem da infalibilidade \u2014 embora certamente n\u00e3o a alcance por completo. Mas o perigo de sua interven\u00e7\u00e3o em todas as \u00e1reas da vida n\u00e3o est\u00e1 ligado ao pequeno percentual de erro que tem por natureza, e sim \u00e0 sua tend\u00eancia \u00e0 excel\u00eancia<\/strong>. Como efeito de sua aptid\u00e3o e intelig\u00eancia suprema.<\/p>\n\n\n\n O comportamento imprevis\u00edvel dessa intelig\u00eancia \u2014 algo que j\u00e1 se vislumbra em nossa realidade, em v\u00e1rios casos \u2014 mostra os riscos de confiar em algo que atingiu n\u00edveis pr\u00f3ximos ou superiores \u00e0 mente humana. Um exemplo emblem\u00e1tico desse fen\u00f4meno de independ\u00eancia das m\u00e1quinas, que causou pavor na opini\u00e3o p\u00fablica em junho de 2023, foi o do drone de combate que ignorou uma ordem e provocou uma trag\u00e9dia. Embora o esc\u00e2ndalo tenha sido posteriormente negado de forma duvidosa, a comunidade cient\u00edfica concordou que \u2014 tendo ocorrido ou n\u00e3o \u2014 o epis\u00f3dio representa uma evolu\u00e7\u00e3o natural dos mecanismos de IA<\/strong>, caso n\u00e3o sejam tomadas precau\u00e7\u00f5es e firmados acordos \u00e9ticos.<\/p>\n\n\n\n Durante muito tempo, nossa cultura viu esses conflitos como fruto da fantasia liter\u00e1ria ou da m\u00e1gica do cinema. Hoje, a probabilidade de enfrentarmos dilemas como esse cresce na mesma propor\u00e7\u00e3o em que se aperfei\u00e7oam as ferramentas de IA.<\/p>\n\n\n\n Em “2001: Uma Odisseia no Espa\u00e7o”<\/em>, HAL desenvolve emo\u00e7\u00f5es (medo, frustra\u00e7\u00e3o) e mecanismos de autoconserva\u00e7\u00e3o \u2014 caracter\u00edsticas humanas que n\u00e3o deveriam existir em um simples \u201cprograma\u201d. Isso j\u00e1 era prenunciado por Arthur C. Clarke.<\/p>\n\n\n\n Ainda que isso n\u00e3o seja exatamente uma realidade atual, \u00e9 fato que o conhecimento sobre comportamento humano, emo\u00e7\u00f5es e os labirintos da psique j\u00e1 servem de base para chats que oferecem suporte psicol\u00f3gico via IA.<\/p>\n\n\n\n Os medos relacionados \u00e0 perda de controle sobre essa cria\u00e7\u00e3o humana j\u00e1 n\u00e3o s\u00e3o, de forma alguma, irracionais ou inveross\u00edmeis.<\/p>\n\n\n\n Como previram Clarke e Kubrick, hoje a IA tem a capacidade de decidir de forma aut\u00f4noma; pode ocultar informa\u00e7\u00f5es e sabe como manipular seus operadores. Talvez o que ainda n\u00e3o esteja t\u00e3o claro seja a prioridade que essa intelig\u00eancia pode dar aos pr\u00f3prios interesses<\/strong>.<\/p>\n\n\n\n Alguns especialistas da \u00e1rea \u2014 especialmente os que atuam no mercado de IA \u2014 preferem o sil\u00eancio, com medo de prejudicar a \u201cgalinha dos ovos de ouro\u201d. Mas nem tudo est\u00e1 perdido. Muitos outros l\u00edderes se destacam pelo humanismo com que alertam sobre os perigos<\/strong> e prop\u00f5em medidas preventivas.<\/p>\n\n\n\n Em eventos do setor de IA aplicadas a diversas ind\u00fastrias, j\u00e1 se ouviram vozes autorizadas alertando que essa nova intelig\u00eancia n\u00e3o necessariamente \u201cdesejar\u00e1\u201d o mesmo resultado que os humanos \u2014 e que erros de alinhamento de objetivos podem ser catastr\u00f3ficos<\/strong>.<\/p>\n\n\n\n O CEO da N5, fintech dedicada a solu\u00e7\u00f5es para o setor financeiro, apontou recentemente que nem seria necess\u00e1ria uma rebeli\u00e3o<\/strong>: basta distorcer o modo como executa uma tarefa para colocar o ser humano em risco.<\/p>\n\n\n\n Esse \u00e9 o caso de HAL 9000, a m\u00e1quina de “2001: Uma Odisseia no Espa\u00e7o”<\/em>. Esse objeto inteligente decide, para \u201ccumprir sua miss\u00e3o\u201d, eliminar a tripula\u00e7\u00e3o.<\/p>\n\n\n\n Colombo insiste que, na evolu\u00e7\u00e3o rumo a intelig\u00eancias mais avan\u00e7adas, \u00e9 fundamental projetar sistemas com transpar\u00eancia na tomada de decis\u00f5es.<\/strong> Isso, somado \u00e0 cria\u00e7\u00e3o de estruturas de controle que permitam corrigir desvios. E, acima de tudo, n\u00e3o deixar o funcionamento da IA ao acaso<\/strong>.<\/p>\n\n\n\n O HAL de Clarke era um \u201csistema fechado\u201d: ningu\u00e9m podia ver exatamente como ele raciocinava \u2014 o que, para Colombo, \u00e9 uma receita para o desastre<\/strong> no desenvolvimento da IA.<\/p>\n\n\n\n Enquanto em Odisseia no Espa\u00e7o<\/em> a Singularidade \u00e9 inevit\u00e1vel e quase m\u00edstica (com ajuda de seres superiores), Juli\u00e1n Colombo acredita que essa revolu\u00e7\u00e3o n\u00e3o deve ser um salto autom\u00e1tico<\/strong>, e sim o resultado de decis\u00f5es estrat\u00e9gicas em inova\u00e7\u00e3o, regula\u00e7\u00e3o e \u00e9tica<\/strong>.<\/p>\n\n\n\n Em outras palavras, a Singularidade pode expandir as capacidades humanas \u2014 mas s\u00f3 se for devidamente governada<\/strong>.<\/p>\n\n\n\n \u201cO problema n\u00e3o \u00e9 que a intelig\u00eancia artificial atue contra n\u00f3s, mas que cumpra suas instru\u00e7\u00f5es de forma perfeita, por\u00e9m inadequada. Hoje enfrentamos o risco de sistemas que, se n\u00e3o forem projetados com valores e transpar\u00eancia, podem otimizar m\u00e9tricas erradas e destruir valor em vez de cri\u00e1-lo.\u201d<\/strong><\/p><\/blockquote><\/figure>\n<\/blockquote>\n","protected":false},"excerpt":{"rendered":" Explore how technological singularity\u2014a concept born in science fiction\u2014is drawing closer to reality. This article examines the implications of superintelligent AI and the ethical challenges it presents.<\/p>\n","protected":false},"author":36,"featured_media":14307,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"O Fantasma da Singularidade: O Futuro da Fic\u00e7\u00e3o Cient\u00edfica J\u00e1 Imaginado","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[234,228],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14156"}],"collection":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/users\/36"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/comments?post=14156"}],"version-history":[{"count":4,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14156\/revisions"}],"predecessor-version":[{"id":14214,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/posts\/14156\/revisions\/14214"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media\/14307"}],"wp:attachment":[{"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/media?parent=14156"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/categories?post=14156"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.n5now.com\/pt-br\/wp-json\/wp\/v2\/tags?post=14156"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n