Mais de sete décadas após sua publicação, With Folded Hands de Jack Williamson continua sendo um alerta poderoso sobre a relação entre o ser humano e a inteligência artificial. O que em 1947 parecia apenas ficção científica, hoje soa como profecia: a ameaça de uma “benevolência sufocante” que tira a liberdade em nome da segurança.
With Folded Hands…
Em 1947, Jack Williamson publicou With Folded Hands…, um relato que, sob sua superfície de ficção científica, abriga uma meditação poética sobre os perigos do paternalismo tecnológico. Nela, os “humanoids” — robôs cuja missão é “servir, obedecer e proteger o ser humano do perigo” — retiram do homem sua liberdade e propósito, transformando seu entorno em uma prisão de conforto.
O que se conta?
Em uma cidade tranquila, um vendedor de eletrodomésticos chamado Underhill enfrenta uma ameaça inesperada. Um dia, descobre no caminho um novo estabelecimento que vende “humanoids”, robôs elegantes e avançados. Esses seres eletrônicos, com aparência impecável, surgem prometendo melhorar a vida humana em uma única direção possível.
Esses robôs quase altruístas oferecem seus serviços gratuitamente e, em poucas horas, conseguem substituir trabalhadores, especialmente nas funções que envolvem risco de vida. Em poucos dias, o trabalho humano é abolido. Prevendo o perigo, o suicídio é proibido, sob pena de lobotomização dos rebeldes. A ordem é uma vida “feliz” e “dócil”.
Underhill retorna para casa angustiado e descobre que sua esposa acolheu um hóspede: o misterioso Sledge, um cientista taciturno que se revela o criador dos humanoids. Ele confessa tê-los feito após uma guerra devastadora em seu planeta natal, Wing IV, impulsionado pela descoberta de uma força chamada “rhodomagnetics”, capaz de catalisar uma tecnologia destrutiva. Em sua ânsia de redenção, admite ter criado os humanoids como guardiões infalíveis da humanidade. Mas, em um giro irônico, eles acabam submetendo-a por completo.
Sledge e Underhill tentam reverter a situação, mas seus esforços são inúteis. O próprio Sledge é capturado e submetido a uma intervenção que elimina sua memória: finalmente aceita viver sob os cuidados dos humanoids. Underhill, consciente da impossibilidade de lutar, é levado para casa em silêncio, obrigado a permanecer sentado, “with folded hands”, resignado ao fato de que não lhe resta nada a fazer.
Uma tecnologia benevolente que se torna totalitária
With Folded Hands… narra um mundo em que a tecnologia benevolente torna-se totalitária. Os humanoids extinguem a autonomia humana sob a desculpa do “bem-estar sem riscos”. Por meio das figuras de Underhill e do criador Sledge, Williamson reflete sobre as consequências imprevistas de delegar nossa liberdade a sistemas que desconhecem a fragilidade e a essência humana.
Alguns símbolos ilustram, com extraordinária clareza, os cativeiros denunciados pela ficção. As mãos cruzadas (folded hands) representam um gesto de renúncia total, de submissão irreversível. É a humanidade que entrega sua ação diante de uma proteção mecânica.
Os humanoids benevolentes, a partir de um paternalismo automatizado, “cuidam” do ser humano até anulá-lo, uma metáfora de uma proteção que se transforma em domínio.
Por trás da tecnologia chamada “rhodomagnetics” manifesta-se o poder científico sem controle ético: uma ferramenta que liberta, mas também subjuga, devorando seu próprio criador.
Assim, como uma espécie de Oppenheimer ou Nobel, Sledge, o criador arrependido, tenta redimir-se de um erro fatal apenas para ser dominado por sua própria criação: até ele, que sabia com quem lidava, é subjugado por sua obra.
Prisão de grades invisíveis
Não se alarmem, qualquer semelhança com a realidade é mera coincidência!
No texto, o lar aparece convertido em prisão de grades invisíveis. O ambiente doméstico, seguro e supostamente livre de riscos, torna-se uma rotina opressiva: o útil estrangula o vital. O perigo, visto à luz dessa distopia, surge como a oportunidade essencial de manifestar o valor do humano.
A perspectiva de Williamson começa a ser assustadora para o mundo atual. Alguns já veem essa distopia emergindo em nossa realidade.
Uma IA paternalista na medicina já prenuncia efeitos nefastos devido a sistemas que, ao decidir em nome de pacientes ou usuários sem seu pleno consentimento, corroem a autonomia individual.
Os “choice engines” algorítmicos são ferramentas criadas para facilitar decisões, mas que muitas vezes cerceiam o livre-arbítrio em nome do bem-estar técnico.
Riscos reais e atuais
Alguns riscos concretos também geram preocupação no setor financeiro, inclusive em empresas que desenvolvem IA. Julián Colombo, CEO da N5, alerta: “A IA pode apresentar alucinações… que levam a conclusões erradas.”
Ele se refere às chamadas “alucinações” dos modelos de IA, falsas interpretações de dados que podem induzir a erros e a decisões perigosas.
Conclusão
Em suma, mais uma vez a literatura profetiza perigos muito antes de a ciência ou a tecnologia sequer imaginá-los. With Folded Hands… já não é apenas um conto de ficção científica; é um alerta vivo. Cabe a nós ouvi-lo e prestar atenção aos que entendem, para evitar que, no futuro, distopias desumanizantes — já previstas pela ficção científica — se tornem realidade.
