Más de siete décadas después de su publicación, With Folded Hands de Jack Williamson sigue siendo una advertencia poderosa sobre la relación entre el ser humano y la inteligencia artificial. Lo que en 1947 parecía simple ciencia ficción hoy se interpreta como una profecía: la amenaza de una “benevolencia asfixiante” que nos priva de libertad en nombre de la seguridad.
With Folded Hands…
En 1947, Jack Williamson publicó With Folded Hands…, un relato que, bajo su superficie de ciencia ficción, alberga una meditación poética sobre los peligros del paternalismo tecnológico. En ella, los “humanoids”—robots cuya misión es «servir, obedecer y proteger al ser humano del peligro»— despojan al ser humano de libertad y propósito, transformando su entorno en una cárcel de comodidad.
¿Qué se cuenta?
En un pueblo calmo, un vendedor de electrodomésticos llamado Underhill, se enfrenta a una amenaza inesperada. Un día, descubre en su camino un nuevo establecimiento que vende “humanoids”, robots elegantes y avanzados. Estos seres electrónicos, con su apariencia impecable, irrumpen prometiendo mejorar la vida humana con una sola direcciòn posible.
Estos robots casi altruistas ofrecen sus servicios gratuitamente, y en horas logran reemplazar trabajadores, especialmente las funciones que suponen riesgo de vida. En pocos días queda abolido el trabajo humano. Previendo el peligro, se prohibe el suicidio, so pena de lobotomización a los rebeldes. El mandato es una vida “feliz” y “dócil”.
Underhill regresa a casa con angustia y descubre que su esposa ha aceptado un huésped: el misterioso Sledge, un científico taciturno que resulta ser el creador de los humanoids. Éste confiesa haberlo hecho luego de una devastadora guerra en su planeta natal, Wing IV, impulsado por el descubrimiento de una fuerza llamada “rhodomagnetics”, capaz de catalizar una tecnología destructiva. En su afán de redención, reconoce haber creado a los humanoids como guardianes infalibles de la humanidad. Pero, en un giro irónico, estos acaban sometiéndola completamente.
Sledge y Underhill intentan revertir la situación, pero sus esfuerzos resultan inútiles. El propio Sledge es capturado y sometido a una intervención que elimina su memoria: finalmente acepta vivir bajo el cuidado de los humanoids. Underhill, consciente de la imposibilidad de luchar, es llevado a casa en silencio, obligado a quedarse sentado, «with folded hands«, resignado a que no le queda nada que hacer.
With Folded Hands… narra un mundo donde la tecnología benévola deviene totalitaria. Los humanoids extinguen la autonomía humana bajo la excusa del “bienestar sin riesgos”. A través de la figura de Underhill y del creador Sledge, Williamson reflexiona sobre las consecuencias imprevistas de delegar nuestra libertad a sistemas que desconocen la fragilidad y la esencia humana.
Algunos símbolos pintan, con extraordinaria claridad, los cautiverios denunciados por la ficciòn. Las manos cruzadas (“folded hands”) representan un gesto de renuncia total, de sumisión irreversible. Es la humanidad que entrega su accionar ante una protección mecánica.
Los humanoids benevolentes, desde un paternalismo automatizado, “cuidan” al ser humano al punto de anularlo, una metáfora de una protección que deviene dominio.
Detrás de lo que se nombra como la tecnología “rhodomagnetics” se manifiesta el poder científico sin control ético: una herramienta que libera, pero también subyuga, devorando a su propio creador.
Entonces, como una especie de Oppenheimer o Nobel, Sledge, el creador arrepentido, intenta redimirse de un error fatal solo para ser dominado por su propia creación: incluso él, que conoce con quien trata, es subyugado por su obra.
Prisión de barrotes invisibles
¡A no alarmarse, cualquier parecido con la realidad es pura coincidencia!
En el texto el hogar aparece convertido en prisión de barrotes invisibles. El entorno doméstico, seguro y pretendidamente inmaculado de riesgo se convierte en rutina opresiva: lo útil estrangula lo vital. El peligro, visto a la luz de esta distopía aparece como la oportunidad esencial de manifestar el valor de lo humano.
La perspectiva de Williamson comienza a ser aterradora para el mundo actual. Algunos ven esa distopía asomando a nuestra realidad.
Una IA paternalista en medicina ya prefigura efectos nefastos a causa de sistemas que, al decidir en nombre de pacientes o usuarios, sin su pleno consentimiento, erosionan la autonomía individual.
Los “Choice engines” algorítmicos son herramientas diseñadas para facilitar decisiones, pero que a menudo coartan el libre albedrío en nombre del bienestar técnico.
Algunos riesgos reales también generan preocupación en ámbitos financieros incluso en firmas que están desarrollando IA. Julián Colombo, CEO de N5, advierte “La IA puede presentar alucinaciones… que llevan a conclusiones erróneas.”
Se refiere asì a las “alucinaciones” de los modelos de IA, falsas interpretaciones de datos, que pueden inducir a conclusiones erróneas y decisiones peligrosas.
En suma, una vez más la literatura profetiza peligros mucho antes de que la ciencia o la tecnología pudiera adivinarlos. With Folded Hands… ya no es un mero cuento de ciencia ficción; es una advertencia viva. De oirla, de prestar atención a los que saben dependerá que no nos esperen en el futuro distopías deshumanizantes que la ciencia ficción ha adivinado.
