martes, 24 de octubre de 2017

1940- EL CICLO DE LOS ROBOTS – Isaac Asimov (1)


Las máquinas, inteligentes o no y sea cual sea su forma y propósito, han sido desde siempre un icono de la CF junto al viaje espacial, el desplazamiento temporal y los alienígenas. Ya en 1872, Samuel Butler, en su novela utópico-satírica “Erewhon”, sugirió que las máquinas fabricadas por el hombre, más que su propia mente, podrían ser la siguiente frontera para la evolución darwiniana: “¿Quién puede decir que el motor de vapor no tiene una suerte de consciencia? ¿Dónde empieza la consciencia y dónde termina? ¿Quién puede trazar esa línea?”.


Una modalidad en particular de esas máquinas ha despertado mayor interés que otras: los robots antropomorfos. Su parecido exterior a nosotros hace que tendamos a atribuirles algunas de nuestras propias características, en especial la inteligencia y las emociones. El que uno de esos objetos, un constructo artificial al fin y al cabo, pudiera desarrollar autoconciencia y la capacidad de superar su programación y propósito originales, plantea cuestiones fascinantes y nos anima a examinar aspectos profundos de la naturaleza humana y la sociedad. Por ejemplo, si un robot con esas características quebrantara la ley asesinando a su creador, sería tal acto considerado un homicidio o tan solo estaríamos ante un accidente industrial? ¿Cómo reaccionaría la sociedad ante un ser inteligente pero no humano? ¿Podría éste integrarse en ella o, por el contrario, su única salida sería la muerte-desactivación? ¿Podría sentirse solo, tener la necesidad de amar? El robot, de esta forma, es casi una imagen ideal mediante la que ilustrar el comportamiento humano.

Este es el tipo de cuestiones que los hermanos escritores Earl y Otto Binder se planteaban en sus cuentos de “Adam Link”, protagonista de diez historias publicadas entre 1939 y 1942 en la revista “Amazing Stories”. Fueron estos cuentos, con títulos como “Yo, Robot”, “El Juicio de Adam Link”, “Adam Link en los Negocios” o “La Venganza de Adam Link”, los que inspiraron a un joven Isaac Asimov para escribir sus propios relatos de robots. Antes aún, en 1938, Lester del Rey publicó en “Astounding Science Fiction” el cuento “Helen O´Loy”, sobre un robot “femenino” diseñado para realizar tareas domésticas que acaba desarrollando emociones, enamorándose de su creador e incluso casándose con él. Poco después, inspirado por esta aproximación humanizadora a la figura del androide, Asimov vendió su primera historia de robots, “Robbie” (1940) en la revista “Super Science Stories”, bajo el título original “Extraño Compañero de Juegos”.

Las aportaciones más destacables e influyentes de Isaac Asimov como autor de CF fueron casi
con total certeza su Trilogía de la Fundación y su Ciclo de los Robots. Éste se compone de tres bloques escritos en diferentes momentos temporales, pero que internamente forman una única cronología más o menos coherente. En primer lugar, una serie de cuentos aparecidos en revistas mayormente en las décadas de los cuarenta y cincuenta (con notables adiciones posteriores, como el famoso “El Hombre Bicentenario”, de 1976). Todos ellos conforman una exhaustiva exploración de la inteligencia artificial en forma de cuentos cortos que no sólo narran la evolución de los robots, su equívoco funcionamiento en base a unas normas rígidas (las Tres Leyes de las que hablaremos enseguida) y una variada casuística que desarrolla esos principios, sino de la difícil relación entre esas máquinas inteligentes y la sociedad en la que viven.

El segundo bloque está integrado por dos novelas publicadas en los años cincuenta, de tono policiaco y ambientadas siglos después de lo acontecido en los cuentos: “Bóvedas de Acero” y “El Sol Desnudo”. Y, por último y ya en la década de los ochenta, “Los Robots del Amanecer” y “Robots e Imperio”, otros dos
libros que retoman personajes y situaciones de los volúmenes anteriores para narrar la génesis de lo que acabará convertido siglos después en el Imperio Galáctico que aparece en la saga de la Fundación.

Comencemos por los cuentos. Empezaron a aparecer publicados sobre todo en “Astounding Science Fiction” desde los años cuarenta, siendo luego compilados parcialmente en multitud de volúmenes con diferentes títulos, siendo el primero y más famoso de ellos el que lleva por título “Yo, Robot” (1950, que, además, fue el segundo libro de Asimov tras “Un Guijarro en el Cielo”, de ese mismo año) y que incluye nueve relatos unidos como si se tratara de un artículo periodístico, una entrevista a la doctora Susan Calvin, personaje del que hablaremos a continuación. Sin embargo, quizá sea “El Robot Completo” la antología más exhaustiva, ordenando casi todos los cuentos no por su fecha de publicación sino por la cronología interna que los engarza todos. Otra compilación, “Sueños de Robot” (1986, ilustrada por Ralph McQuarrie), incluye veintiuna historias sobre robots, ordenadores y viajes espaciales ya publicados en otras antologías, pero el relato titular sí es original y es, de hecho, una clara inspiración para la película “Yo, Robot” (2004) de Alex Proyas.

Así, nos encontramos ante una historia del futuro de vaga continuidad que abarcaría desde
1996 a 2052 y cuya atención se centra en la evolución de los robots y su papel en el desarrollo de la sociedad humana y su expansión por otros mundos, comenzando por máquinas primitivas y mudas diseñadas para realizar tareas domésticas e industriales bastante específicas y terminando con inteligencias artificiales muy sofisticadas que asumen unilateralmente el papel de gobernantes del destino del Hombre.

Diez de los cuentos, quizá los mejores, tienen como personaje central a una mujer, la doctora Susan Calvin, robopsicóloga jefe de la principal fabricante de robots de la Tierra, U.S.Robots and Mechanical Men, Inc. Ha estado con la empresa casi desde su creación y le ha dado sus mejores hitos en el campo de la inteligencia artificial. Es de destacar la decisión de Asimov de utilizar una mujer científico como protagonista de varios cuentos en lo que es una representación positiva de la mujer en un género casi enteramente dominado en la época por varones. No es que el autor pueda escaparse del todo a los clichés y la caracterización de Calvin debe mucho al estereotipo de “vieja dama gruñona”: una mujer de mediana edad, físicamente no muy atractiva, fría y cortante en el trato con los demás pero con una frustrada vida emocional bullendo tras esa fachada distante

Hay que decir, sin embargo, que la construcción de personajes humanos en todos estos cuentos es muy burda, primero porque Asimov tampoco destacó demasiado por crear personajes carismáticos e inolvidables, y segundo porque los verdaderos protagonistas son los propios robots. Los humanos aquí son meras herramientas para que el relato avance, simples transmisores de información al lector.

El núcleo de todos los robots de Asimov reside en su cerebro positrónico, una invención muy sofisticada cuyo funcionamiento exacto nunca se explica y que, de hecho, en numerosas ocasiones se sugiere que ni siquiera los más cualificados científicos expertos en robótica comprenden del todo las complejidades y potencial de dichos artefactos. En la base de todos ellos, sin embargo, hay un corazón inalterable y básico que obliga al robot a cumplir escrupulosamente lo que se ha bautizado como “Tres Leyes de la Robótica”, tal vez la aportación más importante de Asimov al género (destilada, eso sí, gracias al consejo y guía de su mentor y editor, John W.Campbell). Éstas, expuestas por primera vez en el cuento “Razón” (1941), se enuncian como sigue:

1-Un robot no puede dañar a un ser humano o, por inacción, permitir que éste resulte dañado.

2-Un robot debe obedecer las órdenes que le de un ser humano excepto cuando tales órdenes entren en conflicto con la Primera Ley.
3-Un robot debe proteger su propia existencia en tanto en cuanto dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Resulta asombrosa la diversidad dramática y conceptual que Asimov supo extraer en sus cuentos y novelas de algo tan aparentemente escueto como estas leyes, conformando un mosaico de historias acerca de la lógica, la identidad, la diferencia y las semejanzas. Parecen leyes claras, rotundas y eficaces que garantizarán la seguridad del ser humano. Pero no es así ni mucho menos. En muchos relatos, Asimov juega con el lector presentando situaciones en las que un robot aparentemente infringe alguna de dichas leyes. Habrá de ser alguno de los humanos al cargo (la propia Calvin o el equipo de ingenieros-detectives formado por Michael Donovan y Gregory Powell) quienes descubran que en el fondo el robot sigue fielmente los dictados de su programación básica. El problema es la interpretación de esos principios últimos que la rigen.

En la raíz de todas las historias de robots, Asimov coloca a esta nueva especie de seres eminentemente lógicos al estilo kantiano frente a la ética nebulosa que caracteriza el comportamiento humano. Para el filósofo Emmanuel Kant, las cuestiones éticas eran absolutos. En su obra “Fundamentación de la metafísica de las costumbres”, aconsejaba: “Obra de modo que la máxima de tu voluntad pueda ser en todo tiempo principio de una ley general”. Lo que significa que antes de cometer un asesinato o mentir, debo primero considerar si tal actuación podría concebirse como parte de una ley universal -¿cómo serían las cosas si todo el mundo asesinara, si todo el mundo mintiera?-. En otras palabras, la ética tiene que ver no con mi beneficio personal sino con un código moral universal. En el mismo libro, insistía: “Existe un imperativo que ordena cierta conducta (…) ese imperativo es Categórico”. Pero claro, ese mandato es contrario en muchos casos a los impulsos humanos: si un asesino demente armado con una pistola me exigiera revelar dónde se esconde mi amigo, debería considerar no sólo prudente sino moralmente justificable el mentirle. Pero para Kant mentir contraviene el imperativo categórico de la moralidad por lo que lo correcto sería decir la verdad incluso en ese caso extremo. Para Kant, actuar de forma moral significaría suprimir cualquier tipo de deseo, interés o inclinación, identificando la racionalidad personal con una regla universal. Es este frío absolutismo lo que hace que la ética kantiana resulte indigerible para muchos pensadores.

Pues bien, los robots de Asimov son seres que han interiorizado en su cerebro positrónico ese marco de referencia moral: enfrentados a un dilema ético, no consultan sus respectivas conciencias sino que obedecen estrictamente las Tres Leyes que gobiernan su comportamiento. La genialidad de esta invención es que los robots no resultan ser tan deterministas como un reloj o una calculadora sino que sus reacciones a veces son impredecibles.

Aunque las primeras historias de robots de Asimov aparecieron, como he dicho, publicadas en revistas en la década de los cuarenta, su primera y más exitosa compilación, “Yo, Robot” (1950), apareció en un momento particularmente relevante: poco después de que el matemático Norbert Wiener escribiera su libro “Cibernética”
(1948) y el mismo año en que Alan Turing publicó su artículo “Computing Machinery and Intelligence”. Ambos ensayos científicos, junto a “Yo, Robot”, abrieron nuevos senderos conceptuales en la Ciencia y la CF al sugerir que el hombre, amo de todas las criaturas de la Tierra, podría encontrarse en un futuro no muy lejano con otro ser a su misma o superior altura dotado de una inteligencia artificial. Wiener, Turing y Asimov interpretaron el desarrollo de máquinas inteligentes como un camino de enorme potencial positivo y dejaron atrás esas imágenes de robots amenazantes y ávidos de controlar el mundo.

Pero, por otro lado y en parte debido a la Guerra Fría y las preocupaciones que generó acerca del peligro nuclear, aquella visión positivista de la tecnología se encontró conviviendo con otra claramente opuesta que desconfiaba de los científicos y sus descubrimientos. Así, muchos trabajos de CF de principios de los cincuenta interpretaban la tendencia al automatismo como una amenaza, caso de la sátira de Kurt Vonnegut “La Pianola” (1952), en la que se presentaba una sociedad en la que el trabajo humano había sido superado por una tecnología muy avanzada. Por supuesto, el temor a que los propios humanos pudieran acabar transformados en una suerte de autómatas
fue el resultado no sólo de la desconfianza hacia la tecnología sino de las transformaciones en la industria y vida cotidiana de los años cincuenta, con rutinas forzadas, electrodomésticos para todas las tareas y un conformismo generalizado.

Los benevolentes robots de Asimov, por tanto, toman desde el principio partido en el debate acerca de las virtudes y peligros de la tecnología y la inteligencia artificial poniéndose de parte de estas últimas. El primero de sus relatos robóticos, el mencionado “Robbie” (en el que aparece una todavía adolescente Susan Calvin) es un cuento muy sentimental acerca del cariño que siente una niña, Gloria Weston, por su robot (un modelo todavía primitivo y mudo), una máquina adquirida por su padre para actuar de niñera y compañero de juegos de la pequeña. El robot desempeña su labor de forma ejemplar, pero ello no evita que la madre desarrolle antipatía por ese “electrodoméstico” tan particular. Aquí aparece por primera vez el sentimiento anti-robot dominante entre las clases populares que permeará buena parte de los cuentos y novelas de robots escritos por Asimov, alegoría del sector tecnófobo de la sociedad
contemporánea. La señora Weston acaba convenciendo a su marido de que devuelva a Robbie a la U.S.Robot, aunque la reacción de Gloria por la pérdida de su compañero es tan extrema que el padre (con la ayuda providencial de un accidente industrial en el que Robbie salva la vida de la pequeña) consigue persuadir a su esposa para que acepte al robot en casa. Esta primera historia establece claramente una actitud positiva hacia los robots y un rechazo hacia la mentalidad estrecha de miras de quienes contemplan a aquéllos como una amenaza a la seguridad.

Asimov utiliza a sus robots como una réplica al conocido como “Complejo de Frankenstein” en virtud del cual se retrata a la inteligencia artificial como algo siniestro y peligroso para la Humanidad. En este sentido, podemos recordar a esa criatura pionera, de manufactura casera, creada por el doctor Frankenstein en la novela homónima de 1818. Mención ineludible son los robots del fundador del subgénero, Karel Capek, que en su obra teatral “R.U.R” (1921) planteaba cómo las máquinas (aunque éstas se asemejaban más a una suerte de clones) se rebelaban contra sus creadores humanos y tomaban el control de la Tierra. Por otra
parte, también es verdad que la sátira terminaba con una nota positiva al humanizar tanto a dos de los robots que surgía en ellos la pasión sexual y comenzaban a repoblar el planeta como si de unos nuevos Adán y Eva se tratara. El robot de “Metrópolis” (1927), por nombrar otro famoso, era igualmente un ser malvado que actuaba como agente del caos.

Asimov, sin embargo y a pesar de su sentimental primer relato sobre el tema, no cae del todo en el campo contrario, esto es, el de considerar al robot como un ser amable y sufriente, una suerte de contrapartida mecánica del ser humano. Poco a poco, fue perfilando la idea de un robot que es básicamente una herramienta industrial, muy sofisticada y quizá hasta con forma humana, pero herramienta al fin y al cabo. Asimov estaba convencido de que el
progreso científico y tecnológico, aunque no exento de peligros, es fundamentalmente una fuerza benéfica.

Máquinas, sí. Pero máquinas verdaderamente inteligentes (en último término, más que los propios humanos). Por eso resulta sorprendente que los robots de Asimov nunca sean capaces de superar la programación de las “Tres Leyes”, una paradoja que señaló el propio Stanislaw Lem: “Ser inteligente significa ser capaz de cambiar tu programación hasta ese momento vigente mediante actos conscientes de voluntad y de acuerdo con la meta que te hayas fijado”. Además, Asimov nunca resuelve las obvias contradicciones que implican las Leyes. ¿Qué ocurriría, por ejemplo, si un robot recibe órdenes contradictorias de dos humanos diferentes? ¿O qué pasa si para salvar a un humano debe dañar a otro? ¿Y qué directrices hay acerca de la posibilidad de que un robot dañe a otro robot? (hay que decir, no obstante, que estos problemas iría abordándolos y “solucionándolos” en las novelas del ciclo que aparecieron posteriormente).

Con todo y aunque Asimov inicialmente interpretó esas Tres Leyes como una barrera
insuperable (una idea reciclada mil veces en posteriores obras de multitud de autores), también reconoció, como apunte anteriormente, que están abiertas a una amplia interpretación y, por tanto, a generar problemas. Para empezar, las reglas que gobiernan la fabricación de robots parecen permitir un amplio margen en la programación de aquéllas, por lo que una o más leyes podrían reforzarse o debilitarse si la tarea a realizar por esas máquinas resultara más sencilla con tal programación. Es más, en las verdaderas aplicaciones informáticas actuales las interacciones entre varias de ellas pueden llevar a considerables (y algunas veces impredecibles) complicaciones.

De este modo, muchas de las historias (prácticamente todas las de “Yo, Robot”) son relatos detectivescos acerca de misterios relacionados con comportamientos imprevistos de los robots, aparentemente en conflicto con alguna de las Tres Leyes. Por ejemplo, en “Círculo Vicioso” (1942), Powell y Donovan, se encuentran en Mercurio con un robot que se limita a caminar en círculos por la superficie del planeta en lugar de cumplir las órdenes asignadas. Al final, deducen que ese extraño comportamiento lo causa el hecho de que el robot ha recibido un refuerzo de la Tercera Ley
(para protegerse a sí mismo como carísima inversión de la compañía que es) en detrimento de la Segunda, haciendo que se atasque en una especie de punto muerto: en lugar de acercarse al peligroso lugar donde tiene que trabajar, da vueltas alrededor de él.

Powell y Donovan son dos personajes recurrentes en los cuentos de robots, dos ingenieros de personalidad intercambiable y especialistas en trabajo de campo que se dedican a probar nuevos modelos de robot o solucionar situaciones peligrosas provocadas por aparentes averías en los mismos (en esta pareja, por cierto, estarían basados los divertidísimos “espacialistas” Clarke & Kubrick creados por nuestro autor de comics Alfonso Font). En “Razonamientos” (1941) se enfrentan a un desafío bastante peculiar a las Tres Leyes cuando viajan a una estación espacial que transmite energía a la Tierra mediante un haz de microondas. Las instalaciones están totalmente operadas por robots y los dos humanos han recibido el encargo de montar y activar un nuevo prototipo muy avanzado conocido como QT-1, que cuenta con gran capacidad de razonamiento y cuya labor será la de supervisar al resto de robots.

Aunque está programado con las Tres Leyes, la inteligencia de QT-1 le hace concluir que es
imposible que él haya sido diseñado y fabricado por humanos, a los que considera seres inferiores: “Miraos. No es mi intención ridiculizaros, pero miraos bien. El material del que estáis hechos es blando y fofo, carente de fuerza y resistencia, dependiente de la energía producida por la ineficaz oxidación de materia orgánica (…) Periódicamente os sumís en un coma y la menor variación en la temperatura, la presión atmosférica, humedad o intensidad de la radiación perjudica vuestro rendimiento. Sois enclenques”. Deduce, por tanto, que su creador ha de ser el Conversor de Energía de la estación, dado que obviamente es su parte más importante. Luego, desarrolla una especie de devoción religiosa hacia ese conversor, fe que adoptan también el resto de robots, convirtiéndolo su profeta. Pero a pesar de ese extraño comportamiento, QT-1 demuestra ser capaz de gestionar la estación de forma mucho más eficiente que cualquier humano, por lo que Powell y Donovan deciden dejarlo al cargo de la misma sin informar de su despreciativa actitud hacia los humanos y dejando a su relevo el problema de tratar con el recién nacido culto al Conversor.

(Continúa en el siguiente post)

1 comentario:

  1. Excelente reseña, por cierto al final escribes: "dejando a su relevo el problema de tratar..."...lo que olvidas es que Powell y Donovan no le dicen nada al relevo porque éste es umuy mala persona, dejando ese toque de comedia propio del autor XD.
    La saga de estos dos amigos (uno más efusivo, otro más práctico) es fenomena, se complementan y las historias de robots le calcan de maravilla, gracias por la reseña

    ResponderEliminar