Un cuchillo es un instrumento extremadamente útil. Sirve, entre otros fines, para cortar alimentos o tallar madera; nos ayuda a sobrevivir, a crear. Pero un cuchillo, bien lo sabemos, sirve también para matar. Esta imagen refleja nítidamente la utilidad y el peligro que, de forma simultánea, entraña ese conjunto de teorías, instrumentos y técnicas que llamamos tecnología y que hoy ha alcanzado un desarrollo sin precedentes. Grandeza y amenaza conviven sin excluirse, una convivencia tensa cuyo resultado es siempre incierto y que requiere una constante alerta por parte de la sociedad y de los poderes públicos. Martin Heidegger, en su conferencia impartida en 1953 ‘La pregunta por la técnica’, insiste en esta misma idea al señalar la radical ambigüedad de la técnica moderna, que la hace aparecer como amenaza y como esperanza. Por un lado, la técnica moderna es un instrumento útil (un artefacto, objeto); por el otro lado, es una estructura de acción en el mundo, que acelera y modifica los procesos naturales y transforma cualitativamente la naturaleza (esencia). Para el filósofo alemán, la amenaza para el hombre no está en el instrumento, sino en esa estructura de acción que impulsa al ser humano a dominar la naturaleza alienándolo de su verdadera esencia.
En la actualidad se ha producido un progreso espectacular en el ámbito de la inteligencia artificial (IA), y de repente han saltado las alarmas en el mundo entero. Recientemente, todos los medios de comunicación se han hecho eco de las opiniones de los expertos sobre los peligros que entraña esta nueva tecnología si no se somete a reguladores independientes. Advertencias como “el posible fin de la historia humana”, o “el riesgo de extinción para la humanidad” sorprenden por su contundencia y su tono apocalíptico produce vértigo. Según Yuval Noah Harari, historiador y filósofo (El País, 3 de mayo de 2023), si bien la humanidad ha mirado con recelo desde el inicio de la era informática las máquinas capaces de “matar, esclavizar o sustituir” a las personas, la IA ha llegado ahora a un extremo de desarrollo, especialmente en el lenguaje (“la materia de la que está hecha casi toda la cultura humana”) que es capaz de hackear “el sistema operativo de nuestra civilización”. Sam Haltman, confundador de OpenAI, declaraba recientemente ante el senado de Estados Unidos: “Si la inteligencia artificial sale mal, puede salir muy mal”. (El País, 16 de mayo de 2023). Y el científico británico Geoffrey Hinton renunció hace poco a la vicepresidencia de ingeniería en Google consciente de los grandes peligros que acechan a la humanidad con el desarrollo de la IA. A su juicio, dentro de pocos años la IA podría llegar a superar el cerebro humano, y esta idea genera temor. La gran pregunta respecto a las inteligencias sintéticas es entonces: “¿Podemos asegurarnos de que tengan metas que nos beneficien a todos?” (El País, 7 mayo de 2023)
Así pues, la IA produce una profunda inquietud, de naturaleza existencial, incluso entre sus principales creadores, que han alertado recientemente, en una carta abierta, de sus catastróficas consecuencias, comparables a las de una guerra nuclear o una pandemia. Es obvio que el problema no es la tecnología en sí, sino el uso que se le da y los fines que persigue. Las grandes empresas seguirán desarrollando cualquier tipo de tecnología, sin preocuparse necesariamente de los riesgos y de las consecuencias negativas que esta pudiera provocar en relación con los derechos laborales, los derechos de autor, el derecho a la privacidad… Y además, como señala Marta Peirano, especialista en tecnología, los modelos de IA, a diferencia de las plataformas, no se responsabilizan de los contenidos: “ChatGPT ya produce gran parte de la propaganda que intoxica las redes sociales con el objetivo de manipular los procesos democráticos”. (El País, 19 mayo de 2023).
Los avances tecnológicos más significativos suelen plantear a la sociedad nuevos retos e interrogantes éticos. Esto se observa también claramente, por citar otro ejemplo, en el debate bioético sobre el uso comercial de organismos genéticamente modificados. La voz de alarma de científicos, filósofos y técnicos acerca de los riesgos de una IA sin regulación nos confronta con un problema que no es ni mucho menos nuevo en la historia moderna de occidente, y que ya se formula literariamente hace más de dos siglos en el Frankenstein o el moderno Prometeo de Mary Shelley: ¿qué pasa si creamos una máquina más poderosa que nosotros sobre la que perdemos el control? La pregunta brota del espíritu romántico decimonónico que cuestiona el poder omnímodo de la Razón que había presidido el periodo ilustrado anterior con su fe en el progreso científico y humano. El afán del hombre por dominar la naturaleza mediante sus conocimientos científicos y habilidades técnicas no parece necesariamente conducir al bien y a la felicidad, descubre el romántico, no sin angustia. La naturaleza impone un límite, cuya transgresión siempre será castigada, como le sucede al Fausto de Goethe en su anhelo de poseer el conocimiento y la juventud eterna. Los monstruos, las demoníacas criaturas, no están en el adormecimiento de la Razón, sino en la quiebra del orden natural del mundo promovida por una Razón generadora de técnicas que desafían a la naturaleza.
La historia moderna está íntimamente entrelazada con la historia de la ciencia y, consiguientemente, con el desarrollo, cada vez más veloz de la tecnología, aplicada con eficacia creciente a una multiplicidad de ámbitos, que ha beneficiado extraordinariamente a la humanidad. Pero este progreso, incuestionable por una parte, tiene su cara bastante menos amable, que se hace especialmente visible cuando la tecnología tiene como meta principal el lucro. Surgen entonces complicaciones de todo género, como los impactos medioambientales negativos (hoy combatidos por aquellos que defienden el llamado desarrollo “sostenible”, que suelen estar en posición de debilidad frente a los intereses comerciales de las grandes empresas) o el problema social de la deshumanización que se puede producir cuando las personas son sustituidas por máquinas o clones. La pregunta que surge entonces es: ¿hasta qué punto conviene permitir que la tecnología condicione la vida de los humanos? El “posthumanismo”, una novísima corriente de pensamiento, se pregunta precisamente por el impacto que la cibernética y las biotecnologías tienen en la llamada “identidad” humana. Una inquietud que no es del todo nueva, sino que tiene sus precedentes: por ejemplo, en el movimiento llamado “ludismo”, nacido en la Inglaterra de principios del siglo XIX como consecuencia de la revolución industrial, que se oponía a las nuevas máquinas que destruían el empleo. Hoy existe el “neoludismo”, término definido en el manifiesto del congreso de neoluditas celebrado en Estados Unidos en 1996 como “un movimiento sin líderes de resistencia pasiva al consumismo y a las tecnologías cada vez más extrañas y amenazadoras de la Edad Contemporánea”.
Lo que me interesa destacar en el espacio limitado de este ensayo es cómo esa inquietud por los efectos negativos e incontrolables de la tecnología, que tanto debate genera actualmente, se manifiesta en el ámbito de la cultura y del pensamiento, una preocupación que, como hemos visto, ya ha sido formulada artísticamente en el pasado, en especial por la sensibilidad romántica. Para ilustrar esto, partiremos de unos pocos ejemplos de obras cinematográficas y literarias.
La lista de películas actuales que, dentro del género de la ciencia ficción, nos presentan un inquietante mundo distópico dominado por las máquinas es larga. Entre las más recientes cabe destacar Ex Machina (2015), de Alex Garland, un relato futurista sobre la creación de una mujer-robot, que ha sido definido como el “Frankenstein de la era digital”; Her, de Spike Jonze, una apasionada historia de amor entre un hombre solitario y Samantha, la voz femenina de un nuevo sistema operativo basado en la inteligencia artificial; Transcendence (2014), de Wally Pfister, la historia de un investigador que trabaja en la creación de una máquina sensible, autosuficiente y con conciencia colectiva, con el objetivo de adquirir conocimiento sobre todo lo que se crea en el planeta Tierra. Las consecuencias serán nefastas, como es de prever. En todas estas películas vemos asomar, de algún modo u otro, el mito de Fausto y del moderno Prometeo, que ya inspiraron la obra de Mary Shelley. Fausto, quien vende su alma al diablo a cambio de la revelación máxima. Prometeo, el creador del hombre, que será castigado por osar infringir las leyes de la naturaleza.
La preocupación se extiende también a temas como el poder desmesurado del “big data”, las cantidades masivas de datos capaces de invadir nuestra intimidad y controlar nuestras vidas (El círculo, de James Ponsolt, 2017); o el aumento de las desigualdades sociales cuando el poder queda en manos de una minoría: solo los ricos pueden costearse la posibilidad de la vida eterna que ofrece el avance de la tecnología (Elysium, de Neill Blomkamp, 2013). Precedentes de todas estas fantasías distópicas –tal vez cada vez menos fantasiosas– se hallan en obras tan icónicas como Metrópolis, de Fritz Lang, que denuncia la sociedad de clases fundamentada en la explotación de los trabajadores, y que ya en 1927 advierte de un futuro nada halagüeño en el que las máquinas sean capaces de pensar por su cuenta y convertirse en ángeles exterminadores; o, ya en el cambio de milenio, en películas como la de Steven Spielberg, AI Inteligencia artificial (2001), o en Odisea en el espacio, de Stanley Kubrick (2001), considerada un clásico del cine de ciencia ficción, en el que el superordenador HAL9000 se desespera al saber que le van a borrar la memoria; o la serie cinematográfica Mátrix, de las hermanas Wachowski (1999), otro referente, que describe un futuro en que los seres humanos son esclavizados por las máquinas. Mención aparte merece la cinta, anterior a las precedentes y convertida en fenómeno de culto, Blade Runner, (1982) de Ridley Scott, una historia épica moderna sobre unos replicantes (androides humanoides) en un mundo futuro, decadente y cosificador, que se rebelan contra los humanos y su propio creador (de nuevo el mito de Prometeo), para prolongar su vida. Al no conseguirlo se hacen conscientes de lo que les vincula a la condición humana: la muerte. Y así, a pesar de toda su inteligencia y de su poder como máquina, el replicante protagonista anhela poseer recuerdos y memoria, y busca desesperadamente una identidad. Esta película ha dado pie a toda una serie de preguntas de naturaleza filosófica en torno a temas como: la alienación generada por la tecnocracia, la deshumanización y la pérdida de autonomía moral de los seres humanos, la angustia ante la finitud, la ausencia de Dios (o del creador, al que el propio replicante asesina), las sociedades totalitarias y la lucha de los sometidos por alcanzar la libertad. Temas todos estos que están también presentes en múltiples formas en la popular serie televisiva Black Mirror (Charlie Brooker, 2011), otro fenómeno de culto, que desde un futuro próximo extremadamente inquietante nos muestra, a veces con gran crudeza, el lado oscuro de nuestra era tecnológica.
En la literatura, las novelas de ficción distópica que se hacen eco de estos temas e inquietudes son también numerosas a lo largo del pasado siglo. Recordemos solo algunas tan conocidas como Un mundo feliz (1932), de Aldous Huxley, que anticipa el desarrollo de la tecnología reproductiva presentando a una humanidad ordenada en castas y controlada mediante la represión y las drogas por el poder omnímodo del Estado; 1984, de George Orwell, publicada en 1949, donde el Big Brother –o el Estado totalitario– ejerce un control estricto sobre toda la sociedad mediante la vigilancia masiva y la represión; Fahrenheit 451 (1953), de Ray Bradbury, en que las ideas disidentes se reprimen con la quema de libros; o más recientemente, El cuento de la criada (1985), de Margaret Atwood, que presenta una sociedad futura, aunque inspirada en el pasado, de carácter autoritario y teocrático en la que se han suprimido los derechos fundamentales y en la que la mujer queda reducida a la condición de “criada” del hombre u objeto para la reproducción.
Aparte de estas célebres obras, clasificadas mayormente como de ciencia ficción, creo oportuno detenerme aquí brevemente en una importante novela no considerada de este género –aunque comparte algunos elementos del mismo–, y tal vez poco conocida por el gran público, que plantea muchas de estas cuestiones relativas a la condición humana en la era de la tecnología. Me refiero al Descubrimiento del cielo (1992), la obra magna del escritor neerlandés Harry Mulisch, fallecido en 2010, que traduje al español para Tusquets en 1997, y en cuyas más de 800 páginas se desarrolla una intrigante historia que algunos han calificado de épica moderna y de novela “faústica”. A finales de los años 60, dos personajes excepcionales traban en Holanda una amistad de largas consecuencias: Max Delius, científico, astrónomo, de origen judío; y Onno Quist, lingüista, de origen cristiano; ambos sabios, irónicos y descreídos. Ada Brons, joven violinista, decide abandonar a Max, su pareja, cuando se enamora de Onno. Ella queda embarazada del hijo biológico de Max, cuya paternidad legal asumirá Onno. Ada sufre un accidente y queda en estado vegetativo; pese a ello la gestación llega a buen término. El niño, Quinten, será educado por su misteriosa abuela, la madre de Ada, y por Max, mientras que Onno hace carrera política. Quinten gozará de una educación privilegiada –ciencias, filosofía, arquitectura, música–. Pronto comprendemos que Quinten es un enviado del cielo que ha recibido la misión sagrada de salir en busca del sacro testimonio perdido para devolvérselo a Dios. Una trama llena de misterios con intermezzos en los que aparece un ángel que narra a su superior todas las andanzas de sus personajes destinados a facilitar que Quinten, en su viaje místico, lleve a cabo la compleja misión: recuperar las Tablas de la Ley con los Diez mandamientos. Al principio y al final de cada una de las cuatro partes de la novela, el autor nos hace ver por qué en el cielo dieron por concluido el pacto que Dios selló con el género humano. La novela, muy realista por un lado, adquiere así una dimensión espiritual y, a la vez, casi de ciencia ficción. Según el propio Mulisch, judío agnóstico, su intención en esta novela era descifrar las claves del bien y del mal en una época marcada por la trágica memoria histórica del siglo XX y sus horrendos totalitarismos. La novela, escrita en estilo coloquial y con toques de humor, está cargada de reflexiones tanto acerca de temas políticos como filosóficos. ¿Cómo es posible el mal encarnado en Hitler? ¿Cuál es el sentido del cosmos y qué lugar ocupa el ser humano en el universo? Entre otros muchos interrogantes, Mulisch plantea otro asunto muy importante, que es el que me interesa destacar aquí: se pregunta por el sentido de la ciencia y del positivismo que ha dado lugar a una sociedad altamente tecnificada, que ha desplazado a un segundo plano la dignidad humana, la formación humanista y la dimensión espiritual de la vida, dando lugar a un mundo cada vez más deshumanizado y materialista. ¿No estará ocupando la tecnología el lugar que antes le correspondía a Dios?
Dios y su ausencia, la espiritualidad, el mal, el amor, la necesidad, la desgracia del ser humano, el vacío, temas todos ellos que acabo de reencontrar en La gravedad y la gracia, de Simone Weil (Editorial Trotta, Madrid, 1994. Introducción y notas de Carlos Ortega). Este libro reúne todas las notas dispersas (Cahiers) de esta gran filósofa francesa (1909-1943), cuyo pensamiento se mueve entre la genialidad y, a veces, el delirio. También ella, gran pensadora del amor y la desgracia, trata de descifrar, a su manera, las claves del bien y del mal en esos cahiers publicados tras su muerte en 1947. Weil, mujer de gran fortaleza intelectual, pero de una debilidad física que la llevó a una temprana muerte –en parte a causa de su actitud estoica y su espíritu de sacrificio–, nos habla de su búsqueda y necesidad de Dios. Pese a su educación agnóstica y su declaración de haber estado siempre “al lado de todas las cosas que no tienen cabida en la iglesia” (página 10), Weil se abre a lo sobrenatural. Toda su vida buscó “ese momento de encuentro entre la perfección divina y la desgracia de los hombres” (p. 12) a partir de sus experiencias espirituales, pero también a través del contacto directo con la más dura realidad de los oprimidos y de los trabajadores más explotados en cuyas vidas se sumergió. Siempre anhelando la belleza del mundo (“la gracia, la luz”), un mundo en el que sin embargo reina la desgracia (o la “gravedad”), impuesta por la “necesidad”, que exige atención y padecimiento (las guerras, la explotación, las injusticias, la muerte), Weil es capaz de declarar, en una clara alusión a la pasión de Cristo: “Sufrimiento: superioridad del hombre frente a Dios” (p. 20). Para ella la creación es el “bien hecho trozos y esparcido a través del mal” (p. 38). Y es que “no es posible contemplar sin terror la extensión del mal que el hombre puede hacer o padecer” (p. 116). Entre las muchas ideas, algunas de carácter místico, que nos transmiten de modo aforístico sus notas teñidas de poesía, me interesa aquí destacar su preocupación por la “cosificación” del hombre y por el desarrollo de la ciencia moderna que persigue dominar la naturaleza amparándose en la presunta superioridad del hombre sobre el mundo. Y es que para ella en el mundo moderno “se ha producido la destrucción de la ciencia tal y como la concebían los griegos” (p. 185); es decir, al servicio del Bien y de la Belleza, como en Platón. El poder y el dinero son ahora las fuerzas que mueven el mundo supeditando la técnica a su antojo. Idea que resume en una frase contundente: “Dinero, maquinación, álgebra. Los tres monstruos de la civilización actual” (p. 185). Y un poco más adelante puntualiza: “Dado que el pensamiento colectivo no puede existir como tal pensamiento, pasa a las cosas (signos, máquinas…). De ahí la paradoja; es la cosa la que piensa y el hombre quien queda reducido al estado de cosa”.
Hoy las voces de alarma acerca del peligro que entraña la inteligencia artificial y otras tecnologías se oyen globalmente en todos los medios de comunicación. Pero, como hemos visto, el problema no es nuevo. Heidegger y otros filósofos advirtieron hace ya un tiempo del peligro de la fascinación humana por el poder tecnológico en el mundo contemporáneo. Casi todos los pensadores que han tratado el tema coinciden en las mismas inquietudes, que, tal como hemos señalado, también se reflejan en el cine o la literatura: la tecnología, como poder dominante en la sociedad de hoy, tiene sus riesgos. Puede conducir a la destrucción de la libertad y responsabilidad humanas, socavando la libertad individual y colectiva. Las máquinas cada vez más potentes nos facilitan la vida, sí, pero, por otro lado, si no ponemos unos límites claros, en algunos casos pueden llegar a privarnos de iniciativa e incrementar la desigualdad social ya existente. Las grandes empresas tecnológicas persiguen el negocio. El hombre, convertido en mercancía, se cosifica y la sociedad sufre entonces un proceso de deshumanización. Hace unos años, el filósofo francés Jean-Michel Besnier, profesor de Filosofía de las Tecnologías de la Información y la Comunicación, concluía en una entrevista (El Universo, 27 de abril de 2016): “Sueño con que las personas sean lo suficientemente inteligentes para darse cuenta de lo que está pasando para así imponer reglas”. ¿Seremos capaz de ello? En nuestras manos está recuperar las Tablas de la Ley, nos diría el ángel de Mulisch que vela por la humanidad. Como los replicantes de Blade Runner, buscamos desesperadamente nuestra identidad, amenazada por los monstruos de la civilización actual –dinero, maquinación, álgebra– que tan certeramente identificó Simone Weil, para no perder la libertad, la autonomía y la dignidad que nos hace humanos.
