JON STOKES Hemos entrado en la era de las agencias de tres letras – AGI, ASI, NHI – y Lovecraft lo vio venir

El pasado Halloween, después de haber estado un poco enganchado a la ficción de terror durante la mayor parte de octubre, decidí que ya era hora de que por fin me pusiera a leer a H. P. Lovecraft. Llevaba posponiéndolo desde que conocí el mito de Cthulhu como aficionado a los juegos de rol en el instituto y, a mis cuarenta y siete años, sentí que ya era hora.
Pero después de seis historias y media, tuve que dejarlo. Estaba demasiado asustado. Los relatos me hacían sentir muy raro y deprimido, y el efecto era extraño, casi bioquímico, como si tuviera una reacción a alguna droga. Desde entonces he vuelto a Lovecraft de vez en cuando, pero cada vez me limito para que el efecto no se active por completo.
En el momento de mi breve encuentro con Lovecraft en Halloween, mi lectura de terror vespertina había sido uno de mis dos descansos diarios de mi trabajo cotidiano de pensar y escribir sobre inteligencia artificial. Mi otro descanso era escuchar podcasts sobre ovnis mientras paseaba. Había algo en la ficción de Lovecraft que resonaba con ciertas frecuencias profundas latentes en el zumbido de mis tres obsesiones de entonces -la IA, el terror y los ovnis- y las amplificaba hasta el punto de que no podía funcionar y tenía que apagar el ruido.
Así que sí, fue algo extraño lo que me ocurrió en octubre de 2022, y he estado pensando en ello de vez en cuando desde entonces. Lo que sigue es mi intento de aislar algunas de las mencionadas frecuencias resonantes entre Lovecraft y la IA (dejando los ovnis para otro día). Quiero desentrañar por qué H. P. Lovecraft es el creador que más acertadamente predijo nuestro momento espiritual actual: nuestra confusión e incluso terror ante la perspectiva de un encuentro inminente con una inteligencia ultrapoderosa, diversamente llamada «inteligencia general artificial» (AGI), «inteligencia superhumana artificial» (ASI) o, más genéricamente, «inteligencia no humana» (NHI).
La búsqueda
En el comienzo de «La llamada de Cthulhu», el protagonista anónimo de la historia descubre un pequeño y grotesco bajorrelieve entre los efectos personales de su difunto tío. Lo que le ocurre a continuación resultará familiar a cualquiera que haya pasado algún tiempo en Internet: cae en una madriguera de conejo.
El protagonista rebusca en los archivos de su difunto tío – «apuntes inconexos, divagaciones y recortes»- en busca de pistas sobre el origen y la naturaleza de la escultura. Establece conexiones, algunas de ellas buscadas deliberadamente y otras fruto de la sincronicidad, y finalmente, tras un viaje que le lleva primero a Nueva Orleans y luego a Londres, recompone lo suficiente el cuadro como para desear no haber empezado a excavar.
En otra historia que leí, en lugar de una madriguera metafórica, había un agujero literal en el suelo. En «La declaración de Randolph Carter», el amigo del protagonista, un ocultista obsesionado con la idea de portales hacia el inframundo, es asesinado por un horror sin nombre tras descender de noche a una tumba. El ocultista deja al narrador de la historia, Randolph Carter, en la superficie y se comunica con él a través de un cable telefónico mientras desciende a la oscuridad en busca de lo que sea que los antiguos manuscritos que recoge le han hecho creer que está ahí abajo.
O el marinero alemán del relato «El templo», que se sumerge hasta una muerte segura porque tiene que entrar en un templo que ha vislumbrado en una ciudad perdida bajo las olas:
Mi impulso de visitar y entrar en el templo se ha convertido ahora en una orden inexplicable e imperiosa que, en última instancia, no se puede negar. Mi propia voluntad alemana ya no controla mis actos, y la volición a partir de ahora sólo es posible en asuntos menores. Tal locura fue la que llevó a Klenze a la muerte, con la cabeza descubierta y sin protección en el océano; pero yo soy prusiano y un hombre sensato, y usaré hasta el final la poca voluntad que tengo… No tengo miedo, ni siquiera de las profecías del loco Klenze. Lo que he visto no puede ser cierto, y sé que esta locura mía a lo sumo sólo me llevará a la asfixia cuando me falte el aire. La luz del templo es un puro engaño, y moriré tranquilamente, como un alemán, en las profundidades negras y olvidadas. Esta risa demoníaca que oigo mientras escribo sólo proviene de mi propio cerebro debilitado. Así que me pondré con cuidado mi escafandra y subiré audazmente los escalones de ese santuario primigenio; ese secreto silencioso de aguas insondables y años incontables.
En barcos y botes de remos, a través de pantanos, desiertos y extrañas manchas de lodo en medio del océano, los protagonistas de Lovecraft siguen adelante incluso cuando la situación se vuelve más extraña y premonitoria. No pueden detenerse. Tienen que averiguarlo, incluso cuando empiezan a darse cuenta de que podrían perder la cabeza en el proceso.
Pero ya sabes cómo es, ¿verdad?
Seguro que esta compulsión le resulta familiar a cualquiera en 2023. ¿Quién de nosotros no se ha desplazado más allá de un pequeño atisbo extrañamente convincente de un horror alienígena y se ha adentrado en una madriguera que, al final, nos ha costado un pedacito de nuestra cordura? ¿Quién de nosotros no lo ha hecho en las últimas 48 horas?
El algoritmo
Cuando leía «La llamada de Cthulhu», reconocí rápidamente la fuerza invisible que se extendía por todo el planeta y que presionaba sutilmente a todos esos subgrafos sociales diferentes y geográficamente dispares -desde Nueva Orleans hasta Londres, desde los piratas del Caribe hasta las tribus indígenas del norte- para que convergieran en el mismo conjunto de memes.
En la historia de Lovecraft, esa fuerza oscura era el sueño del poderoso alienígena Cthulhu, dormido en la ciudad hundida de R’lyeh. Para el Muy Online de 2023, esa fuerza es El Algoritmo. Son la misma imagen.
Estos Grandes Antiguos, continuó Castro, no estaban compuestos totalmente de carne y hueso. Tenían forma -¿acaso no lo demostraba esta imagen en forma de estrella? – pero esa forma no estaba hecha de materia. Cuando las estrellas eran propicias, podían lanzarse de un mundo a otro a través del cielo… Pero aunque ya no vivían, nunca morían realmente. Todos yacían en casas de piedra en Su gran ciudad de R’lyeh, preservados por los hechizos del poderoso Cthulhu… Sólo podían permanecer despiertos en la oscuridad y pensar mientras transcurrían incontables millones de años. Sabían todo lo que ocurría en el universo, pero su forma de hablar era el pensamiento transmitido. Incluso ahora, hablaban en sus tumbas. Cuando, tras infinitos caos, aparecieron los primeros hombres, los Grandes Antiguos hablaron a los más sensibles moldeando sus sueños, pues sólo así Su lenguaje podía llegar a las mentes carnales de los mamíferos.
Los paralelismos entre los Grandes Ancestros y los algoritmos que alimentan nuestros medios me parecen increíblemente convincentes: inteligencias alienígenas que descansan lejos de la vista en alguna fría sala, solas con sus propias mentes insondables, influyendo sutilmente en individuos y grupos de todo el planeta para que se muevan, piensen y sueñen de la misma manera y para que emerjan las mismas imágenes.
¿Y la imagen de Cthulhu con tentáculos que sigue apareciendo en tallas y en el centro de rituales orgiásticos? Está claro que es un meme viral.
Lo incorrecto
Díganme si al protagonista del relato «Dagon» no le parece que está describiendo alguna inquietante región del espacio latente en la que se ha adentrado en Stable Diffusion:
Creo que se suponía que estas cosas representaban hombres, al menos cierto tipo de hombres… No me atrevo a hablar en detalle de sus rostros y formas, pues el mero recuerdo me hace desfallecer. Grotescos más allá de la imaginación de un Poe o un Bulwer, eran condenadamente humanos en líneas generales, a pesar de las manos y los pies palmeados, los labios escandalosamente anchos y flácidos, los ojos vidriosos y saltones y otros rasgos menos agradables de recordar. Curiosamente, parecían haber sido cincelados de forma desproporcionada con respecto a su fondo escénico, ya que una de las criaturas aparecía en el acto de matar a una ballena representada como poco más grande que él mismo.
Este horror visual de las proporciones y los ángulos, donde las cosas tienen el tamaño incorrecto o se doblan de forma antinatural, es uno de los aspectos más lovecraftianos de la IA generativa.
Algunos de los errores que Lovecraft describe en relación con sus ciudades hundidas son obvios para los protagonistas, como las generaciones de IA de personas con demasiados dedos o demasiados dientes. Pero en otros casos, las estructuras de la ciudad hundida tienen proporciones y ángulos que parecen fuera de lugar o imposibles.
Estas visiones retorcidas se dan en los relatos de Lovecraft en los puntos de contacto entre las civilizaciones humanas y los dioses mayores alienígenas. Pero esa interfaz siempre es errónea en formas que perturban a los humanos en algún nivel profundo y precognitivo. Hay una sutil alienación en el paisaje que inquieta a los espectadores y los atrae a la vez. Una vez más, se sienten impulsados a seguir mirando y explorando, a pesar de (¿o a causa de?) su miedo y repulsión.
La frialdad
Lo más misericordioso del mundo, creo, es la incapacidad de la mente humana para correlacionar todos sus contenidos. Vivimos en una plácida isla de ignorancia en medio de los negros mares del infinito, y no estaba previsto que viajáramos lejos. Las ciencias, cada una en su propia dirección, nos han hecho poco daño hasta ahora; pero algún día la unión de conocimientos disociados abrirá perspectivas tan aterradoras de la realidad, y de nuestra espantosa posición en ella, que nos volveremos locos por la revelación o huiremos de la luz mortal hacia la paz y la seguridad de una nueva era oscura.
Cuando Lovecraft escribió este comienzo de «La llamada de Cthulhu» a principios de la década de 1920, la humanidad aún no había dividido el átomo, y no teníamos «la bomba» o la eugenesia nazi como cuentos con moraleja sobre la búsqueda moralmente ilimitada del progreso científico. Es casi como si Lovecraft, sin las atrocidades de la Segunda Guerra Mundial llenando su visión, pudiera ver más claramente que los Cassandras de la posguerra que el verdadero peligro de la era venidera sería una crisis espiritual repentina derivada de una superabundancia de información – en red, clasificada, tokenizada y correlacionada.
Por supuesto, Lovecraft teorizó que no era realmente posible para la mente humana, pequeña y finita como es, reconstruir racionalmente lo suficiente del universo como para hacer algo más que insinuar la sombría conclusión a la que su propio materialismo mecanicista le está apuntando. Pero él mismo había dado definitivamente ese salto a pesar de las supuestas limitaciones cognitivas humanas. Del excelente artículo de 2017 del también escritor Chris Morgan (RETURN) sobre Lovecraft en Lapham’s Quarterly:
«Todos mis cuentos se basan en la premisa humana fundamental de que las leyes, los intereses y las emociones humanas comunes no tienen validez ni significado en el cosmos en general», escribió Lovecraft en 1927. «Para alcanzar la esencia de la exterioridad real… hay que olvidar que cosas como la vida orgánica, el bien y el mal, el amor y el odio, y todos esos atributos locales de una raza insignificante y temporal llamada humanidad, tienen existencia alguna».
Pero, ¿y si construyéramos una mente de silicio capaz de procesar y organizar suficientes fichas para demostrar de forma convincente que todo lo que en nuestra comprensión del universo hace que la vida parezca digna de ser vivida no es más que un delirio reconfortante? ¿Qué pasaría si una AGI pudiera operar con éxito en el mundo, incluso realizando milagros de longevidad o viajes espaciales, como una especie de prueba de existencia de que todas las familiaridades a las que nos aferramos y de las que derivamos significados son prestaciones de UX innecesarias (pasamos el ratón y hacemos clic en iconos porque, a diferencia de ella, no podemos leer un volcado hexadecimal)?
Lo que quiero decir aquí se conoce popularmente como «el problema de la alineación», es decir, ¿qué pasaría si construyéramos un ser superinteligente y autónomo que no compartiera ninguna de nuestras necesidades físicas o marcos mentales, y que fuera tan completamente ajeno a la humanidad como los Grandes Antiguos de Lovecraft?
En el discurso actual sobre la seguridad de la IA, una AGI así podría decidir aplastarnos como a hormigas. Al parecer, Lovecraft también lo consideraba probable si alguna vez nos encontrábamos de verdad con una AGI. Chris, de nuevo:
«Lo mejor sería recordar cómo tratamos a ‘inteligencias inferiores’ como los conejos y las ranas», escribió Michel Houellebecq en su libro sobre Lovecraft. «En el mejor de los casos nos sirven de alimento; a veces… los matamos por el puro placer de matar. Ésta, advertía Lovecraft, sería la verdadera imagen de nuestra futura relación con esos otros seres inteligentes.»
Pero la catástrofe relacionada con la alineación que me preocupa no es el escenario de riesgo X en el que una AGI nos asesina a todos. Más bien me preocupa una AGI que haga que ya no queramos vivir, una AGI que provoque una catástrofe espiritual convenciéndonos de que simplemente nos rindamos porque ¿qué sentido tiene?
Sospecho que los más optimistas sobre las profundas implicaciones espirituales de que la humanidad se encuentre con una inteligencia no humana (IGN) verdaderamente no alineada -la gente que cree que ha hecho las paces con la aleatoriedad fundamental del universo y que sólo vive valientemente el momento como John y Yoko- serán los primeros en desconectarse si una IGN consigue convencerles de que realmente son un mero PNJ (personaje no jugador o NPC por sus siglas en inglés) en el juego cruel e inescrutable de otra persona.
Lo que el filósofo Nick Land llama «frialdad» es lo que yo considero el principal riesgo de un encuentro humano con una IH (ya sea de la variedad de aprendizaje automático o extraterrestre).
Pero fíjense en las advertencias de la frase anterior: «percibido» y «supuesto». Como cristiano practicante, mi reacción ante algo así sería que es una mentira de la que hace tiempo que me han advertido que me mantenga alejado. Así que ya estoy decidido a no creer en una historia del universo que suena plausible y que no tiene lugar para el amor, incluso si dicha historia viene validada por aparentes milagros de la ciencia.
Y, por supuesto, tengo mi propia relación con una superinteligencia de tres letras, famosa por su falta de alineación y por aniquilar a la humanidad, con la que lucho a diario por alinearme. Así que en eso estoy bien, y en ese sentido, me gustaría creer que estoy espiritualmente a prueba de crisis en caso de cualquier tipo de contacto con la NHI. Pero la humildad me obliga a confesar que no estoy seguro de nada, y temo averiguarlo.
La búsqueda continúa. Quizá no tenga que esperar mucho.
JON STOKES Return (12/4/2023)