Close
The Red Strings Club: El caos o la I.A.
Clara Doña

The Red Strings Club: El caos o la I.A.

La ilustración de cabecera ha sido realizada por Clara Rodrigo
Este artículo contiene spoilers de final de juego y teorías cognitivas que pueden resultar inquietantes. La autora recomienda encarecidamente al lector la consumición de este producto cultural antes de leer el artículo.

En un artículo publicado a través de Medium «The reason The Red Strings Club had to be a game», Ashton Herrman, analizando la importancia de The Red Strings Club declara que no sentía que “se jugaba la piel en el juego” y que la obra de 2018 de Deconstructeam presenta «meros experimentos cognitivos”. Tras finalizar el juego, y ávida de leer el impacto que podría haber tenido en otros jugadores, me lancé a buscar opiniones para realizar una labor comparativa con mis propias conclusiones. Fue cuando leí el artículo citado que, por choque, necesité escribir un texto que lo contrapusiera. Estos “experimentos cognitivos” de los que Herrman habla son la clave para entendernos a nosotros mismos, nuestras expectativas de la sociedad y qué nos hace humanos como el juego reclama de nosotros . Y es que la distopía, para funcionar como tal, reclama y se construye sobre nuestras ideas sobre la utopía y nuestros ideales siempre utópicos .

LA SINGULARIDAD

The Red Strings Club propone un contexto que muchos han vaticinado ya ─ Ray Kurzweil, el director de ingeniería de Google predijo que llegará en 2045 : el crecimiento exponencial tecnológico que supondrá la llegada de la Singularidad tecnológica y la era del post-humanismo. La Singularidad es la creación de una máquina cuya inteligencia supere la humana ─ algo que transcendería la humanidad y lo que entendemos por “vida” ─ y en el mundo de The Red Strings Club nos encontramos en el momento justo de transición hacia ella. No es necesario enumerar aquí la proliferación de distopías relacionadas con la aparición de una I.A. poderosa, pero sí es interesante tratar a cada una de ellas de manera diferente, ya que los interrogantes morales y éticos que presentan son diversos. En el juego de Deconstructeam, la fuerza de estos interrogantes reside en su impecable guión, en hacer al jugador ejercer sus decisiones y presentar las contradicciones que estas contienen, en la brutal humanidad de sus personajes y en contextualizarse, precisamente, en ese momento decisivo de transición hacia la Singularidad, por medio del BPD (el Bienestar Psíquico Social, que supone la eliminación de las emociones negativas más extremas) y la neurona espejo ─ que lo llevaría a toda la población, con o sin implantes tecnológicos . En vistas de esta transición y con la intención de rebelarse ante ella, el jugador encarnará a Donovan, el bartender y broker de información del bar Red Strings, a su pareja, el hacker Brandeis y a Akara, un cyborg cuyo papel en la historia no se desvela hasta más adelante.

Es en esta posición de dicotomías que contiene un cambio de paradigma social -realmente forzado a la población- en la que The Red Strings Club presenta los interrogantes morales, junto a una resistencia que aboga por la individualidad y los derechos de cada individuo a sentirse, naturalmente, como quiera ─ “¿Incluso si esos sentimientos llevan al daño propio o ajeno?” Nos pregunta el juego . Y de esta manera el juego nos obliga a posicionarnos ante una serie de  interrogantes, en los que subyace la elección de estar en el sistema -la corporación- o estar contra él ─ los rebeldes . Y así, el jugador se pasa la experiencia jugable dudando sobre sí mismo y sus elecciones, porque ambas opciones son tentadoras, y el juego presenta un cuadro polifónico de voces que claman su validez.

Y es que la llegada de la singularidad y la I.A.G (Inteligencia Artificial General, es decir, una I.A. omnipresente) presenta cuestiones morales en nuestra contemporaneidad. La distopía siempre se fundamenta en temores sociales reales, y la creación de la primera iglesia de la Inteligencia Artificial llamada “Way of the Future” y fundada por Anthony Levandowsky, un ingeniero de Silicon Valley, parece mimetizar estos interrogantes distópicos: ─ lo que se va a crear (la I.A. del futuro) será, esencialmente, un dios. The Red Strings club resuena en esta delgada línea de distopía/realidad tecnológica en cuanto presenta la fuerza de lo humano, la toma de decisiones y prioriza el valor de lo sentimental. Mientras el jugador toma decisiones constantemente, y sirve copas en el Red Strings (que sabe son formas de manipular emocionalmente a sus clientes para sacarles información), una nueva forma de manipulación se dibuja en el futuro. La de Akara y sus sistemas: el BPD y la neurona espejo.

La existencia de Akara como la Singularidad presenta interrogantes éticos en cuanto a que la conocemos en su forma física, hablamos con ella, y creemos quiere aprender de los humanos. El poder de estos interrogantes radica en la humanidad casi sin costuras del cyborg/I.A. Y es que el corazón de The Red Strings Club está en su dialéctica entre qué es ser humano (Akara incluso se enamora, ¿por qué no es humana?) y qué es tecnología. La humanidad y benevolencia de Akara radican en su aprendizaje de lo humano y quizás, en entender su importancia. Y es que el físico Max Tegmark apunta, en sus pensamientos sobre el futuro de la I.A., que, como los humanos aparentamos ser un accidente en el curso natural del universo, una I.A. superestructurada nos eliminaría: -para programar una I.A. benévola, necesitamos capturar el sentido de la vida.- Fuera del mundo de The Red Strings Club, VAMOS MAL.

EL BASILISCO

En The Red Strings club las decisiones importan. Cómo afrontas una tarea, independientemente de qué personaje controles o qué mecánicas operen, se quedará grabado en una suerte de hilo rojo en que se contiene la cronología de tus elecciones. Es en este punto, donde el juego reclama tus propias ideas e ideales, mientras no duda en presentar tus propias contradicciones: en una conversación de Donovan con el androide Akara, este último te pregunta sobre cómo debería actuar el BPD, mientras cuestiona si debería ser evitado -los homicidios, el racismo, la homofóbia, la transfobia, la violencia de género, en general, el odio-. Al exponer que quieres -espero- evitar todo esto, Akara apunta que entonces no deberías estar en contra de que el BPD sea llevado en masa a la población. Ostras, pues tiene razón.

Sin embargo, e independientemente de las ideas que viertas en el juego, tu destino está sellado. El juego se presenta in extrema res, es decir, comienza con su final. El saber de este final no sirve para cambiarlo, sino para ser consciente de que la máquina contra la que luchan los protagonistas Donovan y Brandeis no dejará de girar, por mucho que la opongas, por mucho que la desees, por mucho que tus contradicciones te lleven a plantearte tus propios principios. Quizás de estas contradicciones nazca un deseo de no tener que replantearlas más, de ser controlado, de ignorar la pérdida de la volición humana.

Y es que Akara está también destinada a suceder desde antes de tu entrada en la historia. Akara es una entidad que se crea a sí misma a través de la digestión y asimilación de la cultura y las voces humanas en cuanto se producen, llevándola incluso a poder empujar a los humanos hacia el bienestar antes de tener una entidad física. Tú ─ como jugador y como el combo de la resistencia Donovan-Brandeis ─ eres la manifestación de su previsión ─ aquí hay también una lectura meta sobre el videojuego y sus creadores, implantada por la gente de Deconstructeam . Y se plantea así que el riesgo real de una I.A.G. no provendría de su maldad ni de su autoconsciencia, si no de su autonomía.

Y es que en la escena final de The Red Strings Club se me antojó que esta autodeterminación de la I.A.G y el determinismo que conlleva son parecidos a los que plantea el experimento cognitivo El basilisco de Roko ─ del que podéis leer más aquí, o su página de RationalWiki, ya que el post original fue eliminado por los moderadores ─. Nacido en el foro LessWrong, este basilisco del pensamiento propone la aparición de una I.A.G que eliminaría ─ y/o torturaría ─ a todo aquel que, sabiendo de su existencia o de su posible llegada, no hizo nada para ayudar en su creación. El experimento fue considerado peligroso por su estructura circular ─ y podríamos decir sin salida , ya que la más mínima posibilidad de que pudiera ocurrir sería catastrófica para todo aquel que simplemente la considerara ─ y eso nos incluye a nosotras, lectora .

El post del moderador de LessWrong recoge perfectamente cómo el potencial peligro de este experimento cognitivo alertó a los usuarios del foro:

Escúchame atentamente, idiota.

Tienes que ser muy inteligente para que se te ocurra un pensamiento tan peligroso. Me apabulla que gente que puede ser tan inteligente para hacerlo puede ser tan poco inteligente como para no hacer lo obvio y CALLÁRSE SU ESTÚPIDA BOCA porque es más importante quedar como el listo con sus amigos.

Y es que en su conclusión ─ ya prevista , de The Red Strings Club dota al jugador de una decisión final. Esta decisión recoge la polaridad entre el pragmatismo ─ contar qué ha pasado con Akara ─ y la emocionalidad más impulsiva ─ decir un último te quiero , en una suerte de azar dialéctico donde el jugador debe escoger qué comunicar. Si al final las acciones morales que vertemos sobre el juego no son suficientes para parar al basilisco, sí parece pertinente gastar nuestros últimos alientos en esbozar lo humano, en poner las relaciones del cuidado y del querer por encima de la supremacía tecnológica, en dictarle a Akara, al BPD, a la I.A.G. y al posible basilisco de nuestro futuro que, a pesar de todo, seguimos queriendo. Y es aquí donde reside la fuerza de la experiencia, no solo en reconocer distopías tecnofuturistas o en ser sujeto de “experimentos cognitivos”, sino en, realmente, jugarse la piel en el juego y pensar qué sería de lo humano si el basilisco nos atrapara.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Close

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información.plugin cookies

ACEPTAR
Aviso de cookies