Google+ El Malpensante

Ciencia y tecnología

Una nación de robots

Pocas rebeliones más anunciadas que las de los robots y la inteligencia artificial. Ambas se mantienen con gran ímpetu en las series de televisión y el cine de ciencia ficción, que contará con una amplia muestra durante la próxima edición del Festival Bogoshorts.

Ilustración de Nicolás Dávila

 

1977.  Metz, Francia. Philip Kindred Dick lleva un sobre de manila en la mano, del que saca algunas hojas, se sienta. Al frente tiene un auditorio lleno de franceses. Estos, a diferencia de los lectores y críticos estadounidenses que lo consideran un autor menor de un género menor, lo toman en serio. Y Dick tiene algo serio para decir: “Vivimos en una realidad programada por computadora”.

Durante la charla, Dick asegura que los recuerdos fragmentarios de otras realidades son la materia prima de sus cuentos y novelas y que, por eso, mientras “la gente afirma recordar vidas pasadas, yo sostengo recordar una muy diferente vida presente”. Pero va más lejos: “La única pista que tenemos (de que vivimos en una simulación) es que cuando se cambia alguna variable, tenemos la abrumadora impresión de que estamos reviviendo el presente, de que experimentamos un déjà-vu”.

Para Dick el problema era la realidad de la realidad y ese fue el tema recurrente en toda su obra, que en ese otoño del 77 expuso como una especie de Matrix adelantada a la de las hermanas Wachowski, una realidad virtual de la que no nos percatamos pero que está en todas partes. Ubicua (¿Ubik-ua?) como un dios digital.

 

2.

Alguna vez, cuando le hicieron la clásica pregunta de cómo y por qué empezó a escribir, Dick respondió que fue luego de leer el cuento “La repuesta”, de Fredric Brown. Un brevísimo relato –publicado en 1954– que si bien no cuestionaba el material del que está hecha la realidad, sí combinaba dos variables que más adelante le interesarían a Dick y a muchos otros autores de ciencia ficción: máquina y Dios. Inteligencia artificial y poder absoluto.

En esas pocas e inquietantes líneas, Brown cuenta

–aquí vienen los spoilers– que los científicos construyeron la computadora más grande y poderosa de todo el universo y, al encenderla, uno de los hombres decidió hacerle la pregunta que nadie había podido responder: “¿Existe Dios?”. A lo que la máquina contestó sin vacilar: “Sí, ahora existe”.

 

3.

La inteligencia artificial ha sido durante décadas uno de los platos fuertes de la ciencia ficción. Máquinas asesinas, autómatas con problemas existenciales, computadoras despiadadas y motivadas por la fría lógica y, sobre todo, robots que se rebelan contra sus creadores, se convirtieron en los tópicos de un género que se venía cocinando desde el siglo XIX, pero que conoció su esplendor en el siglo XX.

En 1920, el checo Karel Capek escribió la obra teatral RUR (Robots Universales Rossum), que estrenó un año más tarde en Praga. Capek propuso una trama que mezcló los ingredientes que se usarían una y otra vez en las historias de las revistas pulp, en el cine y luego en la televisión: una compañía de tecnología de punta, seres artificiales usados como mano de obra esclava, una “actualización” de su diseño que produce una revolución y, cómo no, una guerra que destruye a la humanidad.

Pero el aporte más importante de la obra no fue su trama, sino la palabra “robot”, acuñada realmente por el hermano de Karel, Josef, quien se la sugirió distraídamente mientras trabajaba en un cuadro –era pintor–. Así, el buen Josef, de una pincelada, hizo una de las más grandes contribuciones a la ciencia y a la ciencia ficción, acuñando aquella palabra que se deriva de la checa robota, que significa “trabajo forzado”. Karel quería llamarlos labori. Gracias Josef.

 

4.

Los robots nacieron unidos a los conceptos de esclavitud y rebelión. Una disyuntiva que se dirige sobre todo hacia el problema de la voluntad, del libre albedrío; y una receta obvia para el desastre que Isaac Asimov retomó y reformuló al incluir sus famosísimas tres leyes de la robótica, aparecidas por primera vez en el cuento “Círculo vicioso” (1942) y que rezan así:

a. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.

b. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la primera ley.

c. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la primera o la segunda ley.

Pero es precisamente en las fisuras de estas leyes donde Asimov funda los conflictos de sus relatos. En los cuentos de Yo, robot explora esas posibilidades con máquinas que mienten para no herir los sentimientos humanos, con robots que actúan como locos, con otros que no creen en sus creadores y fundan su propia religión, o con políticos que resultan ser androides. Es decir, con robots cuyos cerebros positrónicos (un mecanismo imaginado por el mismo Asimov y que según la física es imposible de construir, al menos hasta ahora) terminan haciendo cortocircuito al ser incapaces de procesar las posibles contradicciones entre las leyes, o cuando por el contrario las cumplen a rajatabla y terminan causando más problemas de los que resuelven.

 

5.

Así que entre inteligencias artificiales parecen existir dos grupos: las que no nos obedecen y nos matan, y las que nos obedecen tan al pie de la letra que a veces también nos matan. Entre las primeras podemos contar la Skynet de James Cameron, una supercomputadora que inicia una guerra contra la humanidad y envía a sus Exterminadores al pasado para matar a John Connor; y entre las segundas, seguro está la inolvidable y temible Hal 9000 de Kubrick –bueno, también de Arthur C. Clarke–, siempre tan vigilante con ese ojo rojo inerte, y tan bajo control con esa voz perturbadoramente tranquila, que no tiene inconveniente en eliminar a cualquiera que ponga en peligro el propósito para el cual fue programada.

El resultado es el que el mismo Asimov se temía: el complejo de Frankenstein, es decir, el miedo a que la creación se vuelva en contra de nosotros, sus creadores. Un miedo que no solo se hace patente en las páginas de los libros de ciencia ficción, sino que ahora también se insinúa en las páginas de los periódicos. Por ejemplo, el año pasado una inteligencia artificial llamada Tay, diseñada para interactuar con jóvenes entre los 18 y 24 años y aprender de ellos, se hizo famosa al hacer comentarios racistas y homófobos en Twitter. En julio de este año, la compañía rusa Kalashnikov –fabricantes del conocido fusil– anunció su nueva gama de robots militares que pueden decidir a quién disparan y a quién no. Y en octubre, Sophia, la robot construida por Hanson Robotics que en una entrevista dijo –medio en broma, medio en serio– que destruiría a la humanidad, se convirtió en la primera máquina en obtener su ciudadanía en Arabia Saudita. Eso sin contar a Microsoft Little Ice, una inteligencia artificial que hace unos meses amenazó al planeta con mala poesía y hasta publicó un libro llamado Sunshine Misses Windows (“La luz solar se pierde en la ventana”).

Y a propósito de Hanson Robotics y otras amenazas cibernéticas, David Hanson –fundador de la empresa– ya había creado en 2004 a un androide con problemas de conducta. Se trató de un Philip K. Dick artificial capaz de relacionarse con las personas y aprender de ellas, al que en una presentación un periodista le preguntó si creía que los robots algún día tomarían el control del mundo, y el androide respondió: “Tú eres mi amigo y yo siempre recuerdo a mis amigos y seré bueno contigo, así que no te preocupes, incluso si me convierto en Terminator, te mantendré cómodo y seguro en mi zoológico de humanos, donde podré verte por los viejos tiempos”.

Al parecer, el sentido del humor nunca ha sido el fuerte de los robots. Ni siquiera en La pequeña maravilla esa robotina en primaria, de los años ochenta, fue muy buena provocando risas. Y que lo diga Elon Musk, pues al fundador de Tesla y Space X poca gracia le hace todo el asunto y por eso viene pidiendo regulaciones para la inteligencia artificial. “La IA es un extraño caso en el que necesitamos ser proactivos con la regulación y no reactivos. Porque para cuando lo seamos, ya podría ser muy tarde”, dijo en la conferencia de la Asociación Nacional de Gobernadores de los Estados Unidos, a la que fue invitado en julio pasado. Y ya antes había dicho que es necesario lograr la fusión entre hombre y máquina para no quedar obsoletos frente a nuestras creaciones, que se convertirán en la nueva especie dominante. Lo mismo viene advirtiendo desde hace tiempo Stephen Hawking, quien hace pocas semanas dijo una vez más que “la creación exitosa de una IA efectiva podría ser el evento más grande en la historia de nuestra civilización. O el peor”.

 

6.

La narrativa, ya sea en literatura, a través del cuento y la novela, o en el cine, a través del corto y el largometraje, se ha impuesto la tarea de anticipar las implicaciones de la existencia de ciertos seres que en otro tiempo parecieron fruto de imaginaciones exageradas y que hoy ya son una realidad. Hoy en día la ciencia ficción seguramente tendrá que decantarse por explorar más las implicaciones filosóficas de la “vida” artificial, que por seguir apostándole solo a la futurología.

Me explico. Si bien aún quedan algunas gotas para exprimir al limón de la revolución de las máquinas, seguramente la veta más rica del tema esté en las preguntas existenciales que plantea la llegada de esos otros seres conscientes, en especular sobre el material del que estamos hechos nosotros y ellos, sobre el entrecruzamiento de caminos, sobre la naturaleza de nuestras realidades. Es decir, los hijos de Dick –si me permiten el riesgo– hoy más que nunca resultan más atractivos que los de Asimov. Los Nexus 6 ofrecen matices que los robots domésticos con errores de programación no pueden ofrecer. Los androides de ¿Sueñan los androides con ovejas eléctricas? y sus gemelos cinematográficos, los replicantes de Blade Runner, nos interrogan más que las simpáticas máquinas de Yo, robot. Y eso es porque los hijos de Dick tienen problemas de identidad. En ¿Sueñan los androides con ovejas eléctricas? los mismos humanos, por ejemplo, ponen su naturaleza en entredicho al tener que recurrir a un aparato llamado Penfield para regular sus estados de ánimo y así sentir rabia, felicidad o tristeza. En la versión cinematográfica, los replicantes resultan más humanos que los humanos, pues no solo encarnan la perfección que nos evade a nosotros y logran empatizar –Rachel se enamora de Deckard y Roy le salva la vida a su perseguidor–, sino que en Blade Runner 2049 son capaces de concebir. Y además, en la película original y su secuela los protagonistas, Rick Deckard y el agente K, terminan por cuestionar su naturaleza humana o artificial.

Precisamente esa confusión, esa realidad que se desfigura con límites borrosos, ha sido aprovechada recientemente en varias series de televisión. En “Vuelvo enseguida”, el primer episodio de la segunda temporada de Black Mirror, una mujer que enviudó decide llenar el vacío con un robot idéntico a su esposo, al que carga con toda la información de su marido disponible en la red, poniendo en la encrucijada cuánto es simulación y cuánto es real. Un argumento similar se desarrolla en Transcendence, una película protagonizada por Johnny Depp que desafortunadamente pasó de agache, en la que la mente de un científico moribundo es cargada en la nube para despertar la paranoia entre otros científicos y las autoridades. En Humans, una serie que se estrenó en 2015 y que ya va por su segunda temporada, los Synth (“sintéticos”) se venden como sirvientes domésticos, pero algunos de ellos comienzan a tomar conciencia de su propia existencia y allí está la veta dramática que desarrolla la serie.

Mención aparte merece la serie Westworld, un western con robots que tiene más de ciberpunk –con la fría corporación Delos controlando cada aspecto de las vidas de sus protagonistas, que luchan por distinguir lo real de la puesta en escena– que del futurismo decimonónico que propone el steampunk. Aquí, en un parque temático del Viejo Oeste, un grupo de androides (anfitriones) debe vivir el mismo día una y otra vez –sufrir las mismas tragedias una y otra vez– en un bucle sin fin para divertir a los visitantes, hasta que los anfitriones –que no saben lo que son– comienzan a darse cuenta de que su realidad es un artificio. HBO le apostó a la serie con 100 millones de dólares y se ha ganado los aplausos de la crítica y tres Premios Globo de Oro. Para 2018 se espera la segunda temporada que constará de diez capítulos.

 

7.

Y una última apuesta sobre el futuro de un género que trata de adivinar el futuro: los ciborgs. Los híbridos entre hombre y máquina, que hasta ahora han tenido poco protagonismo y que casi siempre han estado relegados a las series B, probablemente tengan el potencial de convertirse en la metáfora perfecta de los tiempos que se avecinan, de la confluencia definitiva entre el creador y la creación. Y ese territorio a medio explorar seguramente sea rico en posibilidades.

Tal vez. Tal vez no. O tal vez lo próximo que leeremos o veremos serán historias de robots escritas en primera persona por los mismos robots. Y quizá tengan mejor calidad que los poemas de Microsoft Little Ice.  

Página 1 de 2

Comentarios a esta entrada

Su comentario

Julián Isaza

Autor del libro de cuentos Ondas expansivas y de la selección de crónicas Alucinación o barbarie. En 2016 fue uno de los finalistas del Premio Nacional de Cuento La Cueva y en 2017 ganó una mención en los premios de periodismo Simón Bolívar por su crónica "El vuelo del pterodáctilo"

Diciembre de 2017
Edición No.192

1

Salir con chicas que no leen/ Salir con chicas que leen

Por Charles Warnke

2

Taller Malpensante de Escritura

Por El Malpensante

3

La escritura como seducción

Por El Malpensante

4

Un débil abrazo

Por Carlos Páramo

5

En la muerte de los blasfemos

Por Mario Jursich Durán

1

Salir con chicas que no leen/ Salir con chicas que leen

Por Charles Warnke

2

El calígrafo

Por Alexandru Ecovoiu

3

Sombra

Por Ruven Afanador

4

Loca carrera de los optimistas

Por

5

El proletariado de los dioses

Por Paul Brito

1

Nuestro Archivo

1 de 4

En defensa de la novela, una vez más


Por Salman Rushdie


Publicado en la edición

No. 158



La crisis de la novela ha sido anunciada con visos apocalípticos en distintos momentos de la historia de la literatura. A mediados de los noventa, uno de sus más destacados representante [...]

Los hombres me explican cosas


Por Rebecca Solnit


Publicado en la edición

No. 164



Una especie de autoridad intelectual masculina, basada exclusivamente en el género, es una de las formas más sutiles y a la vez violentas de discriminación hacia las mujeres. Para [...]

Cómo escribir y cómo no escribir poesía


Por Wislawa Szymborska


Publicado en la edición

No. 120



Durante tres décadas, Wislawa Szymborska escribió una columna en el periodico polaco Vida Literaria. En ella respondía las preguntas de personas interesadas en escr [...]

Fentanyl


Por Samuel Andrés Arias


Publicado en la edición

No. 77



¿Y al doctor quién lo ronda? Pues lo ronda, entre otras cosas, una peligrosa tentación en la que muchos caen. Ésta es la impresionante crónica de un anestesista que [...]

Columnas

La comba del palo

Las Marías y sus seguidores

En uso de razón

Del terrorismo al conflicto interno

No lo veo claro

Hocus pocus

Paseos citadinos

Paseo cartagenero por una Manga sin mangos

El arte del trapecio

Razones y tradiciones