Cómo ser una máquina

Gurús:

Max More, Anders Sandberg, Nick Bostrom, Ray Kurzweil, Natasha Vita-More,

Hans Moravec, Randal Koene

Antigurús

Nick Bostrom, (el filósofo sueco que, antes de

adquirir renombre como uno de los principales profetas mundiales de la

catástrofe

tecnológica, había sido una de las figuras más destacadas del movimiento

transhumanista y cofundador de la Asociación Transhumanista Mundial)

Descubrí que no había ninguna versión aceptada o canónica de este movimiento;

pero cuanto más leía sobre él y mejor comprendía las opiniones de sus

seguidores,

más entendía que se apoyaba en una visión mecanicista de la vida humana: la

visión

de que los seres humanos éramos mecanismos, y de que nuestro deber y

nuestro

destino era convertirnos en mejores versiones de dichos mecanismos: más

eficientes,
más potentes, más útiles. 10

Una definición general: el transhumanismo es un movimiento de liberación que

defiende nada menos que una emancipación total de la propia biología. Hay otra

forma de verlo, una interpretación paralela y opuesta, que es que esa aparente

liberación en realidad representaría nada menos que una esclavitud total y

definitiva a

la tecnología. Tendremos en cuenta ambas caras de esta dicotomía a medida

que

avancemos. 10

me parece que la mencionada dicotomía expresa algo fundamental sobre la

época

concreta en la que nos encontramos,

Si tenemos esperanza en el futuro —si pensamos

que tenemos algo parecido a un futuro—, este se basa en gran parte en lo que

podamos lograr mediante nuestras máquinas. En ese sentido, el transhumanismo

es

una intensificación de una tendencia ya implícita en gran parte de lo que

entendemos

por cultura dominante, en lo que, asimismo, dando un paso más, podemos llamar
capitalismo Y, sin embargo, el hecho ineludible en este mencionado momento

de la historia es

que nosotros, y estas máquinas nuestras, estamos protagonizando un vasto

proyecto

de aniquilación, una destrucción sin precedentes del mundo que hemos llegado a

considerar nuestro 11

En su introducción a una antología recientemente publicada titulada The

Transhumanist Reader (El lector transhumanista), escrita en colaboración con su

esposa Natasha, Max afirmaba lo siguiente: «Convertirse en poshumano implica

superar las limitaciones que definen los aspectos menos deseables de la

“condición

humana”. Los seres poshumanos ya no sufrirían la enfermedad, el

envejecimiento y

la muerte inevitable». (recuerda al despertar de Buda)

OS Fund, que, según supe por su

sitio web, «invierte en emprendedores que trabajen para realizar descubrimientos

que

supongan un salto cualitativo en la promesa de reescribir los sistemas operativos

de la
vida». Ese lenguaje me resultó extraño e inquietante, y revelaba un aspecto

crucial de

la actitud hacia la experiencia humana que se estaba propagando desde su

epicentro

en el Área de la Bahía de San Francisco, un conjunto de metáforas de software

que se

habían transformado en una forma de concebir lo que entrañaba ser humano (así

lo

expresaba el propio Johnson en un manifiesto publicado en el sitio web del fondo:

«Del mismo modo que el corazón de los ordenadores es su sistema operativo,

que

dicta la forma como funciona el ordenador y sirve de base sobre la que se

construyen

todas las aplicaciones, todo en la vida tiene un sistema operativo […]. Es en el

nivel

de dicho sistema operativo donde con mayor frecuencia experimentamos un salto

cualitativo de progreso»). (lenguaje que recuerda a Freud y sus metáforas de

máquinas de vapor) 43

Y era esa misma metáfora esencial la que constituía el núcleo del proyecto de

emulación de Randal: la mente como un programa de software, una aplicación

que se
ejecuta en la plataforma de la carne. Así, cuando empleaba el término emulación,

lo

utilizaba explícitamente para evocar el sentido en que el sistema operativo de un

PC

podía emularse en un Mac, lo que él denominaba «código independiente de la

plataforma». 44

Dada la frecuencia con la que los transhumanistas citaban su trabajo, sentía

curiosidad por descubrir qué pensaba Nicolelis sobre la posibilidad de transferir la

mente. Resultó que no pensaba mucho en ello. Me dijo que la idea de simular

una

mente humana en algún tipo de plataforma computacional se hallaba

básicamente en

contradicción con la naturaleza dinámica de la actividad cerebral, de lo que

concebimos como la mente. Y por aquella misma razón, añadió, el Proyecto

Cerebro

Humano estaba mal concebido de raíz.

—La mente es mucho más que información —me explicó—. Es mucho más que

datos. Esa es la razón por la que no puedes usar un ordenador para averiguar

cómo
funciona el cerebro, qué es lo que está sucediendo ahí. El cerebro, simplemente,

no es

computable. No se puede simular.

Los cerebros, como muchos otros fenómenos naturales, procesan información;

pero, para Nicolelis, eso no implicaba que dicho procesamiento pudiera

procesarse

algorítmicamente y ejecutarse en un ordenador. Para él, el sistema nervioso

central de

un ser humano tenía menos en común con un ordenador portátil que con toda

otra

serie de sistemas complejos que se producen de forma natural, como los bancos

de

peces o las bandadas de aves —o incluso los mercados de valores—, donde

diversos

elementos interactúan y se unen para formar una entidad única cuyos

movimientos

resultan intrínsecamente impredecibles. «La información procesada por el

cerebro se utiliza

para reconfigurar su estructura y función, creando una perpetua integración

recursiva
entre información y materia cerebral […]. Las mismas características que

definen un

sistema adaptativo complejo son las que socavan nuestra capacidad de

predecir o

simular con precisión su comportamiento dinámico». 49

Si algo somos, en esta perspectiva, es información, y hoy la información se ha

convertido en una abstracción incorpórea, de modo que el material a través del

cual

dicha información se transmite resulta tener una importancia secundaria para su

contenido, que puede transferirse, duplicarse y conservarse indefinidamente

(«Cuando la información pierde su cuerpo —escribe la crítica literaria N.

Katherine

Hayles—, equiparar a humanos y ordenadores resulta especialmente fácil,

porque la

materialidad en la que se plasma la mente pensante parece accesoria a su

naturaleza

esencial»).

En el corazón de la idea de la simulación subyace una extraña paradoja: esta

surge de un materialismo absoluto, de una concepción de la mente como una

mera
propiedad emergente de las interacciones entre objetos físicos, y, sin embargo,

se

manifiesta como una convicción de que la mente y la materia son cosas

separadas, o

separables. Es decir, que se manifiesta como una nueva forma de dualismo,

incluso

como una especie de misticismo. 55

No hay ninguna versión unánimemente aceptada de lo que representa la

denominada

«singularidad tecnológica». Es una luz que brilla sobre el horizonte de Silicon

Valley,

y que aparece ora como profecía religiosa, ora como destino tecnológico. No hay

límite a las riquezas que sus fieles afirman que generará, como tampoco lo hay a

lo

que puede decirse de ellas. En su sentido más amplio, la expresión alude a un

tiempo

futuro en el que la inteligencia de las máquinas superará con creces a la de sus

creadores humanos y la vida biológica se verá absorbida por la tecnología.

Constituye, a su manera, una expresión extrema de tecnoprogresismo, la

creencia de
que la aplicación universal de la tecnología resolverá los problemas más

inextricables

del mundo. 59

Para

Kurzweil, el propio proceso de la evolución darwiniana es un proceso de

crecimiento

exponencial, al que, además, se representa explícitamente como tendente a un

fin

deseable. La evolución no es, pues, un titubeo ciego y caótico, una generación

aleatoria de horrores y maravillas, sino un sistema, «un proceso de creación de

patrones de orden creciente». En otras palabras, la evolución es un avance hacia

el

orden y la regulación perfectos de la máquina. Y es esa evolución de patrones —

una

progresión lógica en la que «cada etapa o época utiliza los métodos de

procesamiento

de información de la anterior para crear la siguiente»— la que para Kurzweil

constituye «la historia definitiva de nuestro mundo». 60

La visión del futuro de Kurzweil podría resultar atractiva si uno acepta la visión

mecanicista del ser humano; si está de acuerdo con el pionero de la inteligencia

artificial Marvin Minsky en que el cerebro «resulta ser una máquina de carne».

¿Por

qué nosotros, o nuestras máquinas de carne, no íbamos a querer mejorar

adquiriendo

un mayor grado de funcionalidad? Si entendemos que una máquina es un

aparato

construido para desempeñar una tarea concreta, entonces nuestra tarea como

máquinas es, seguramente, pensar, o computar, al máximo nivel posible. En esta

visión instrumentalista de la vida humana constituye más o menos nuestro deber

—o

al menos representa de entrada prácticamente el único objeto de nuestra

existencia—

aumentar nuestra potencia de fuego computacional y garantizar que, como

máquinas,

funcionamos lo más eficientemente posible durante el mayor tiempo posible. 61

«Nuestros cuerpos biológicos en versión 1.0», escribe Kurzweil, son «frágiles y

están sujetos a innumerables tipos de fallos, por no hablar de los engorrosos

rituales

de mantenimiento que requieren. Aunque a veces la inteligencia humana es

capaz de

alcanzar altas cotas de creatividad y expresividad, gran parte del pensamiento

humano es poco original, trivial y limitado». Eso, se nos asegura, ya no ocurrirá

cuando se inicie la singularidad: ya no seremos criaturas indefensas y primitivas,

máquinas de carne restringidas en nuestros pensamientos y acciones por la

encarnación que constituye nuestro actual sustrato. «La Singularidad —escribe—

nos

permitirá trascender esas limitaciones de nuestros cuerpos y cerebros biológicos.

Obtendremos poder sobre nuestro destino. Nuestra mortalidad estará en nuestras

propias manos. Podremos vivir tanto como queramos (una declaración sutilmente

distinta que decir que viviremos para siempre). Entenderemos plenamente el

pensamiento humano, y extenderemos y ampliaremos vastamente su alcance. A

finales de este siglo la parte no biológica de nuestra inteligencia será billones de

billones de veces más poderosa que la inteligencia humana por sí sola».

Página 61

En otras palabras, finalmente escaparemos a nuestra condición de seres

«caídos»,

seremos finalmente incorpóreos; recuperaremos el estado de plenitud previo al

pecado original, en una comunión final en la que la tecnología ocupará el lugar

del

Dios de Abraham. «La Singularidad —escribe Kurzweil— representará la

culminación de la fusión de nuestro pensamiento y nuestra existencia biológicos

con

nuestra tecnología, dando como resultado un mundo que todavía es humano,

pero que

trasciende nuestras raíces biológicas. Tras la Singularidad no habrá distinción

entre

humano y máquina o entre realidad física y virtual». Ante la acusación de que una

fusión de este tipo aniquilaría nuestra humanidad, Kurzweil replica que la

singularidad constituye, de hecho, el logro definitivo del proyecto humano, la

reivindicación última de la propia cualidad que siempre nos ha definido y

distinguido

como especie: el anhelo constante de trascender nuestras limitaciones físicas y

mentales. 62

Uno de los fenómenos más notables en este ámbito era la existencia de una serie

de institutos de investigación y laboratorios de ideas dedicados sustancialmente a

sensibilizar a la gente sobre lo que se conocía como «riesgo existencial» —el

riesgo

de la aniquilación absoluta de la especie, un hecho completamente diferenciado

de las

meras catástrofes, como el cambio climático, la guerra nuclear o las pandemias

globales— y desarrollar algoritmos que nos ayuden a identificar cómo podemos

evitar este destino en concreto. Así, por ejemplo, estaban el Instituto para el

Futuro de

la Humanidad en Oxford, el Centro para el Estudio del Riesgo Existencial en la

Universidad de Cambridge, el Instituto de Investigación de la Inteligencia de las

Máquinas en Berkeley y el Instituto para el Futuro de la Vida en Boston, el último

de

los cuales contaba entre los miembros de su consejo de asesores científicos no

solo

con prominentes figuras de la ciencia y la tecnología, como Musk y Hawking, o el

destacado genetista George Church, sino también, por alguna razón, con dos

actores

de cine especialmente apreciados, Alan Alda y Morgan Freeman. 65

En el verano de 1956, (El mismo año que el cuento de Asimov “la última

pregunta”) antes de que las ideas

sobre máquinas inteligentes hubieran empezado a confluir en algo parecido a una

disciplina, un pequeño grupo de científicos —destacadas figuras en matemáticas,

ciencias cognitivas, ingeniería electrotécnica e informática teórica— se reunieron

durante seis semanas en el marco de un taller organizado en una universidad

estadounidense, el Dartmouth College de Hanover (Nuevo Hampshire). El grupo

incluía entre otros a Marvin Minsky, Claude Shannon y John McCarthy, a quienes

actualmente se considera fundadores de la inteligencia artificial. En una

propuesta

dirigida a la Fundación Rockefeller, que financiaba el taller, el grupo daba los

siguientes argumentos para justificar su convocatoria:

Proponemos que durante dos meses diez hombres lleven a cabo un estudio

sobre la inteligencia

artificial […]. El estudio debe basarse en la premisa de que todos los aspectos del

aprendizaje o

cualquier otro rasgo de la inteligencia pueden, en principio, describirse con la

precisión suficiente para

que pueda fabricarse una máquina capaz de simularlos. Se intentará encontrar la

forma de hacer

máquinas que utilicen un lenguaje, formen abstracciones y conceptos, resuelvan

tipos de problemas

hoy reservados a los humanos y se mejoren a sí mismas. Creemos que se puede

lograr un avance

significativo en uno o más de estos problemas si un grupo de científicos

cuidadosamente seleccionados

trabajan conjuntamente durante un verano.

Este tipo de arrogancia ha sido un rasgo intermitente de la investigación en

inteligencia artificial, y ha hecho que se produjeran una serie de «inviernos» en

este

campo: periodos caracterizados por una drástica reducción de la financiación

producidos tras diversos estallidos de intenso entusiasmo en torno a la inminente

solución de uno u otro problema que luego resultaba ser mucho más complejo de

lo

que se había imaginado 69

Yo me sentía intrigado por el tono de los escritos de Nate, por la forma en que

combinaba el lenguaje de la lógica con una especie de lacónico romanticismo

friki:

un registro extraño y contradictorio que parecía captar algo esencial de aquella

idealización de la razón pura que constituía un aspecto tan prominente no solo

del

transhumanismo, sino de una cultura más amplia en el ámbito de la ciencia y la

tecnología; una visión que yo había empezado a calificar de «racionalismo

mágico» Nate me habló a continuación de los grandes beneficios que, si las

cosas no se

torcían, iba a comportar el advenimiento de la superinteligencia artificial. Al

desarrollar una tecnología tan transformadora, me dijo, básicamente estaríamos

delegando todas las innovaciones futuras, todo el progreso científico y

tecnológico,

en las máquinas.

Aquel tipo de afirmaciones eran más o menos habituales entre quienes en el

mundillo tecnológico creían que la superinteligencia artificial era una posibilidad

real. La capacidad de resolución de problemas de aquella tecnología,

adecuadamente

aprovechada, se traduciría en una enorme aceleración del flujo de soluciones e

innovaciones, un estado de permanente revolución copernicana. Preguntas que

habían

traído de cabeza a los científicos durante siglos se resolverían en cuestión de

días,

horas o minutos. Se encontrarían curas para enfermedades que hoy destruían un

gran

número de vidas, al tiempo que se diseñaban soluciones ingeniosas a la

superpoblación. Oír este tipo de cosas es como imaginar a un Dios que

desde hace largo tiempo hubiera renunciado a todas sus obligaciones para

con su creación

haciendo un retorno triunfal bajo la apariencia de un software, un alfa y

omega de

ceros y unos.71
Yo era muy consciente de

que para las personas como él aquel no era un mero juego intelectual; de que

realmente creían que era una posibilidad muy real para el futuro. Y, sin embargo,

a fin

de cuentas la idea de que considerara que tenía más probabilidades de ser

asesinado

por un ingenioso programa informático que de morir de cáncer o de enfermedad

cardiaca o de viejo parecía básicamente descabellada. Probablemente, había

llegado a

esa conclusión por las vías más racionales —aunque yo no entendía casi nada

de los

símbolos matemáticos y los árboles lógicos que había garabateado en la pizarra

en mi

honor, los tomaba como evidencias de ello—, y, no obstante, a mí me parecía la

conclusión más irracional a la que se podía llegar. No era la primera vez que me

sorprendía la forma en que la razón absoluta podía servir como fiel doncella

de la locura absoluta. Pero, una vez más, quizá era yo el loco, o, al menos,

demasiado

estúpido, demasiado irremediablemente desinformado para poder ver la lógica de

aquel inminente apocalipsis. 75