Saber la respuesta no significa

entenderla
Por Ariel Torres

Sábado 19 de febrero de 2011

Estamos como encandilados. Supongo que es natural. Las tecnologías de procesamiento

de la información han avanzado más en medio siglo que todas las otras técnicas en los
pasados diez mil años. Si en el siglo XIX imaginábamos poderosos hombres mecánicos,
hoy, con idéntica ingenuidad, estamos pronosticando cerebros electrónicos capaces de
superar la mente humana. ¿No fue acaso una computadora la que le arrebató el título de
campeón mundial de ajedrez al gran Kasparov en 1997?

Opino que no. Catorce años atrás sostuve que asegurar que Deep Blue le había ganado a
Kasparov era una afirmación excesiva. El coloso digital a 1 teraflops (1 billón de
operaciones de coma flotante por segundo) no había sido consciente de su éxito ni había
salido a festejar con sus amigos; bueno, no tenía amigos. Así que es un poco absurdo
decir que ganó si no sabe que ganó. ¿Cabe afirmar que el campeón mundial de ajedrez no
tiene idea de que estuvo jugando al ajedrez? Suena raro, como mínimo.

En su momento, lo de Deep Blue me dio un poco de vergüenza ajena. Era la fuerza bruta,
ciega e insensible de la maquinaria, capaz de sondear 200 millones de posiciones de
tablero por segundo, contra un ser humano del todo incapaz de semejante potencia de
cómputo. De hecho, la gran virtud de Kasparov es ser genial en un juego para el que
nuestros cerebros son completamente inadecuados. Cuando podés ver todas las posibles
posiciones de tablero y elegir la mejor, el ajedrez carece de sentido. Garry jugó al ajedrez;
Deep Blue, no.

Al final, luego de un primer encuentro que ganó Kasparov, la fuerza bruta terminó
doblegando al cerebro orgánico. Claro que Deep Blue nunca habría siquiera existido sin
los blandos cerebros de los bípedos. Anóteme un círculo vicioso aquí, por favor.

Un buen alumno

Ahora, IBM lo ha hecho de nuevo. Su computadora Watson aplastó a dos campeones de

un juego televisivo de preguntas y respuestas llamado Jeopardy! gracias a sus 2880
cerebros electrónicos que suman una potencia de cómputo total de 80 teraflops. Ochenta
Deep Blue. ¡Ouch!

Mientras veía los encuentros me dio la impresión de que la destreza más interesante de
Watson es la de entender el lenguaje natural. Aunque su voz metálica y artificial hizo reír al
conductor del programa en un par de ocasiones, su habilidad para pescar al vuelo la
mayoría de las preguntas es un logro extraordinario de IBM. En cuanto a lo demás,
Watson no se dio por enterado cuando el conductor del programa se burló de su extraña
pronunciación del inglés.

Corta también el aliento su capacidad para rebuscar en su base de datos de 4 terabytes,

atar cabos, darle sentido a la información y extraer una respuesta correcta. Como me
explicaba el jueves Kerrie Holley, uno de los Chief Technology Officer de IBM que fue
asesor durante el desarrollo de Watson, hacen falta muchos y muy complejos algoritmos
para extraer de ese océano de datos una palabra, una frase que se correlacione de forma
precisa con las pistas de la pregunta. Ya lo creo.

Ahora, fuera de dar este espectáculo televisivo, ¿para qué sirve realmente la nueva
supercomputadora de IBM? "Las máquinas como Watson serían capaces de ayudarnos en
actividades como la medicina -me decía Holley-. Imagínese su capacidad para buscar y
correlacionar los síntomas de un paciente con centenares de miles de artículos,
experimentos y noticias al servicio de un médico." O, por ejemplo, echarle una mano al
pobre abogado que hoy necesita bucear en una biblioteca de jurisprudencia y leyes. Según
IBM, en el futuro los profesionales obtendrán respuestas inmediatas a estas preguntas
complejas, investigaciones, diagnósticos.

Algo más que fue evidente a medida que avanzaban los encuentros es que Watson es
capaz de aprender. De hecho, es una de las destrezas que el equipo de desarrollo
programó en él. Entre el primer encuentro, que terminó casi en empate, y el abrumador
triunfo del final la máquina mejoró de forma consistente su desempeño. No así los
humanos, que llegaron al estudio de TV en su mejor forma.

Titanes en el ring

Sin embargo, la decisión de enfrentarlo a personas me pareció un recurso publicitario

equívoco. Efectivo, pero equívoco. Aunque hay un video en YouTube donde los ejecutivos
de IBM explican por qué escogieron Jeopardy!, cuando le mencioné mis reservas a Holley,
al principio de nuestra charla telefónica, estuvo muy de acuerdo en que todo el asunto no
tiene nada que ver con "máquinas contra hombres", y que la idea era más bien "interesar
al público en este desarrollo de IBM".

Desafortunadamente, los titulares, las etiquetas en YouTube, las charlas en foros y los
debates en las redes sociales abundaron en menciones a Skynet y HAL 9000 y en
afirmaciones del tipo Supercomputadora destroza a los humanos. Lo haya querido o no
IBM, provocó una interpretación errónea de lo que Watson es en realidad, y abonó la
animosidad que muchas personas siguen sintiendo contra los que consideran más
autómatas malignos que herramientas útiles. La compañía también se hizo eco de este
resultado no deseado: http://www-943.ibm.com/innovation/us/watson/

Desde mi punto de vista, la competencia se fue convirtiendo cada vez más en un

espectáculo circense. Durante el segundo encuentro el factor decisivo pasó a ser más bien
la velocidad de Watson para apretar el timbre que el haber obtenido la respuesta antes
que los humanos. La frustración de los dos competidores de carne y hueso, Ken Jennings
y Brad Rutter, daba pena. La carrera ya no era por comprender las pistas ocultas en las
preguntas, memorizar y responder, sino por la rapidez de los reflejos, área en la que los
vertebrados superiores tenemos insuperables limitaciones de hardware, por así decir.

Libre albedrío

Cualquier sedan familiar ganaría con facilidad en los 100 metros, pero nos parecería
disparatado que un velocista olímpico compita contra un automóvil. ¿Cuándo decidimos
que Deep Blue y Watson son diferentes? Cuando empezamos a creer que hay algo de
mental en sus computaciones, y no es así.

No hay más mente en Watson que en una calculadora de bolsillo. La diferencia entre
ambos es su potencia de cómputo y la complejidad de su software. En el video que
mencioné antes se explica también, en inglés, el arduo y por momentos frustrante proceso
de programar esta supercomputadora y derriba muchos de estos mitos en los que
tendemos a creer y que Jeopardy! ayudó a consolidar, mal que le pese a IBM.

Watson es unas 80 billones de veces más rápido que un ser humano para hacer cálculo de
coma flotante, pero el secreto de la mente humana no reside allí. Usted necesitaría 25.000
siglos para resolver las cuentas que Watson despacha en un segundo, pero Watson no
podría alegrarse de su éxito ni en un millón de años. No está programado para eso.

Esta cuestión, la de estar programado para, presenta un número muy grande de

problemas lógicos cuando comparamos una computadora, por poderosa que sea, con una
persona.

Supongamos no ya al pobre Watson, que en veinte años será una pieza de museo, sino
una computadora del futuro, decenas de miles de millones de veces más potente.
Imaginemos que con semejante poder, con el cerebro positrónico de Asimov o algo por el
estilo, nuestro artilugio digital es capaz hasta de filosofar o escribir poesía. Parece pensar,
pero en realidad sólo está programado para pensar. La diferencia parece sutil, pero nos
conduce a un problema sin solución.

Para que algo se convierta en alguien es menester que, al menos, disfrute de libre
albedrío. Ingeniosamente, los creadores de nuestro hipotético golem digital han
programado en él la función del libre albedrío. Y esto, casi no hace falta aclararlo, es una
bonita contradicción.

Dado que a las computadoras las contradicciones les sientan mal, no es imposible que una
máquina pensante programada para tener libre albedrío terminara por colgarse. El libre
albedrío sería la división por cero de los robots.

Además, si los humanos nos hemos pasado 5000 años debatiendo sobre nuestro propio
libre albedrío, y eso que no hemos salido de una línea de producción, qué queda para una
maquinaria que hemos construido desde nuestro propio libre albedrío, nuestra conciencia,
nuestra visión del cosmos, nuestras limitaciones intelectuales. El cínico de fuste aquí me
dirá que no hay pruebas de que no seamos robots orgánicos y que la naturaleza o Dios
podrían ser sólo ilusiones implantadas en nuestro software.
Cierto, pero tampoco hay pruebas de que Dios no exista o que la naturaleza sea una vasta
simulación. Y, además, si así fuera, el pobre Watson no sería ya hijo de seres vivientes,
sino de robots. No querría estar en sus sockets.

Conciencia y conciencia de sí

Si pienso luego existo, entonces la mera simulación del pensamiento sólo conduce a una
simulación del ser.

Pero hay un obstáculo adicional a la hora de comparar humanos con máquinas pensantes:
la conciencia. Ni siquiera tenemos claro qué es, pero somos conscientes de que somos
conscientes.

Nuestra identidad, clara y distinta para otros y para nosotros, está, de paso, unida de
forma inextricable al lenguaje. Somos los únicos seres vivientes capaces de pronunciar la
palabra yo y, junto con los gorilas, disfrutamos el raro lujo de reconocer nuestra imagen en
el espejo.

Por eso, entre la tecnología DeepQA que usa Watson para reconocer el inglés y la
naturaleza humana hay una distancia astronómica. Insalvable, además.

Cuando conversamos, Holley fue mucho más humilde en su descripción de Watson que la
imagen que dejó la competencia televisiva. Conversamos sobre lingüística, sobre cómo la
súper computadora analiza, desarma, interpreta cada oración, sobre las teorías de Noam
Chomsky y ahí, sin fanfarria, Watson alcanzó una estatura mayor y más digna que en la
tele. Por primera vez hemos conseguido que los circuitos comprendan más o menos bien
el hondo misterio del lenguaje natural.

Y eso, favor de anotar, porque no le hemos recitado un poema de Dylan Thomas o la letra
de Lucy en el cielo con diamantes.

What is tangerine trees?, diría Watson.

Emociones y sentimientos

Watson fue capaz a cada milisegundo (una eternidad para la máquina) de evaluar cuándo
y cuánto le convenía apostar y respondía con igual candidez al acertar (la mayoría de las
veces) y al fallar. Jamás sintió nada, y sería aventurado asegurar que se enteró de lo que
estaba ocurriendo a su alrededor.

Las emociones, viejas compañeras de los seres vivos, algunas con raíces en los ganglios
basales (el cerebro reptiliano) y el sistema límbico, son hilos esenciales de nuestra
naturaleza. Dejando de lado su papel en la vida cotidiana, en nuestras relaciones con los
demás y en las artes, las emociones muy posiblemente cumplieron y siguen cumpliendo
alguna función fundamental para la supervivencia de las especies. Watson no experimenta
ninguna emoción. Es más, nunca se le ocurrió a nadie en IBM programarlo para esto. Ni
sabrían por dónde empezar. ¿Por qué, entonces, oponerla a dos hombres cuyas
emociones fueron, quizá, lo único realmente interesante del show?

Los sentimientos, esa red de difracción que se produce al experimentar las emociones a la
luz de la conciencia, están por completo ausentes de nuestras actuales máquinas
pensantes. El inefable Data necesita un chip emocional para conmover su inexorable
racionalismo, lo que en el fondo es un poco grotesco. Si algo caracteriza a las emociones y
los sentimientos es su autenticidad y su espontaneidad. Fingir que sentimos no es sentir.
Es fingir.

Por eso, si alguna vez nuestros robots llegan a emocionarse y sentir algo, y creo que en un
futuro lejano así será, sus corazones eléctricos se agitarán por cosas de máquinas, no por
cosas humanas. Sí, alguna vez las máquinas sentirán cosas, pero con un origen
filogenético tan diferente sus emociones nos serán por completo ajenas. Y viceversa.

Cuerpo

No me extenderé mucho más. Esto da para un libro. Qué digo. Da para una biblioteca.

Pero no quiero dejar de citar un tema más que nos hace incomparables a personas y
máquinas. Los humanos atravesamos a diario la experiencia totalizadora que funde
cuerpo, mente y alma, algo inalcanzable para las máquinas pensantes. Obviar el cuerpo es
tan siniestro como obviar el alma, pero es lo que siempre hacemos al hablar de Skynet,
HAL9000 o Ash (Alien) . Bien diferentes serían nuestros pensamientos si tuviéramos
cuerpos descartables.

Por favor, cuando a Watson le corra un sudor frío por la espalda porque acaba de
responder una tontería frente a 9 millones de espectadores me avisan. Porque recién
entonces será válido enfrentarlo a personas.

¿Sueñan los androides con ovejas eléctricas?

No se lo diga a nadie, pero Watson me cayó bien. Su candidez, su buena predisposición,

su completa desconexión de la realidad. Además, si no fuera por su costo (varios millones
de dólares) y tamaño (equivalente a unas diez heladeras) me ayudaría mucho en mi
trabajo. Pero ya bajará de precio y adelgazará. Eniac, que esta semana cumplió 65 años,
ocupaba 63 metros cuadrados; hoy un chip del tamaño de una estampilla es miles de
veces más potente que aquél coloso de 30 toneladas. Ya tendremos 80 teraflops en el
bolsillo, tómeme la palabra. Y más también.

Llegará el día en que llevaremos 80 teraflops y 4 terabytes de datos como un implante

neurológico para lidiar con la masa monumental de conocimiento que hemos producido a
lo largo de siglos de civilización. Deme dos.

Pero aunque Watson me cae bien (él no lo sabe), y a pesar de que el desarrollo de IBM
me ha llenado de admiración, he querido aclarar sin romanticismo, sin prejuicios,
racionalmente, que computadoras y personas no se pueden comparar. Una cosa es el
avance en la interpretación del lenguaje natural por parte de las máquinas y otra que
Watson entienda lo que le están diciendo. Saber la respuesta no significa entenderla, en
su caso. Una cosa es fuerza bruta computacional y otra infinitamente diferente es la
inteligencia.

No son máquinas pensantes.

No sueñan.

No todavía.