Cuando las máquinas superan a los humanos

(c) 2000, Nick Bostrom

Futuros . Vol. 35: 7, págs. 759 - 764, con un simposio organizado en torno a mi artículo. Para mi respuesta a
los comentarios, vea aquí .

RESUMEN

La inteligencia artificial es una posibilidad que no debe ignorarse en cualquier

pensamiento serio sobre el futuro, y plantea muchas cuestiones profundas
para la ética y las políticas públicas en las que los filósofos deberían empezar
a pensar. Este artículo describe el caso para pensar que la inteligencia de la
máquina a nivel humano bien podría aparecer en el próximo medio
siglo. Luego explica cuatro consecuencias inmediatas de tal desarrollo y
argumenta que la inteligencia artificial tendría un impacto revolucionario en
una amplia gama de problemas sociales, políticos, económicos, comerciales,
tecnológicos, científicos y ambientales que enfrentará la humanidad en las
próximas décadas.

Los anales de la inteligencia artificial están llenos de promesas incumplidas. Medio

siglo después de la primera computadora eléctrica, todavía no tenemos nada que se
parezca siquiera a una máquina inteligente, si por 'inteligente' nos referimos a poseer
el tipo de inteligencia de propósito general del que nos enorgullecemos los
humanos. Quizás nunca logremos construir una inteligencia artificial real. El problema
podría ser demasiado difícil de resolver para el cerebro humano. Aquellos que
encuentran amenazante la perspectiva de que las máquinas nos superen en
habilidades intelectuales generales pueden incluso esperar que ese sea el caso.

Sin embargo, ni el hecho de que la inteligencia artificial dé miedo ni el hecho de que

algunas predicciones pasadas fueran incorrectas es un buen motivo para concluir que
la inteligencia artificial nunca se creará. De hecho, suponer que la inteligencia artificial
es imposible o que tardará miles de años en desarrollarse parece al menos tan
injustificado como suponer lo contrario. Como mínimo, debemos reconocer que
cualquier escenario sobre cómo será el mundo en 2050 que simplemente postule la
ausencia de inteligencia artificial a nivel humano está asumiendo una gran suposición
que bien podría resultar ser falsa.

Por lo tanto, es importante considerar la posibilidad alternativa de que se construyan

máquinas inteligentes dentro de cincuenta años. En el último año o dos, se han
publicado varios libros y artículos por investigadores líderes en inteligencia artificial y
robótica que abogan precisamente por esa proyección. Este ensayo primero esbozará
algunas de las razones de esto y luego discutirá algunas de las consecuencias de la
inteligencia artificial a nivel humano.

Podemos comprender el problema considerando las tres cosas que se necesitan para
una inteligencia artificial efectiva. Estos son: hardware, software y mecanismos de
entrada / salida.
La tecnología de entrada / salida necesaria ya existe. Contamos con cámaras de video,
parlantes, brazos robóticos, etc. que brindan una rica variedad de formas para que una
computadora interactúe con su entorno. Entonces esta parte es trivial.

El problema del hardware es más desafiante. La velocidad, más que la memoria,

parece ser el factor limitante. Podemos adivinar el hardware de la computadora que se
necesitará estimando el poder de procesamiento de un cerebro humano. Obtenemos
cifras algo diferentes según el método que usemos y el grado de optimización que
asumimos, pero las estimaciones típicas oscilan entre 100 millones de MIPS y 100 mil
millones de MIPS. (1 MIPS = 1 millón de instrucciones por segundo). Hoy en día, una
PC de gama alta tiene alrededor de mil MIPS. La supercomputadora más poderosa
hasta la fecha tiene un rendimiento de aproximadamente 10 millones de MIPS. Esto
significa que pronto estaremos a una distancia sorprendente de cumplir con los
requisitos de hardware para la inteligencia artificial a nivel humano. En retrospectiva,
es fácil ver por qué los primeros esfuerzos de inteligencia artificial en los años sesenta
y setenta no pudieron haber tenido éxito: el hardware disponible entonces era
lamentablemente inadecuado.

Dirigiendo nuestra mirada hacia adelante, podemos predecir con un alto grado de
confianza que el hardware que coincida con el del cerebro humano estará disponible en
el futuro previsible. IBM está trabajando actualmente en una supercomputadora de
próxima generación, Blue Gene, que realizará más de mil millones de MIPS. Se espera
que esta computadora esté lista alrededor de 2005. Podemos extrapolar más allá de
esta fecha usando la Ley de Moore, que describe la tasa histórica de crecimiento de la
velocidad de la computadora. (Estrictamente hablando, la Ley de Moore, tal como se
formuló originalmente, se refería a la densidad de transistores en un chip de
computadora, pero esto se ha correlacionado estrechamente con la potencia de
procesamiento). Durante el último medio siglo, la potencia de la computación se ha
duplicado cada dieciocho meses a dos años [ver fig. . 1]. La ley de Moore no es
realmente una ley, sino simplemente una regularidad observada. En principio, podría
dejar de ser cierto en cualquier momento. Sin embargo, la tendencia que describe ha
sido fuerte durante un período de tiempo muy prolongado y ha sobrevivido a varias
transiciones en la tecnología subyacente (desde relés a tubos de vacío, transistores,
circuitos integrados, circuitos integrados muy grandes, VLSI). Los fabricantes de chips
confían en él cuando planifican sus próximas líneas de productos. Por lo tanto, es
razonable suponer que se mantendrá durante algún tiempo. Utilizando un tiempo de
duplicación conservador de dos años, la ley de Moore predice que la estimación
superior de la potencia de procesamiento del cerebro humano se alcanzará antes de
2019. Dado que esto representa el rendimiento de la mejor supercomputadora del
mundo, se pueden agregar algunos años para tener en cuenta el retraso que puede
ocurrir antes de que ese nivel de potencia de cálculo esté disponible para realizar
trabajos experimentales en inteligencia artificial. Los números exactos no importan
mucho aquí. La cuestión es que aún no se ha alcanzado la potencia informática a nivel
humano, pero es casi seguro que se alcanzará mucho antes de 2050.

Esto deja el problema del software. Es más difícil analizar de forma rigurosa cuánto
tiempo llevará resolver ese problema. (Por supuesto, esto es igualmente válido para
aquellos que se sienten seguros de que la inteligencia artificial seguirá siendo
inalcanzable durante un tiempo extremadamente largo; en ausencia de evidencia, no
deberíamos descartar ninguna de las alternativas). Aquí abordaremos el tema
delineando dos enfoques para crear el software y presentar algunos argumentos de
plausibilidad generales de por qué podrían funcionar.
Sabemos que el problema del software se puede resolver en principio. Después de
todo, los humanos han alcanzado la inteligencia a nivel humano, por lo que
evidentemente es posible. Una forma de construir el software necesario es descubrir
cómo funciona el cerebro humano y copiar la solución de la naturaleza.

Hace relativamente poco tiempo que comenzamos a comprender los mecanismos

computacionales de los cerebros biológicos. La neurociencia computacional tiene solo
unos quince años como disciplina de investigación activa. En este corto tiempo, se han
logrado avances sustanciales. Estamos comenzando a comprender el procesamiento
sensorial temprano. Existen modelos computacionales razonablemente buenos de la
corteza visual primaria, y estamos avanzando hacia las etapas superiores de la
cognición visual. Estamos descubriendo cuáles son los algoritmos básicos de
aprendizaje que gobiernan cómo la experiencia modifica las fortalezas de las
sinapsis. La arquitectura general de nuestras redes neuronales se está trazando un
mapa a medida que aprendemos más sobre la interconectividad entre neuronas y
cómo las diferentes áreas corticales se proyectan entre sí.

Suponiendo un progreso rápido y continuo en neurociencia, podemos imaginar

aprender lo suficiente sobre los procesos de nivel inferior y la arquitectura general para
comenzar a implementar los mismos paradigmas en las simulaciones por
computadora. Hoy en día, estas simulaciones se limitan a conjuntos de neuronas
relativamente pequeños. Hay una retina de silicio y una cóclea de silicio que hacen las
mismas cosas que sus contrapartes biológicas. Simular un cerebro completo requerirá,
por supuesto, una enorme potencia de cálculo; pero como vimos, esa capacidad estará
disponible dentro de un par de décadas.

El producto de este método inspirado en la biología no será una inteligencia artificial

madura codificada explícitamente. (Eso es lo que la llamada escuela clásica de
inteligencia artificial intentó sin éxito hacer). Más bien, será un sistema que tenga la
misma capacidad que un niño pequeño para aprender de la experiencia y ser
educado. Será necesario enseñar el sistema a fin de alcanzar las habilidades de los
humanos adultos. Pero no hay ninguna razón por la que los algoritmos
computacionales que utilizan nuestros cerebros biológicos no funcionen igual de bien
cuando se implementan en hardware de silicio.

Algunos investigadores en nanotecnología (por ejemplo, Merkle [4]) han sugerido otro
enfoque más "parecido a la ciencia ficción". La nanotecnología molecular es la
capacidad futura anticipada para fabricar una amplia gama de estructuras
macroscópicas (incluidos nuevos materiales, computadoras y otros dispositivos
complejos) con precisión atómica. La nanotecnología nos dará un control sin
precedentes sobre la estructura de la materia. Una aplicación que se ha propuesto es
utilizar nanomáquinas para desmontar un cerebro humano congelado o vitrificado,
registrando la posición de cada neurona y sinapsis y otros parámetros relevantes. Esto
podría verse como el análogo cerebral del proyecto del genoma humano. Con un mapa
suficientemente detallado de un cerebro humano en particular y una comprensión de
cómo se comportan los distintos tipos de neuronas, se podría emular el cerebro
escaneado en una computadora ejecutando una simulación detallada de su red
neuronal. Este método tiene la ventaja de que no requeriría ningún conocimiento de la
cognición humana de nivel superior. Es un proceso puramente de abajo hacia arriba.
Estas son dos estrategias para construir el software para una inteligencia artificial a
nivel humano que podemos imaginar hoy. Puede haber otras formas en las que aún no
hemos pensado que nos llevarán allí más rápido. Aunque es imposible hacer
predicciones rigurosas con respecto a la escala de tiempo de estos desarrollos, parece
razonable tomarse en serio la posibilidad de que todos los requisitos previos para las
máquinas inteligentes (hardware, mecanismos de entrada / salida y software) se
alcancen en cincuenta años.

Al pensar en el mundo de mediados del siglo XXI, deberíamos considerar las

ramificaciones de la inteligencia artificial a nivel humano. Cuatro implicaciones
inmediatas son:

 Las mentes artificiales se pueden copiar fácilmente.

Una inteligencia artificial se basa en software y, por lo tanto, se puede copiar tan
fácilmente como cualquier otro programa informático. Aparte de los requisitos de
hardware, el costo marginal de crear una inteligencia artificial adicional después de
haber creado la primera es casi cero. Por lo tanto, las mentes artificiales podrían llegar
a existir rápidamente en grandes cantidades, amplificando el impacto del avance
inicial.

 La inteligencia artificial a nivel humano conduce rápidamente a una inteligencia

artificial superior a la humana.

Existe la tentación de detener el análisis en el punto donde aparece la inteligencia de la

máquina a nivel humano, ya que eso en sí mismo es un desarrollo bastante
dramático. Pero hacerlo es pasar por alto un punto esencial que hace de la inteligencia
artificial una perspectiva verdaderamente revolucionaria, a saber, que se puede
esperar que conduzca a la creación de máquinas con capacidades intelectuales que
superan ampliamente las de cualquier ser humano. Podemos predecir con gran
confianza que seguirá este segundo paso, aunque la escala de tiempo es nuevamente
algo incierta. Si la ley de Moore continúa vigente en esta era, la velocidad de las
inteligencias artificiales se duplicará al menos cada dos años. Dentro de los catorce
años después de que se alcanza la inteligencia artificial a nivel humano, podría haber
máquinas que piensen más de cien veces más rápido que los humanos. En realidad, el
progreso podría ser incluso más rápido que eso, porque probablemente habría mejoras
paralelas en la eficiencia del software que utilizan estas máquinas. El intervalo durante
el cual las máquinas y los humanos se emparejan aproximadamente será
probablemente breve. Poco después, los humanos no podrán competir
intelectualmente con mentes artificiales.

 El progreso tecnológico en otros campos se acelerará con la llegada de la

inteligencia artificial.

La inteligencia artificial es una verdadera tecnología de uso general. Permite

aplicaciones en una amplia gama de otros campos. En particular, la investigación
científica y tecnológica (así como el pensamiento filosófico) se realizará de manera
más eficaz cuando la realicen máquinas más inteligentes que los humanos. Por tanto,
cabe esperar que el progreso tecnológico global sea rápido.
Las inteligencias de las máquinas pueden dedicar sus habilidades a diseñar la próxima
generación de inteligencia de las máquinas. Esta próxima generación será aún más
inteligente y podría diseñar sus sucesores en un tiempo aún más corto. Algunos
autores han especulado que este circuito de retroalimentación positiva conducirá a una
"singularidad", un punto en el que el progreso tecnológico se vuelve tan rápido que la
superinteligencia genuina, con habilidades insondables para los simples humanos, se
logra en un corto período de tiempo (Vinge [5]). Sin embargo, puede resultar que
haya rendimientos decrecientes en la investigación de inteligencia artificial cuando se
alcanza algún punto. Tal vez una vez que se hayan recolectado las frutas más bajas,
cada vez sea más difícil hacer más mejoras. Parece que no hay una forma clara de
predecir qué camino tomará.

 A diferencia de otras tecnologías, las inteligencias artificiales no son meras

herramientas. Son agentes potencialmente independientes.

Sería un error conceptualizar la inteligencia artificial como una mera

herramienta. Aunque puede ser posible construir inteligencia artificial de propósito
especial que solo podría pensar en un conjunto restringido de problemas, aquí estamos
considerando un escenario en el que se crean máquinas con inteligencia de propósito
general. Tales máquinas serían capaces de tener una iniciativa independiente y de
hacer sus propios planes. Estos intelectos artificiales se consideran quizás más
apropiadamente como personas que como máquinas. En la jerga de la economía,
podrían llegar a clasificarse no como capital sino como trabajo. Si podemos controlar
las motivaciones de los intelectos artificiales que diseñamos, podrían llegar a constituir
una clase de "esclavos" altamente capaces (aunque ese término podría ser engañoso si
las máquinas no lo hacen). no quiero hacer otra cosa que no sea servir a las personas
que las construyeron o las encargaron). Los debates éticos y políticos en torno a estos
temas probablemente se volverán intensos a medida que se acerque la perspectiva de
la inteligencia artificial.

 
Se pueden sacar dos conclusiones generales. La primera es que actualmente no hay
ninguna garantía para descartar la posibilidad de que se construyan máquinas con una
inteligencia superior a la humana dentro de cincuenta años. Por el contrario, debemos
reconocer esto como una posibilidad que merece una seria atención. La segunda
conclusión es que la creación de tales intelectos artificiales tendrá consecuencias de
amplio alcance para casi todos los problemas sociales, políticos, económicos,
comerciales, tecnológicos, científicos y ambientales que la humanidad enfrentará en
este siglo.

Agradecimientos
Me gustaría agradecer a todos aquellos que han comentado las versiones anteriores de
este documento. Se agradecieron especialmente las útiles sugerencias de Hal Finney,
Robin Hanson, Carl Feynman, Anders Sandberg y Peter McCluskey.

Figura 1: El crecimiento exponencial de la potencia informática. (De Hans Moravec:

"¿Cuándo coincidirá el hardware de la computadora con el cerebro humano?"
(1998, Jour. Of Transhumanism , Vol.1); cortesía de la Asociación Mundial
Transhumanista) [ volver ]