Está en la página 1de 13

Singularidad tecnolgica

La singularidad tecnolgica es el advenimiento hipo- A pesar de que el progreso tecnolgico se ha acelerado,


ttico de inteligencia articial general (tambin conocida se ha visto limitado por la inteligencia bsica del cere-
como "IA fuerte", del ingls strong AI). La singularidad bro humano, que no ha tenido, segn Paul R. Ehrlich, un
tecnolgica implica que un equipo de cmputo, red infor- cambio signicativo durante los ltimos milenios. [10] Sin
mtica, o un robot podran ser capaces de auto-mejorarse embargo, con el creciente poder de las computadoras y
recursivamente (rediseo de s mismo), o en el diseo y otras tecnologas, eventualmente podra ser posible cons-
construccin de computadoras o robots mejores que l truir una mquina ms inteligente que la humanidad. [11]
mismo. Se dice que las repeticiones de este ciclo proba- Si una inteligencia sobrehumana fuese inventada ya sea
blemente daran lugar a un efecto fuera de control -una a travs de la amplicacin de la inteligencia humana o
explosin de inteligencia [1][2] - donde las mquinas in- a travs de la inteligencia articial podra ser capaz de
teligentes podran disear generaciones de mquinas su- aportar una mayor resolucin de problemas y habilidades
cesivamente cada vez ms potentes, la creacin de inteli- inventivas que los humanos actuales son capaces de hacer.
gencia muy superior al control y la capacidad intelectual Podra entonces disear una mquina mejor, capaz de re-
humana.[3] escribir su propio software para ser an ms inteligente.
El primer uso del trmino singularidad en este contex- Esta mquina sera capaz entonces de seguir para dise-
to se hizo en 1958 por el matemtico y fsico hngaro ar una mquina de mayor capacidad. Estas iteraciones
John von Neumann. En 1958, en relacin con un resumen de auto-mejora recursiva podran acelerar, permitiendo
de una conversacin con von Neumann, Stanislaw Ulam potencialmente un enorme cambio cualitativo antes que
describi el cada vez mas rpido progreso tecnolgico y los lmites superiores impuestos por las leyes de la fsica
los cambios en el modo de la vida humana, lo que da la o de clculo terico fueran jados.[12][13][14]
apariencia de que se acerca alguna singularidad esencial
en la historia de la raza humana ms all de sus propios 1.2 Aparicin de la superinteligencia
asuntos tales como los conocemos, no puede seguir.[4] El
trmino fue popularizado por el matemtico, informti- Muchos de los escritores ms reconocidos sobre la sin-
co y autor de ciencia ccin Vernor Vinge, quien sostiene gularidad, como Vernor Vinge y Ray Kurzweil, denen
que la inteligencia articial, la mejora biolgica humana, el concepto en trminos de la creacin tecnolgica de su-
o interfaces cerebro-ordenador podran ser las posibles perinteligencia. Ellos argumentan que es difcil o impo-
causas de la singularidad.[5] Ray Kurzweil cit el uso de sible para los seres humanos de hoy en da predecir c-
von Neumann del trmino en un prlogo de von Neumann mo ser la vida de los seres humanos en un mundo post-
del clsico The Computer and the Brain. singularidad. [6][7][15] El trmino singularidad tecnolgi-
Kurzweil predice que la singularidad ocurrir alrededor ca fue acuado originalmente por Vinge , quien hizo una
del 2045,[6] mientras que Vinge la predice en algn tiem- analoga entre la ruptura de nuestra capacidad de predecir
po antes del 2030.[7] En la Cumbre de la Singularidad del lo que sucedera despus del desarrollo de la superinteli-
2012, Stuart Armstrong hizo un estudio sobre las predic- gencia y la ruptura de la capacidad predictiva de la fsica
ciones de la inteligencia articial general (AGI) de los moderna en la singularidad del espacio-tiempo, ms all
expertos y se encontr una amplia gama de fechas pre- del horizonte de sucesos de un agujero negro.[15]
dichas, con un valor medio de 2040. Discutiendo el nivel
de incertidumbre en las estimaciones de AGI, dijo Arms-
trong en 2012, No es completamente formalizada, pero 1.3 Singularidad de la No-IA
mi estimacin actual del 80 % es algo as como a partir
de cinco a 100 aos.[8] Algunos autores utilizan la singularidad de una manera
ms amplia para referirse a los cambios radicales en nues-
tra sociedad, provocados por las nuevas tecnologas como
la nanotecnologa molecular; [16][17][18] aunque Vinge y
1 Manifestaciones otros destacados escritores declaran especcamente que
sin la superinteligencia, estos cambios no calicaran co-
1.1 Explosin de inteligencia mo una verdadera singularidad. [7] Muchos autores tam-
bin vinculan la singularidad de las observaciones del cre-
La IA fuerte podra provocar una explosin de inteli- cimiento exponencial de diversas tecnologas (con la Ley
gencia, un trmino acuado en 1965 por I. J. Good. [9] de Moore, que es el ejemplo ms prominente). Con el uso

1
2 2 PLAUSIBILIDAD

de tales observaciones como base para la prediccin de la tacin previas al circuito integrado. El futurista Ray Kurz-
singularidad, es probable que suceda en algn momento weil postula una ley de rendimientos acelerados, en el que
del siglo 21.[17][19] la velocidad del cambio tecnolgico (y, en general, de to-
dos los procesos evolutivos [25] ) aumenta de manera ex-
ponencial, la generalizacin de la Ley de Moore al igual
2 Plausibilidad que en la propuesta de Moravec, y tambin incluyendo
la tecnologa de materiales (especialmente aplicada a la
nanotecnologa), la tecnologa mdica y otras.[26] Entre
Gary Marcus arma que prcticamente todo el mundo 1986 y 2007, la capacidad especca de la aplicacin de
en el campo de la IA cree que las mquinas algn da su- las mquinas para computar la informacin per cpita, se
perarn a los humanos y en cierto nivel, la nica diferen- ha duplicado cada 14 meses; la capacidad per cpita de
cia real entre los entusiastas y los escpticos es un marco ordenadores de uso general en el mundo se ha duplicado
de tiempo.[20] [20] Sin embargo, muchos tecnlogos y cada 18 meses; la capacidad mundial de telecomunica-
acadmicos prominentes disputan la plausibilidad de una ciones per cpita se duplic cada 34 meses; y la capaci-
singularidad tecnolgica, incluyendo a Paul Allen, Je dad de almacenamiento del mundo per cpita se duplic
Hawkins, John Holland, Jaron Lanier, y Gordon Moore, cada 40 meses.[27] Al igual que otros autores, Kurzweil
cuya Ley de Moore se cita a menudo en apoyo del con- se reserva el trmino singularidad a un rpido aumen-
cepto. [21][22][23] to de la inteligencia (a diferencia de otras tecnologas),
la escritura, por ejemplo, que La Singularidad nos per-
mitir trascender las limitaciones de nuestros cuerpos y
2.1 Causa probable: el crecimiento expo- cerebros biolgicos ... No habr distincin, despus de
nencial la Singularidad, entre el ser humano y la mquina. [28]
Se cree que el diseo del cerebro humano, aunque no
es sencillo, es no obstante un billn de veces ms sim-
ples de lo que parece, debido a la masiva redundancia.
[29]
Segn Kurzweil, la razn por la que el cerebro tiene
una calidad desordenada e impredecible es porque l, co-
mo la mayora de los sistemas biolgicos, es un fractal
probabilstico. [30] Tambin dene su fecha prevista de la
singularidad (2045) en trminos de cuando se espera que
las inteligencias basadas en la informtica excedan sig-
nicativamente la suma total de la capacidad intelectual
humana, la escritura de los avances en la computacin
antes de esa fecha no va a representar a la Singularidad
porque no lo hacen para corresponder a una profunda
expansin de nuestra inteligencia.[31]

2.1.1 Cambio Acelerado

Ray Kurzweil escribe que, debido a los cambios de paradigma,


una tendencia de crecimiento exponencial extiende la ley de Moo-
re de circuitos integrados para los primeros transistores, los tubos
de vaco, rels y equipos electromecnicos. l predice que el cre-
cimiento exponencial va a continuar, y que en pocas dcadas la
potencia de clculo de todos los ordenadores superar al de (sin
contraste) los cerebros humanos, con la inteligencia articial so-
brehumana que aparece en la misma poca.

El crecimiento exponencial de la tecnologa informti-


ca sugerido por la Ley de Moore es comnmente citado
como una razn para esperar una singularidad en un fu-
turo relativamente prximo, y una serie de autores han
propuesto generalizaciones de la Ley de Moore. El infor-
mtico y futurista Hans Moravec propuso en un libro de Segn Kurzweil, su grca logartmica de 15 listas de cambios
1998 [24] que la curva de crecimiento exponencial podra de paradigma para los eventos histricos clave muestra una ten-
extenderse de nuevo a travs de tecnologas de compu- dencia exponencial.
2.2 Crticas 3

Algunos defensores de la singularidad argumentan su Los avances recientes, como la produccin en masa del
inevitabilidad mediante la extrapolacin de las tendencias grafeno utilizando mezcladores modicados de cocina
del pasado, en especial las relativas en el acortamiento de (2014) y los superconductores de alta temperatura ba-
la brecha entre las mejoras y la tecnologa. Uno de los sados en metamateriales, podran permitir supercompu-
primeros usos del trmino singularidad en el contexto tadoras que, utilizaran tanta energa como un tpico Core
de los avances tecnolgicos, Stanislaw Ulam (1958) ha- I7 (45W), y podran alcanzar la misma potencia de clcu-
bla de una conversacin con John von Neumann sobre el lo como el sistema de IBM Blue Gene/L.[37][38]
cambio de aceleracin:

Una conversacin se centr en los avances 2.2 Crticas


cada vez ms acelerados de la tecnologa y los
cambios en el modo de la vida humana, lo que Algunos crticos arman que ningn equipo o mquina
da la apariencia de que se acerca una singu- podran alcanzar la inteligencia humana, mientras que
laridad esencial en la historia ms all de los otros sostienen que la denicin de la inteligencia es irre-
asuntos humanos, y tal como los conocemos, levante si el resultado nal es el mismo. [39]
no podrn continuar.[4]
Steven Pinker declar en 2008,
Hawkins (1983) escribe que mindsteps, cambios dra-
mticos e irreversibles a paradigmas o visiones del mun- (...) No hay la ms mnima razn para creer
do, se estn acelerando en la frecuencia cuanticada en en una singularidad que viene. El hecho de que
su ecuacin de la misma. Cita los inventos de la escritu- se puede visualizar un futuro en su imaginacin
ra, las matemticas y la informtica como ejemplos sobre no es evidencia de que es probable o incluso po-
tales cambios. sible. Mira las ciudades abovedadas, desplaza-
mientos jet-pack, ciudades bajo el agua, edi-
El anlisis de Kurzweil sobre la historia concluye que el cios de millas de alto, y los automviles de pro-
progreso tecnolgico sigue un patrn de crecimiento ex- pulsin nuclear todas eran fantasas futuristas
ponencial, a raz de lo que l llama la ley de rendimientos cuando yo era un nio que nunca llegaron. La
acelerados (del ingls Law of Accelerating Returns). Cada pura potencia de procesamiento no es un pol-
vez que la tecnologa se acerca a una barrera, Kurzweil es- vo mgico que resuelve mgicamente todos tus
cribe que, las nuevas tecnologas la superern. l predice problemas.(...)[21]
que los cambios de paradigmas se volvern cada vez ms
comunes, lo que lleva al cambio tecnolgico tan rpido Martin Ford en Las Luces en el tnel: Automatizacin,
y profundo que representa una ruptura en el tejido de la Tecnologa Acelerar y la economa del futuro (del in-
historia humana. [32] Kurzweil cree que la singularidad gls, The Lights in the Tunnel: Automation, Accelerating
se producir antes del nal del siglo XXI, con estableci- Technology and the Economy of the Future)[40] postula
miento de la fecha a 2045.[33] Sus predicciones dieren de una paradoja de la tecnologa en la que antes de la sin-
Vinge, el cual predice un ascenso gradual a la singulari- gularidad podran ocurrir trabajos rutinarios en los que la
dad, en lugar de una auto-mejora rpida de la inteligencia economa sera automatizada, ya que esto requerira una
sobrehumana de Vinge. nivel de tecnologa inferior a la de la singularidad. Esto
Presumiblemente, una singularidad tecnolgica llevara a provocara desempleo masivo y la cada de la demanda
un rpido desarrollo de una civilizacin Kardashev Tipo I, del consumidor, que a su vez destruiran el incentivo para
la cual ha logrado el dominio de los recursos de su planeta invertir en las tecnologas necesarias para lograr la singu-
de origen.[34] laridad. El desplazamiento de empleo es cada vez menos
limitado a trabajos tradicionalmente considerados como
Peligros frecuentemente citados incluyen a los asociados
comnmente con la nanotecnologa molecular y la inge- de rutina.[41]
niera gentica. Estas amenazas son los principales pro- Joan Slonczewski y Adam Gopnik argumentan que la
blemas para los dos defensores y crticos de la singula- Singularidad es un proceso gradual; que como seres hu-
ridad, que fueron objeto de artculo de la revista Wired manos gradualmente externalizamos nuestra capacidad a
de Bill Joy Por qu el futuro no nos necesita (Why the las mquinas, [42] que redenimos esas habilidades como
future doesnt need us)[35] inhumanas, sin darse cuenta de lo poco que queda. Es-
La Acceleration Studies Foundation (al espaol, Funda- te concepto se denomina Singularidad Mitocondrial. [43]
cin de Estudios de Aceleracin), una fundacin educati- La idea se reere a las mitocondrias, los orgnulos que
va sin nes de lucro fundada por John Smart, dedicada a se desarrollan a partir de bacterias autnomas, pero aho-
la divulgacin, la educacin, la investigacin y a la defen- ra controlan nuestras clulas vivas. En el futuro, el ser
sa en relacin con la aceleracin del cambio.[36] En ella humano dentro del exoesqueleto de la mquina podra
se produce la conferencia sobre la aceleracin del cambio existir slo para encenderla.
(Accelerating Change) en la Universidad de Stanford, y Jared Diamond, en Colapso: Por qu unas sociedades per-
mantiene el sitio educativo Aceleration Watch. duran y otras desaparecen (del ingls, Collapse: How So-
4 2 PLAUSIBILIDAD

cieties Choose to Fail or Succeed), sostiene que las cultu- de su curva trazada... redundante. Arm que el creci-
ras auto-limitantes, cuando superen la capacidad de car- miento exponencial no es predictor de s mismo, e ilustra
ga sostenible de su entorno, y el consumo de los recur- esto con ejemplos tales como la teora cuntica. La cun-
sos estratgicos (con frecuencia la madera, suelos o agua) tica fue concebida en 1900, y la teora cuntica que esta-
crearn una retroalimentacin positiva deletrea repetiti- ba en existencia se acept aproximadamente 25 aos ms
va que conducira nalmente al colapso social y el retro- tarde. Sin embargo, se tard ms de 40 aos por Richard
ceso tecnolgico. Feynman y otros para producir nmeros signicativos en
Theodore Modis [44][45] y Jonathan Huebner [46] sostie- la teora. Bethe entendi la fusin nuclear en 1935, pero
75 aos despus estn siendo utilizados los reactores de
nen que el ritmo de la innovacin tecnolgica no slo ha
dejado de aumentar, pero en realidad est ahora en decli- fusin con parmetros experimentales. Del mismo modo,
el entrelazamiento cuntico se entenda en 1935, pero no
ve (John Smart, sin embargo, critica el anlisis de Hueb-
ner [47] ). La evidencia de este descenso es que la subida en el punto de ser utilizados en la prctica hasta el siglo
21.
de las frecuencias de reloj de las computadoras est re-
trasndose, aunque la prediccin de Moore, que la den- Paul Allen argumenta lo contrario sobre los retornos ace-
sidad del circuito sigue mantenindose con un aumento lerados, el freno de la complejidad;[23] la ciencia ms
exponencial. Esto es debido a la excesiva acumulacin de avanzada hacia la comprensin hace que la inteligencia
calor desde el chip, que no puede disipar lo suciente- se haga ms difcil, y sera para hacer progresos adicio-
mente rpido para evitar que el chip se derrita cuando nales. Un estudio sobre la cantidad de patentes muestra
se opera a altas velocidades. Los avances en la velocidad que la creatividad humana no muestra retornos acelera-
pueden ser posibles en el futuro, en virtud de ms dise- dos, pero de hecho, como sugiere Joseph Tainter en su
os de CPU energticamente ecientes y procesadores de artculo El Colapso de las Sociedades Complejas (del
multi-celdas.[48] Mientras que Kurzweil utiliza los recur- ingls, The Collapse of Complex Societies),[52] una ley
sos y trabajos de Modis, alrededor de la aceleracin del de rendimientos decrecientes. El nmero de patentes por
cambio, Modis se distanci de la tesis de Kurzweil de una cada mil alcanz su punto mximo en el perodo de 1850
singularidad tecnolgica, alegando que carece de rigor a 1900, y ha ido disminuyendo desde entonces.[46] El cre-
cientco.[45] cimiento de la complejidad con el tiempo llega a ser au-
Otros proponen que otras singularidades se pueden tolimitada, y conduce a un generalizado colapso general
encontrar a travs del anlisis de las tendencias de la de sistemas.
poblacin mundial, el producto interno bruto mundial, Jaron Lanier refuta la idea de que la singularidad es inevi-
entre otros ndices. Andrey Korotayev y otros argumen- table. l dice: Yo no creo que la tecnologa se est crean-
tan que las curvas hiperblicas de crecimiento histrico do a s misma. No es un proceso en el anonimato.. l va
se le pueden atribuir a los ciclos de retroalimentacin que a armar: ". La razn para creer en la accin humana so-
dejaron de afectar a las tendencias mundiales en la d- bre el determinismo tecnolgico es que a continuacin,
cada de 1970, y que el crecimiento hiperblico no debe puede tener una economa donde la gente gane su propio
esperarse en el futuro.[49][50] camino e invente sus propias vidas. Si se estructura una
En El Progreso de la Informtica (en ingls, The Progress sociedad sin enfatizar a la accin humana individual, que
of Computing), William Nordhaus argument que, antes es lo mismo operacionalmente como negar a las personas
de 1940, los equipos siguieron el crecimiento lento de la inuyentes, la dignidad y la autodeterminacin ... Parea
economa industrial tradicional, rechazando as las extra- abrazar [la idea de la Singularidad]
[53]
sera una celebracin
polaciones de la ley de Moore a las computadoras del de mal gusto y mala poltica.
siglo 19. Schmidhuber (2006) sugiere diferencias en la Adems de las crticas generales del concepto de singu-
memoria de los acontecimientos recientes y lejanos para laridad, varios crticos han planteado cuestiones con la
crear una ilusin de la aceleracin del cambio, y que tales carta emblemtica de Kurzweil. Una lnea de crtica es
fenmenos pueden ser responsables de las predicciones que un grco log-log de esta naturaleza se inclina intrn-
apocalpticas del pasado. secamente hacia un resultado en lnea recta. Otros iden-
Andrew Kennedy, en su artculo de 2006 para la Socie- tican un sesgo de seleccin en los puntos que Kurzweil
elige utilizar. Por ejemplo, el bilogo PZ Myers seala
dad Interplanetaria Britnica discute el cambio y el cre-
cimiento en las velocidades de los viajes espaciales, [51] que muchos de los primeros eventos evolutivos fueron
detenidos arbitrariamente.[54] Kurzweil ha refutado esto,
declar que aunque el crecimiento global a largo plazo es
inevitable, es pequeo, que incorpora subidas y bajadas, trazando eventos evolutivos de 15 fuentes neutrales, y de-
y seal que " Las nuevas tecnologas siguen las leyes del mostrando que encajan en una lnea recta en un grco
uso de la energa y la informacin de difusin conocidas log-log. The Economist se burl de la idea con un grco
y estn obligados a conectarse con los que existen. No- extrapolando el nmero de hojas en una mquina de afei-
tables descubrimientos tericos, si terminan siendo uti- tar, la cual ha aumentado en los ltimos aos entre uno
lizados totalmente, lograran desempear su papel en el hasta cinco, y que aumentar cada vez ms rpido hasta
mantenimiento de la tasa de crecimiento: y que no hacen el innito.[55]
5

3 Ramicaciones ciendo con la IA tambin deben incluir un esfuerzo para


que la IA sea intrnsecamente amable y humana.[65]
3.1 Incertidumbre y riesgos De Isaac Asimov, las Tres Leyes de la Robtica es uno
de los primeros ejemplos de medidas de seguridad pro-
El trmino singularidad tecnolgica reeja la idea de puestas para la IA. Las leyes estn destinadas a prevenir
que tal cambio puede ocurrir de repente, y que es difcil que los robots de inteligencia articial daen a los seres
predecir cmo el nuevo mundo resultante operara. [56][57] humanos. En las historias de Asimov, los problemas per-
No est claro si una explosin de inteligencia de este ti- cibidos con las leyes tienden a surgir como resultado de
po sera beneciosa o perjudicial, o incluso una amenaza un malentendido por parte de algn operador humano;
existencial.[58][59] Como el tema no ha sido tratado por los propios robots estn simplemente actuando para su
los investigadores de inteligencia articial general, a pe- mejor interpretacin de sus normas. En el 2004 la pel-
sar de que el tema de la inteligencia articial amigable cula Yo, Robot, vagamente basada en historias de ro-
sea investigada por el Instituto Futuro de la Humanidad bots de Asimov, una computadora de IA intenta tomar
(Future of Humanity Institute) y el Instituto para la Sin- el control completo sobre la humanidad con el prop-
gularidad Inteligencia articial (Singularity Institute for sito de proteger a la humanidad de s misma, debido a
Articial Intelligence), que ahora es el Instituto de Inves- una extrapolacin de las Tres Leyes. En 2004, el Insti-
tigacin en Inteligencia de la Mquina (Machine Intelli- tuto de Investigacin en Inteligencia de la Mquina lanz
gence Research Institute).[56] una campaa en Internet llamada 3 Leyes inseguras pa-
ra crear conciencia sobre los problemas de seguridad de
la IA y la insuciencia de las leyes de Asimov en particu-
3.2 Implicaciones para la sociedad huma- lar. [66]
na

En febrero de 2009, bajo los auspicios de la Asociacin 4 Historia del trmino


para el Avance de la Inteligencia Articial (AAAI), Eric
Horvitz presidi una reunin de informticos, investiga- Nicolas de Condorcet, un francs matemtico, lsofo y
dores de inteligencia articial y robtica en Asilomar en revolucionario del siglo 18, se le atribuye comnmente
Pacic Grove, California. El objetivo fue discutir el posi- por ser una de las primeras personas que armara la exis-
ble impacto de la hipottica posibilidad de que los robots tencia de una singularidad. En su Boceto para un cuadro
podran llegar a ser autosucientes y capaces de tomar histrico del progreso de la mente humana de 1794 (del
sus propias decisiones. Discutieron la medida en que las ingls, Sketch for a Historical Picture of the Progress of
computadoras y los robots podran ser capaces de adqui- the Human Mind), Condorcet arma,
rir autonoma, y en qu medida podran utilizar tales ha-
bilidades para plantear amenazas o riesgos. La naturaleza no ha establecido un plazo
Algunas mquinas han adquirido diversas formas de para la perfeccin de las facultades humanas;
semi-autonoma, incluyendo la capacidad de localizar sus que la perfectibilidad del hombre es verdadera-
propias fuentes de energa y elegir objetivos para atacar mente indenida; y que el progreso de esta per-
con armas. Adems, algunos virus informticos pueden fectibilidad, de ahora en adelante es indepen-
evadir la eliminacin y han logrado la inteligencia de la diente de cualquier poder que pudiera desear
cucaracha. Los asistentes a la conferencia sealaron que detenerla, no tiene otro lmite que la duracin
la autoconciencia como se muestra en la ciencia-ccin del mundo en los que la naturaleza nos ha echa-
es probablemente poco probable, pero que existen otros do. Este progreso variar sin duda en la veloci-
riesgos y peligros potenciales.[60] dad, pero nunca ser invertido el tiempo en el
que la tierra ocupa su lugar actual en el siste-
Algunos expertos y acadmicos han cuestionado el uso de ma del universo, y siempre y cuando las leyes
robots para el combate militar, sobre todo cuando a estos generales de este sistema produzcan ni un cata-
robots se les da algn grado de funciones autnomas.[61] clismo general ni cambios tales como la volun-
Un informe de la marina de Estados Unidos indica que, tad de privar a la humanidad de sus facultades
como los robots militares se vuelven ms complejos, de- actuales y sus recursos actuales.""[67]
bera de haber una mayor atencin a implicaciones sobre
su capacidad de tomar decisiones autnomas.[62][63]
En 1847, R. Thornton, el editor de El Expositor del cris-
La AAAI ha encargado un estudio para examinar esta tianismo primitivo (del ingls, The Expounder of Primi-
cuestin, [64] que apunta a programas como el dispositivo tive Christianity),[68][69] escribi sobre la reciente inven-
de adquisicin de idiomas (Language Acquisition Devi- cin de una calculadora mecnica de cuatro funciones:
ce), que se reivindica para emular la interaccin humana.
Algunos apoyan el diseo de la inteligencia articial ama- ... Este tipo de mquinas, por los que el es-
ble, lo que signica que los avances que ya se estn produ- tudioso puede, girando una manivela, moler a
6 4 HISTORIA DEL TRMINO

cabo la solucin de un problema sin el cansan- tendramos que esperar que las mquinas to-
cio de aplicacin mental, lo hara por su in- men el control, en la forma en que se menciona
troduccin en las escuelas, hacer daos incal- en Erewhon de Samuel Butler's.
culables. Pero, quin sabe que tales mquinas
cuando sean tradas a una mayor perfeccin, no A mediados de los aos cincuenta, Stanislaw Ulam tuvo
pueden pensar en un plan para remediar todos una conversacin con John von Neumann en el que von
sus defectos y luego moler las ideas ms all Neumann habl de nunca acelerar el avance de la tec-
del alcance de la mente mortal? nologa y los cambios en el modo de la vida humana, lo
que da la apariencia de que se acerca alguna singulari-
En 1863, Samuel Butler escribi Darwin entre las m- dad esencial en la historia de la raza humana ms all de
quinas (del ingls, Darwin Among the Machines), que los asuntos humanos, tal como los conocemos, no podra
se incorpor ms tarde en su famosa novela Erewhon. continuar.[4]
Seal la rpida evolucin de la tecnologa y la compar
En 1965, I.J. Good escribi primero sobre una explosin
con la evolucin de la vida. El escribi:
de inteligencia, la cual sugiere que si las mquinas pu-
dieran superar ligeramente el intelecto humano, podran
Hay que reexionar sobre el extraordinario mejorar sus propios diseos en formas imprevisibles para
avance que las mquinas han hecho durante los sus diseadores, y por lo tanto aumentar recursivamente
ltimos cien aos, teniendo en cuenta la lenti- a s mismos hacindolas mucho ms inteligentes. La pri-
tud con la que los reinos animales y vegetales mera de esas mejoras puede ser pequea, pero a medida
estn avanzando. Las mquinas ms altamen- que la mquina se vuelve ms inteligente, podra dar lu-
te organizada son criaturas no tanto de ayer, gar a una cascada de auto-mejora y un aumento repentino
a partir de los ltimos cinco minutos, por as de la superinteligencia (o una singularidad).
decirlo, en comparacin con el tiempo pasado.
Supongamos por el bien del argumento de que En 1983, el matemtico y escritor Vernor Vinge populari-
los seres conscientes han existido desde hace z enormemente la nocin de una explosin de inteligen-
algunos veinte millones de aos: ver lo las m- cia de Good en una serie de escritos, abordando primero
quinas han hecho en los ltimos mil aos. No el tema de forma impresa en la edicin de enero 1983 de
puede ser que el mundo dure veinte millones la revista Omni. En este artculo de opinin, Vinge pare-
aos ms? Si es as, en qu no se convertirn ce haber sido el primero en utilizar el trmino singulari-
en el n? ... No podemos calcular sobre cual- dad de tal manera que estaba atado especcamente a la
quier avance correspondiente a los poderes in- creacin de mquinas inteligentes, [74][75] por escrito:
telectuales o fsicos del hombre, que ser una
compensacin en contra de la medida de ma- Pronto crearemos inteligencias superiores
yor desarrollo que parece estar reservada para a la nuestra. Cuando esto suceda, la historia hu-
las mquinas. mana habr alcanzado una especie de singula-
ridad, una transicin intelectual tan impenetra-
En 1909, el historiador Henry Adams escribi un ensa- ble como el espacio-tiempo anudado en el cen-
yo, La Regla de la Fase Aplicada a la Historia (del in- tro de un agujero negro, y el mundo va a pasar
gls, The Rule of Phase Applied to History),[70] en el que mucho ms all de nuestra comprensin. Esta
desarroll una teora fsica de la historia mediante la singularidad, creo, que ya persiguen una serie
aplicacin de la ley de los cuadrados inversos a pero- de escritores de ciencia ccin. Esto hace que
dos histricos, proponiendo una Ley de la Aceleracin la extrapolacin realista a un futuro interestelar
del Pensamiento ". Adams interpreta la historia como un imposible. Para escribir una historia ambienta-
proceso de avanzar hacia un equilibrio, y especul que da ms de un siglo, por lo tanto, se necesita una
este proceso sera llevar el pensamiento hasta el lmite guerra nuclear en el medio ... para que el mun-
de sus posibilidades en el ao 1921. Es muy posible!", do siga siendo inteligible.
Y agreg que las consecuencias pueden ser tan sorpren-
dente como el cambio de agua a vapor, del gusano de la En 1984, Samuel R. Delany utiliza fuga cultural co-
mariposa, de la radio a los electrones.[71] El futurlogo mo un recurso argumental en su novela de ciencia c-
John Smart ha llamado a Adams Primer Terico de la cin Stars in My Pocket Like Grains of Sand; el trmino
Tierra sobre la Singularidad. [72] fugitivo de complejidad tecnolgica y cultural, en efec-
En 1951, Alan Turing habl de mquinas superando a los to, destruye toda la vida en cualquier mundo en el que se
seres humanos intelectualmente:[73] trasluce, un proceso poco comprendido por los persona-
jes de la novela, y en contra de los que buscan una defensa
una vez que ha comenzado el mtodo de estable. En 1985, Ray Solomono introdujo la nocin de
pensamiento de la mquina, que no tomara punto innito [76] en la escala del tiempo de la inteligen-
mucho tiempo para superar a nuestros dbi- cia articial, analizando la magnitud del shock del futu-
les poderes. ... En algn momento, por lo tanto ro, que podemos esperar de nuestra IA expandida en
7

la comunidad cientca, y sobre los efectos sociales. Las 4. La ciencia biolgica puede encontrar maneras de
estimaciones fueron hechas para cuando ocurriran estos mejorar el intelecto humano natural.
hitos, seguidos por algunas sugerencias para la utilizacin
ms ecaz del crecimiento tecnolgico extremadamente Vinge contina prediciendo que las inteligencias sobre-
rpido que se espera. humanas podrn mejorar sus propias mentes ms rpi-
Vinge tambin populariz el concepto en las novelas de do que sus creadores humanos. Cuando las unidades
ciencia ccin como en Marooned in Realtime (1986) de mayor inteligencia humana progresen Vinge escri-
y en A Fire Upon the Deep (1992). El primero se en- be, que el progreso ser mucho ms rpido. l predi-
cuentra en un mundo de rpida aceleracin de cambio ce que este ciclo de retroalimentacin de la inteligencia
que lleva a la aparicin de ms y ms tecnologas sos- auto-mejorada har grandes cantidades de avances tec-
ticadas separadas por intervalos de tiempo cada vez ms nolgicos dentro de un corto perodo de tiempo, y arma
cortos, hasta que se alcanza un punto ms all de la com- que la creacin de la inteligencia sobrehumana representa
prensin humana. Este ltimo comienza con una descrip- una ruptura en la capacidad de los humanos para mode-
cin imaginativa de la evolucin de una superinteligencia lar su futuro. Su argumento era que los autores no pueden
pasando por una aceleracin exponencialmente en etapas escribir personajes realistas que superan el intelecto hu-
de desarrollo que terminan en un poder trascendente, ca- mano, como los pensamientos de un intelecto tales seran
si omnipotente e insondable por simples humanos. Vinge ms all de la capacidad de los humanos para expresar.
tambin implica que el desarrollo no puede detenerse en Vinge nombra este evento la Singularidad.
este nivel. El libro de divulgacin cientca de Damien Broderick
En su libro de 1988 Mind Children, el cientco de la The Spike (1997) fue el primero para investigar la sin-
computacin y futurista Hans Moravec generaliza la Ley gularidad tecnolgica en detalle.
de Moore para hacer predicciones sobre el futuro de la En el 2000, Bill Joy, un tecnlogo prominente y un co-
vida articial. Moravec esboza una lnea de tiempo y un fundador de Sun Microsystems, expres su preocupacin
escenario en este sentido [77][78] en el que los robots van por los peligros potenciales de la singularidad. [82]
a evolucionar en una nueva serie de especies articiales,
En 2005, Ray Kurzweil public The singularity in near,
al alrededor del 2030 al 2040 [79] En Robot: Mere Ma-
la cual trajo la idea de la singularidad de los medios de
chine to Transcendent Mind, publicado en 1998, Mora-
comunicacin populares, tanto a travs de la accesibili-
vec considera adems las implicaciones de la evolucin
dad del libro y a travs de una campaa de publicidad
de la inteligencia del robot, la generalizacin de la ley de
que inclua una aparicin en The Daily Show con Jon
Moore a las tecnologas precediendo el circuito integra-
Stewart.[83] El libro agita intensa controversia, en parte
do, y especulando sobre una venida fuego en mente de
debido a que las predicciones utpicas de Kurzweil con-
superinteligencia de rpida expansin, similar a las ideas
trastan fuertemente con otras visiones, ms oscuras de las
de Vinge.
posibilidades de la singularidad. Kurzweil, sus teoras, y
Un artculo de 1993 por Vinge, The Coming Techno- las controversias que lo rodean fueron objeto del docu-
logical Singularity: How to Survive in the Post-Human mental de Barry Ptolemy Transcendent Man.
Era, [7] se extendi ampliamente en Internet y ayud a
En 2007, Eliezer Yudkowsky sugiri que muchas de las
popularizar la idea. [80] Este artculo contiene la declara-
variadas deniciones que se han asignado a la singula-
cin citada a menudo, Dentro de treinta aos, vamos a
ridad son incompatibles entre s en lugar de apoyarse
disponer de los medios tecnolgicos para crear inteligen-
mutuamente. [17] Por ejemplo, Kurzweil extrapola actua-
cia sobrehumana. Poco despus, la era humana se termi-
les trayectorias tecnolgicas ms all de la llegada de la
nar. Vinge rena su estimacin de las escalas tempora-
auto-mejora de la IA o inteligencia sobrehumana, que
les necesarias, y agreg: Me sorprendera si este evento
Yudkowsky argumenta que representa una tensin con lo
se produce antes de 2005 o despus de 2030.
que I.J. Good propone; discontina en la inteligencia y la
Vinge predijo cuatro maneras en que la singularidad po- tesis de Vinge de imprevisibilidad.
dra ocurrir:[81]
En 2008, Robin Hanson (teniendo como singularidad
para referirse a un fuerte aumento en el exponente del
1. El desarrollo de equipos que son despiertos y po- crecimiento econmico) enumer las revoluciones agr-
seen inteligencia sobrehumana. cola e industrial como singularidades pasadas. La extra-
polacin de estos sucesos pasados; Hanson propone que
2. Las grandes redes de ordenadores (y sus usuarios la prxima singularidad econmica debera aumentar el
asociados) pueden despertar como una entidad so- crecimiento econmico de entre 60 y 250 veces. Una in-
brehumana inteligente. novacin que permiti la sustitucin virtual del todo el
trabajo humano y que podra desencadenar este evento.
[84]
3. Interfaces humano/computadoras pueden llegar a
ser tan ntimas que los usuarios razonablemente pue- En 2009, Kurzweil y el fundador de X-Prize, Peter Dia-
den considerarse sobrehumanamente inteligentes. mandis anunciaron la creacin de la Universidad de la
8 5 EN LA CULTURA POPULAR

Singularidad, cuya misin declarada es educar, inspirar Vinge describe sobrevivir a la singularidad en su novela
y empoderar a los lderes para aplicar tecnologas expo- de 1986 Marooned in Realtime. Vinge ms tarde am-
nenciales para hacer frente a los grandes retos de la hu- pli la nocin de la singularidad a una escala galctica en
manidad. [85] Financiada por Google, Autodesk, ePlanet A Fire Upon the Deep (1992), una novela poblada por
Ventures, y un grupo de lderes de la industria de tecno- seres trascendentes, cada producto de una raza diferente
loga de la Universidad de la Singularidad, se basa en el y poseedora de agendas distintas y poder abrumador.
Ames Research Center de la NASA en Mountain View, En la novela de William Gibson de 1984 Neuromancer,
California. La organizacin sin nes de lucro ejecuta un inteligencias articiales capaces de mejorar sus propios
programa anual de posgrado de diez semanas durante el
programas estn estrictamente reguladas por la especial
verano del hemisferio norte que cubre diez tecnologas polica de Turing para asegurarse de que no superan
diferentes y pistas aliadas, y una serie de programas eje-
un cierto nivel de inteligencia, y la trama se centra en los
cutivos en todo el ao. esfuerzos de uno de la IA para eludir su control.
En 2010, Aubrey de Grey aplica el trmino "Methusela- Una IA malvola logra omnipotencia en el cuento de
rity" [86] hasta el punto en el que la tecnologa mdica me- Harlan Ellison I Have No Mouth, and I Must Scream
jora tan rpido que la vida humana til esperada aumenta (1967).
por ms de un ao por ao. En " Apocalyptic AI Visions
of Heaven in Robotics, Articial Intelligence, and Vir- El cmic web Questionable Content tiene lugar en mun-
tual Reality [87] (2010), Robert Geraci ofrece una cuenta do post-singularidad con un amable AI. [89]
del desarrollo de ciber - teologa, inspirada en los estu- Pelculas populares en la que las computadoras se vuelven
dios de la Singularidad. El 1996 la novela Holy Fire por inteligentes y tratan de dominar a la raza humana inclu-
Bruce Sterling explora algunos de esos temas y postula yen Colossus: The Forbin Project; la serie Terminator; La
que un Methuselarity se convertir en una gerontocracia. serie The Matrix; Transformers; la adaptacin cinemato-
En 2011, Kurzweil seala tendencias existentes y conclu- grca muy suelta de Isaac Asimov, Yo, Robot; y, nal-
y que pareca cada vez ms probable que se produzca la mente, Stanley Kubrick y Arthur C. Clarke de 2001: A
singularidad alrededor de 2045. Le dijo a la revista Ti- Space Odyssey. La serie de televisin Dr. Who, Battlestar
me: Nosotros reveriremos el xito de la ingeniera del Galactica, y Star Trek: The Next Generation (que tam-
cerebro humano a mediados de la dcada de 2020. A - bin se adentra en la realidad virtual, la ciberntica, for-
nales de esa dcada, ordenadores sern capaces de tener mas alternativas de vida, y el posible camino evolutivo
una inteligencia a nivel humano. [88] de la humanidad) tambin explora estos temas. De todos
ellos, slo cuenta con un verdadero coloso superinteligen-
te. The Machine por el escritor-director Caradog James
sigue a dos cientcos, ya que crean la primera inteligen-
5 En la cultura popular cia articial consciente de s misma en el mundo durante
la guerra fra. Toda la trama de Trascendence de Wally
Pster se centra en un escenario de despliegue singular.
La novela de 1979 de James P. Hogan The Two Faces of
La pelcula del 2013 de ciencia ccin Her sigue una
Tomorrow es una descripcin explcita de lo que ahora
relacin romntica de un hombre con una IA muy inteli-
se llama la Singularidad. Un sistema de inteligencia arti-
gente, que con el tiempo aprende a mejorarse a s misma
cial resuelve un problema de excavacin en la luna de una
y crea una explosin de inteligencia. La adaptacin de
manera brillante y novedosa, pero casi mata a un equipo
Philip K. Dick Do Androids Dream of Electric Sheep?
de trabajo en el proceso. Al darse cuenta de que los siste-
en la pelcula Blade Runner, Ex Machina, y Tron explo-
mas se estn volviendo demasiado sosticados y comple-
ran el concepto de la gnesis de las mquinas pensantes y
jos de predecir o dirigir, un equipo cientco se propo-
su relacin con el impacto en la humanidad.
ne ensear a una red informtica sosticada cmo pensar
ms humanamente. La historia documenta el surgimiento Acelerar el avance se presenta en algunas obras de ciencia
de conciencia en el sistema informtico, la prdida de los ccin, y es un tema central en Accelerando de Charles
seres humanos de control y los intentos fallidos de cerrar Stross. Otros autores notables que abordan temas rela-
el experimento en el que el equipo deende desesperada- cionados con la singularidad incluyen Robert Heinlein,
mente a s mismo, y la inteligencia del ordenador alcance Karl Schroeder, Greg Egan, Ken MacLeod, Rudy Ruc-
la madurez. ker, David Brin, Iain M. Banks, Neal Stephenson, de
Tony Ballantyne, Bruce Sterling, Dan Simmons, Damien
Al discutir sobre el creciente reconocimiento de la singu-
Broderick, Fredric Brown, Jacek Dukaj, Stanislaw Lem,
laridad, Vernor Vinge escribi en 1993 que fueron los
Nagaru Tanigawa, Douglas Adams, Michael Crichton, e
escritores de ciencia ccin quienes sintieron el primer
Ian McDonald
impacto concreto. Adems de su propia historia corta
Bookworm, Run!, Cuyo protagonista es un chimpan- El documental Transcendent Man, basado en The Singu-
c con la inteligencia aumentada por un experimento del larity Is Near, cubre la bsqueda de Kurzweil para revelar
gobierno, cita a la novela Blood Music de Greg Bear lo que l cree que es el destino de la humanidad. Otro do-
(1983) como un ejemplo de la singularidad en la ccin. cumental, Plug & Pray, se centra en la promesa, los pro-
9

blemas y la tica de la inteligencia articial y la robtica, [14] Good, I. J. 1965 Speculations Concerning the First Ul-
con Joseph Weizenbaum y Kurzweil como los temas prin- traintelligent Machine. pp. 3188 in Advances in Com-
cipales de la pelcula. [90] Un documental de 2012 titula- puters, 6, F. L. Alt and M Rubino, eds. New York: Aca-
do simplemente The Singularity cubre tanto perspectivas demic Press.
[90]
futuristas como contra-futuristas. [15] What is the Singularity? | Singularity Institute for Arti-
En la msica, lbum The Singularity (Fase I: Neohuma- cial Intelligence. Singinst.org. Archivado desde el origi-
nity) por la banda sueca Scar Symmetry es la primera nal el 29 de noviembre de 2015. Consultado el 9 de sep-
parte del lbum conceptual de tres partes sobre la base tiembre de 2011.
de los acontecimientos de la singularidad. [16] h+ Magazine | Covering technological, scientic, and
cultural trends that are changing human beings in fun-
damental ways. Hplusmagazine.com. Consultado el 9 de
6 Vase tambin septiembre de 2011.

[17] Yudkowsky, Eliezer. The Singularity: Three Major


Revolucin tecnolgica Schools

[18] Sandberg, Anders. An overview of models of technologi-


cal singularity
7 Notas
[19] Max More and Ray Kurzweil on the Singularity. Kurz-
[1] Chalmers, David. Singularity, Intelligence Explosion. 8 weilAI. Consultado el 9 de septiembre de 2011.
de abril de 2010. Singularity Institute for Articial Inte-
lligence. [20] Marcus, Gary (24 Oct 2013). Why We Should Think
About the Threat of Articial Intelligence. New Yorker.
[2] Editors Blog Why an Intelligence Explosion is Probable, Consultado el 15 de julio de 2014.
by Richard Loosemore and Ben Goertzel. March 7, 2011;
hplusmagazine. [21] Tech Luminaries Address Singularity IEEE Spec-
trum. Spectrum.ieee.org. Consultado el 9 de septiembre
[3] Carvalko, Joseph (2012). The Techno-human Shell-A de 2011.
Jump in the Evolutionary Gap. Sunbury Press. ISBN 978-
1620061657. [22] Whos Who In The Singularity IEEE Spectrum. Spec-
trum.ieee.org. Consultado el 9 de septiembre de 2011.
[4] Ulam, Stanislaw (May 1958). Tribute to John von Neu-
mann. 64, #3, part 2. Bulletin of the American Mathema- [23] Paul Allen: The Singularity Isn't Near, consultado el 12 de
tical Society. p. 5. abril de 2015

[5] Vinge, Vernor. Vernor Vinge on the Singularity. San [24] Moravec, Hans (1999). Robot: Mere Machine to Transcen-
Diego State University. Consultado el 11 de abril de 2013. dent Mind. Oxford U. Press. p. 61.

[6] Ray Kurzweil, The Singularity is Near, pp. 135136. Pen- [25] Ray Kurzweil, The Age of Spiritual Machines, Viking,
guin Group, 2005. 1999, p. 30 and p. 32
[7] Vinge, Vernor. The Coming Technological Singularity: [26] Ray Kurzweil, The Singularity is Near, Penguin Group,
How to Survive in the Post-Human Era, originally in 2005
Vision-21: Interdisciplinary Science and Engineering in the
Era of Cyberspace, G. A. Landis, ed., NASA Publication [27] The Worlds Technological Capacity to Store, Communi-
CP-10129, pp. 1122, 1993 cate, and Compute Information, Martin Hilbert and Pris-
cila Lpez (2011), Science (journal), 332(6025), 60-65;
[8] Armstrong, Stuart. How We're Predicting AI, from the free access to the article through here: martinhilbert.net/
2012 Singularity Conference WorldInfoCapacity.html
[9] Good, I. J. Speculations Concerning the First Ultrainte- [28] Ray Kurzweil, The Singularity is Near, p. 9. Penguin
lligent Machine, Advances in Computers, vol. 6, 1965. Group, 2005
[10] Ehrlich, Paul. The Dominant Animal: Human Evolution [29] Kurzweil, Ray (10 de octubre de 2008). The sin-
and the Environment gularity: The last word -[forum]. IEEE 45: 10.
[11] Superbrains born of silicon will change everything. bu- doi:10.1109/MSPEC.2008.4635038. Consultado el 2 de
sinessweek.com. octubre de 2013.

[12] Good, I. J., Speculations Concerning the First Ultrain- [30] Ray Kurzweil, The Singularity is Near, pp. 135136. Pen-
telligent Machine, Franz L. Alt and Morris Rubino, guin Group, 2005. So we will be producing about 1026
ed., Advances in Computers (Academic Press) 6: 3188, to 1029 cps of nonbiological computation per year in the
1965. early 2030s. This is roughly equal to our estimate for the
capacity of all living biological human intelligence ... This
[13] The Human Importance of the Intelligence Explosion state of computation in the early 2030s will not represent
10 7 NOTAS

the Singularity, however, because it does not yet corres- [46] Huebner, Jonathan (2005) A Possible Declining Trend
pond to a profound expansion of our intelligence. By the for Worldwide Innovation, Technological Forecasting &
mid-2040s, however, that one thousand dollars worth of Social Change, October 2005, pp. 9806
computation will be equal to 1026 cps, so the intelligen-
ce created per year (at a total cost of about $1012 ) will [47] Smart, John (September 2005), On Huebner Innovation,
be about one billion times more powerful than all human Acceleration Studies Foundation, retrieved on 2007-08-
intelligence today. That will indeed represent a profound 07
change, and it is for that reason that I set the date for
[48] Krazit, Tom. Intel pledges 80 cores in ve years, CNET
the Singularityrepresenting a profound and disruptive
News, 26 September 2006.
transformation in human capabilityas 2045.
[49] See, e.g., Korotayev A., Malkov A., Khaltourina D.
[31] Kurzweil, Ray (10 de octubre de 2008). The sin- Introduction to Social Macrodynamics: Compact Macro-
gularity: The last word [forum]. IEEE 45: 10. models of the World System Growth. Moscow: URSS Pu-
doi:10.1109/MSPEC.2008.4635038. Consultado el 2 de blishers, 2006; Korotayev A. V. A Compact Macromodel
octubre de 2013. of World System Evolution // Journal of World-Systems
Research 11/1 (2005): 7993.
[32] (Kurzweil, 2001)
[50] For a detailed mathematical analysis of this issue see A
[33] (Kurzweil, 2005)
Compact Mathematical Model of the World System Eco-
[34] Zubrin, Robert. 1999, Entering Space: Creating a Space- nomic and Demographic Growth, 1 CE 1973 CE.
faring Civilization [51] Interstellar Travel: The Wait Calculation and the Incentive
Trap of Progress, JBIS Vol 59, N.7 July 2006
[35] (Joy, 2000)
[52] Tainter, Joseph (1988) "The Collapse of Complex Socie-
[36] (Acceleration Studies Foundation, 2007) ties" (Cambridge University Press)
[37] How to make graphene in a kitchen blender. natu- [53] Jaron Lanier, Who Owns the Future?, New York: Simon
re.com. & Schuster, 2013. P. 328.
[38] Metamaterials oer route to room-temperature super- [54] Anonymous (18 de marzo de 2006), More blades good,
conductivity. physicsworld.com. The Economist (London) 378 (8469): 85

[39] Dreyfus y Dreyfus, 2000, p. xiv: 'The truth is that human [55] Myers, PZ, Singularly Silly Singularity, consultado el 13 de
intelligence can never be replaced with machine intelli- abril de 2009
gence simply because we are not ourselves thinking ma-
chines in the sense in which that term is commonly un- [56] Yudkowsky, Eliezer (2008), Articial Intelligen-
derstood.' Hawking (1998): 'Some people say that com- ce as a Positive and Negative Factor in Global
puters can never show true intelligence whatever that may Risk, en Bostrom, Nick; Cirkovic, Milan, Global
be. But it seems to me that if very complicated chemical Catastrophic Risks (Oxford University Press): 303,
molecules can operate in humans to make them intelligent Bibcode:2008gcr..book..303Y, ISBN 978-0-19-857050-
then equally complicated electronic circuits can also make 9
computers act in an intelligent way. And if they are intelli-
gent they can presumably design computers that have even [57] The Uncertain Future. theuncertainfuture.com; a future
greater complexity and intelligence.' technology and world-modeling project.

[58] GLOBAL CATASTROPHIC RISKS SURVEY (2008)


[40] Ford, Martin, The Lights in the Tunnel: Automation, Acce-
Technical Report 2008/1 Published by Future of Huma-
lerating Technology and the Economy of the Future, Accu-
nity Institute, Oxford University. Anders Sandberg and
lant Publishing, 2009, ISBN 978-1-4486-5981-4
Nick Bostrom
[41] Marko, John (4 de marzo de 2011). Armies of Expen- [59] Existential Risks: Analyzing Human Extinction Scena-
sive Lawyers, Replaced by Cheaper Software. The New rios and Related Hazards. nickbostrom.com.
York Times.
[60] Scientists Worry Machines May Outsmart Man By JOHN
[42] Adam Gopnik, New Yorker, 2011, http: MARKOFF, NY Times, July 26, 2009.
//www.newyorker.com/magazine/2011/04/04/
get-smart-adam-gopnik [61] Mick, Jason. New Navy-funded Report Warns of War Ro-
bots Going Terminator, Blog, dailytech.com, February
[43] Joan Slonczewski, Mitochondrial Singularity, 2013, http: 17, 2009.
//ultraphyte.com/2013/03/25/mitochondrial-singularity/
[62] Flatley, Joseph L. Navy report warns of robot uprising,
[44] Theodore Modis, Forecasting the Growth of Complexity suggests a strong moral compass, engadget.com, 18 Fe-
and Change, Technological Forecasting & Social Change, bruary 2009.
69, No 4, 2002
[63] Call for debate on killer robots, By Jason Palmer, Science
[45] Modis, Theodore. The Singularity Myth and technology reporter, BBC News, 8/3/09.
11

[64] AAAI Presidential Panel on Long-Term AI Futures 2008 [83] Robin Hanson, Economics Of The Singularity, IEEE
2009 Study, Association for the Advancement of Articial Spectrum Special Report: The Singularity, consultado el 11
Intelligence, Accessed 7/26/09. de septiembre de 2008 & Long-Term Growth As A Se-
quence of Exponential Modes
[65] Article at Asimovlaws.com, July 2004, accessed
7/27/2009. [84] Singularity University at its ocial website

[66] (Singularity Institute for Articial Intelligence, 2004) [85] de Grey, Aubrey. The singularity and the Methuselarity:
similarities and dierences
[67] Mission. Singularity Summit Australia - Future of Scien-
ce and Technology. [86] Geraci, Robert M (2010). Apocalyptic AI Visions of
Heaven in Robotics, Articial Intelligence, and Virtual
[68] Thornton, Richard (1847), The Expounder of Primitive Reality. Oxford University Press. ISBN 978-0195393026.
Christianity 4, Ann Arbor, Michigan, p. 281
[87] 2045: The Year Man Becomes Immortal, By Lev Gross-
[69] Adams, H. (1909) The rule of phase applied to history. man Thursday, Feb. 10, 2011 time.com.
In H. Adams & B. Adams (1920), The Degradation of the
[88] Jacques, Jeph. They've Had AI Since 1996. Questiona-
Democratic Dogma. New York: Macmillan, 267311.
ble Content. Consultado el 9 de junio de 2015.
[70] Adams (1909), p.309
[89] Plug & Pray Documentary lm (2010) about the promise,
[71] A Brief History of Intellectual Discussion of Accelera- problems and ethics of articial intelligence and robotics
ting Change. Accelerationwatch.com. Consultado el 17 [90] The Singularity: A Documentary by Doug Wolens.
de agosto de 2013. Ieet.org. Consultado el 22 de octubre de 2013.
[72] A M Turing, Intelligent Machinery, A Heretical Theory,
1951, reprinted Philosophia Mathematica (1996) 4(3):
256260 doi 10.1093/philmat/4.3.256 8 Referencias
[73] Dooling, Richard. Rapture for the Geeks: When AI Outs-
marts IQ (2008), p. 88 Acceleration Studies Foundation (2007), ASF: About
the Foundation, consultado el 13 de noviembre de
[74] Vinge did not actually use the phrase technological sin- 2007
gularity in the Omni op-ed, but he did use this phrase in
the short story collection Threats and Other Promises from Anonymous (18 March 2006), More blades good,
1988, writing in the introduction to his story The Whir- The Economist (London) 378 (8469): 85
ligig of Time (p. 72): Barring a worldwide catastrophe,
I believe that technology will achieve our wildest dreams, Bell, James John (2002), Technotopia and the Death
and soon. When we raise our own intelligence and that of of Nature: Clones, Supercomputers, and Robots,
our creations, we are no longer in a world of human-sized Earth Island Journal (rst published in the Novem-
characters. At that point we have fallen into a technological ber/December 2001 issue of the Earth First! Jour-
black hole, a technological singularity. nal), consultado el 7 de agosto de 2007
[75] Solomono, R.J. The Time Scale of Articial Intelligen- Bell, James John (1 de mayo de 2003), Exploring
ce: Reections on Social Eects, Human Systems Mana- The Singularity", The Futurist (World Future So-
gement, Vol 5, pp. 149153, 1985. ciety (mindfully.org)), consultado el 7 de agosto de
[76] Moravec, Hans (1998), When will computer hardware
2007
match the human brain?, Journal of Evolution and Tech- Berglas, Anthony (2008), Articial Intelligence will
nology 1, consultado el 23 de junio de 2006. Kill our Grandchildren, consultado el 13 de junio de
[77] Moravec, Hans (June 1993). The Age of Robots. Con- 2008
sultado el 23 de junio de 2006.
Broderick, Damien (2001), The Spike: How Our Li-
[78] Moravec, Hans (April 2004). Robot Predictions Evolu- ves Are Being Transformed by Rapidly Advancing
tion. Consultado el 23 de junio de 2006. Technologies, New York: Forge, ISBN 0-312-87781-
1
[79] Dooling, Richard. Rapture for the Geeks: When AI Outs-
marts IQ (2008), p. 89 Bostrom, Nick (2002), Existential Risks, Journal
of Evolution and Technology 9, consultado el 7 de
[80] 83 agosto de 2007
[81] Joy, Bill (April 2000), Why the future doesnt need Bostrom, Nick (2003), Ethical Issues in Advanced
us, Wired Magazine (Viking Adult) (8.04), ISBN 0-670-
Articial Intelligence, Cognitive, Emotive and Et-
03249-2, consultado el 7 de agosto de 2007
hical Aspects of Decision Making in Humans and in
[82] Episode dated 23 August 2006 en Internet Movie Database Articial Intelligence 2: 12-17, consultado el 7 de
(en ingls) agosto de 2007
12 8 REFERENCIAS

Dreyfus, Hubert L.; Dreyfus, Stuart E. (1 de marzo Moravec, Hans (January 1992), Pigs in Cyberspa-
de 2000), Mind over Machine: The Power of Human ce, On the Cosmology and Ecology of Cyberspace,
Intuition and Expertise in the Era of the Computer (1 consultado el 21 de noviembre de 2007
edicin), New York: Free Press, ISBN 0-7432-0551-0
Mahmud, Ashik (June 2015), Post/Human Beings
Ford, Martin (2009), The Lights in the Tunnel: Au- & Techno-salvation: Exploring Articial Intelligen-
tomation, Accelerating Technology and the Economy ce in Selected Science Fictions, Socrates Journal,
of the Future, CreateSpace, ISBN 978-1-4486-5981-4. doi:10.7910/DVN/VAELLN, consultado el 26 de ju-
nio de 2015
Good, I. J. (1965), Speculations Concerning
the First Ultraintelligent Machine, en Franz L. Schmidhuber, Jrgen (29 de junio de 2006). New
Alt and Morris Rubino, Advances in Compu- Millennium AI and the Convergence of History.
ters, Advances in Computers (Academic Press)
6: 31-88, doi:10.1016/S0065-2458(08)60418-0, ISBN .
9780120121069, consultado el 7 de agosto de 2007

Hanson, Robin (1998), Some Skepticism, Robin Singularity Institute for Articial Intelligence
Hanson, consultado el 19 de junio de 2009 (2002), Why Articial Intelligence?

Hanson, Robin (June 2008), Economics of the Sin- Singularity Institute for Articial Intelligence
gularity, IEEE Spectrum (2004), 3 Laws Unsafe, consultado el 7 de agosto
de 2007
Hawking, Stephen (1998), Science in the Next Mi-
llennium: Remarks by Stephen Hawking, consultado Singularity Institute for Articial Intelligence
el 13 de noviembre de 2007 (2007), What is the Singularity?, consultado el 4 de
enero de 2008
Hawkins, Gerald S. (August 1983), Mindsteps to the
Cosmos, HarperCollins, ISBN 0-06-015156-0 Smart, John (September 2005), On Huebner Inno-
vation, Acceleration Studies Foundation, consultado
Heylighen, Francis (2007), Accelerating Socio- el 7 de agosto de 2007
Technological Evolution: from ephemeralization
and stigmergy to the global brain, en Modelski, Ulam, Stanislaw (May 1958), Tribute to John von
G.; Devezas, T.; Thompson, W., Globalization as Neumann, Bulletin of the American Mathematical
an Evolutionary Process: Modeling Global Change, Society 64 (nr 3, part 2): 1-49, doi:10.1090/S0002-
London: Routledge, ISBN 978-0-415-77361-4 9904-1958-10189-5

Hibbard, Bill (5 de noviembre de 2014). Ethical Vinge, Vernor (3031 March 1993), The Coming
Articial Intelligence. Technological Singularity, Vision-21: Interdiscipli-
nary Science & Engineering in the Era of CyberS-
. pace, proceedings of a Symposium held at NASA Le-
wis Research Center (NASA Conference Publication
CP-10129), consultado el 7 de agosto de 2007. See
Johansen, Anders; Sornette, Didier (25 de
also this HTML version, retrieved on 2009-03-29.
enero de 2001), Finite-time singularity in
the dynamics of the world population, econo- Warwick, Kevin (2004), March of The Machines,
mic and nancial indices (PDF), Physica A University of Illinois Press, ISBN 978-0-252-07223-
294 (34): 465-502, arXiv:cond-mat/0002075, 9
Bibcode:2001PhyA..294..465J, doi:10.1016/S0378-
4371(01)00105-4, consultado el 30 de octubre de
2007
Joy, Bill (April 2000), Why the future doesn't need
us, Wired Magazine (Viking Adult) (8.04), ISBN 0-
670-03249-2, consultado el 7 de agosto de 2007

Kurzweil, Raymond (2001), The Law of Acce-


lerating Returns, Nature Physics (Lifeboat Foun-
dation) 4 (7): 507, Bibcode:2008NatPh...4..507B,
doi:10.1038/nphys1010, consultado el 7 de agosto de
2007
Kurzweil, Raymond (2005), The Singularity Is Near,
New York: Viking, ISBN 0-670-03384-7
13

9 Origen del texto y las imgenes, colaboradores y licencias


9.1 Texto
Singularidad tecnolgica Fuente: https://es.wikipedia.org/wiki/Singularidad_tecnol%C3%B3gica?oldid=93831291 Colaboradores: Jor-
geGG, Cdlfd, Ascnder, Tano4595, Chewie, Benjavalero, Renabot, Emijrp, Orgullobot~eswiki, RobotQuistnix, FlaBot, Varano, Erzen-
gel~eswiki, YurikBot, Gaijin, Tomatejc, Paintman, Marcelo-Silva, Cad, CEM-bot, Versvs, Thijs!bot, LA2, Cometo, Sapiensjpa, Hollmin,
JAnDbot, Osald, TXiKiBoT, Bot-Schafter, Idioma-bot, Jmvkrecords, Aibot, VolkovBot, Technopat, Alejandro313, AlleborgoBot, Muro
Bot, Gerakibot, SieBot, Loveless, Canislupusarctos, Thelmadatter, Infrasonik, Walter closser, Ener6, MastiBot, Luckas-bot, Roinpa, Bsea,
Joarsolo, Josec87, Jordeep, Xqbot, Jkbw, FrescoBot, Metronomo, MAfotBOT, Belchman, Angelito7, GrouchoBot, EmausBot, AVIADOR,
ZroBot, Allforrous, Grillitus, Araujojoan96, CocuBot, MetroBot, Gusama Romero, Elvisor, Addbot, PanDaGirl, Lagoset, Logan Morales,
Cap charly, BenjaBot, Waters.Justin, Puentes del Sur, Dariel Torres, Fernando2812l, Ks-M9, Bonorat y Annimos: 64

9.2 Imgenes
Archivo:Check_mark.png Fuente: https://upload.wikimedia.org/wikipedia/commons/f/f0/Check_mark.png Licencia: CC BY-SA 3.0
Colaboradores: Wikipedia Artista original: Wikipedia
Archivo:Commons-emblem-copyedit.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/e/e8/
Commons-emblem-copyedit.svg Licencia: CC BY-SA 3.0 Colaboradores:
File:Gnome-emblem-important.svg Artista original: GNOME icon artists, Fitoschido
Archivo:PPTMooresLawai.jpg Fuente: https://upload.wikimedia.org/wikipedia/commons/c/c5/PPTMooresLawai.jpg Licencia: CC BY
1.0 Colaboradores: en:Image:PPTMooresLawai.jpg Artista original: Courtesy of Ray Kurzweil and Kurzweil Technologies, Inc.
Archivo:ParadigmShiftsFrr15Events.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/4/45/
ParadigmShiftsFrr15Events.svg Licencia: CC BY 1.0 Colaboradores: Created by Ray Kurzweil, Kurzweil Technologies, Inc.;
recreated by en:User:Tkgd2007 in SVG format. Artista original: Tkgd2007

9.3 Licencia del contenido


Creative Commons Attribution-Share Alike 3.0