Mller, Vicente c.

y Bostrom, Nick (prximo 2014), 'El futuro

progreso en inteligencia artificial: una encuesta de la opinin de
los expertos, en Vicente C. Mller (ed.), las cuestiones
fundamentales de la Inteligencia Artificial (Synthese Biblioteca;
Berln: Springer).
Los futuros avances en inteligencia artificial:
una encuesta de opinin de experto
Vicente C. Mller a,b & Nick Bostrom a
a) el futuro de la humanidad Institute, Departamento de Filosofa
& Martin Oxford School, de la Universidad de Oxford. b)Anatolia
College/ACT, Tesalnica
Resumen: Hay, en algunos sectores, la preocupacin acerca del alto
nivel de inteligencia de mquina y superintelligent AI viene en unos
pocos decenios, traer- ing con ella riesgos significativos para la
humanidad. En otros barrios, estas cuestiones son ignorados o
considerados ciencia ficcin. Hemos querido aclarar lo que la
distribucin de las opiniones es realmente, qu probabilidad los
mejores expertos que actualmente se asigna a alto nivel de
inteligencia de la mquina viene en un plazo determinado, por el
riesgo de que se vea con ese desarrollo, y lo rpido que ver estas
desarrollando. As hemos diseado un breve cuestionario y lo
distribuy a cuatro grupos de expertos en 2012/2013. La estimacin
mediana de los encuestados fue por una casualidad que uno de cada
dos de alto nivel de la inteligencia de la mquina ser desarrollado
alrededor de 2040-2050, aumentando a nueve de cada diez casualidad
por 2075. Los expertos esperan que los sistemas pasar a
superintelligence en menos de 30 aos en adelante. Ellos calculan
que la oportunidad es aproximadamente uno de cada tres que este
desarrollo resulta ser "malas" o "muy mala" para la humanidad.
1. Introduccin La Inteligencia Artificial comenz con la "... la
conjetura de que cada aspecto del aprendizaje o cualquier otra
caracterstica de inteligencia puede, en principio, ser descrito de
manera tan precisa que un ma- chine puede hacerse para simular."
(McCarthy, Minsky, Rochester, & Shannon, 1955, pg. 1) y se
movi rpidamente de esta visin a grandes promesas a nivel humano
en general AI dentro de unas dcadas. Esta visin general de AI se
ha convertido en una mera idea directriz de largo plazo para la
mayora de los AI, que se centra en la investigacin cientfica
especfica y ne- gineering problemas y mantiene una distancia a las
ciencias cognitivas. Un pequeo minori- ty creen que ha llegado el
momento de lograr AI directamente como un objetivo tcnico con los
mtodos tradicionales: suelen utilizar la etiqueta "servicio general
de inteligencia artificial' (AGI) (vase Adams et al., 2012).
Si el general AI se lograra, esto tambin podra conducir a
superintelligence: "Podemos definir una superintelligence
provisionalmente como cualquier intelecto que supera en gran medida
el rendimiento cognitivo de los seres humanos en prcticamente todos
los mbitos de inters." (Bostrom, 2014, captulo 2). Una idea de
cmo

el progreso futuro de la Inteligencia Artificial: una encuesta entre

expertos 2/19

superintelligence podra venir es que si nosotros, los humanos,

podra crear capacidad inteligente general artificial en
aproximadamente el nivel humano, entonces esta creacin podra, a su
vez, crear an mayor inteligencia, que podra, a su vez, crear an
mayor inteligencia, y as sucesivamente ... Lo que podra generar un
crecimiento ms all de la capacidad humana y quizs incluso un accelerating tasa de crecimiento: una "explosin de inteligencia". Dos
preguntas fundamentales acerca de este desarrollo son cuando se
espera que, en todo caso (vase Bostrom, 2006; Hubert L. Dreyfus,
2012; Kurzweil, 2005) y cul es el impacto de todo esto sera, en
particular, que los riesgos que podra conllevar, posiblemente hasta
un nivel de riesgo existencial para la humanidad (vase Bostrom,
2013; Mller, 2014a). Como Hawking et al. dicen "el xito en la
creacin de AI sera el mayor evento en la historia humana. Por
desgracia, tambin podra ser el ltimo, a menos que aprendamos a
evitar los riesgos." (Hawking, Russell, Tegmark, & Wilczek,
2014; cf. Price, 2013).
Por eso, decidimos pedir a los expertos predecir lo que depara el
futuro, sabiendo que las predicciones sobre el futuro de la IA a
menudo no son demasiado precisos (vase Armstrong, Sotala, & O
Heigeartaigh, 2014) y tienden a agruparse en torno a "en 25 aos o
as", no importa en qu momento uno pregunta.1
2. Cuestionario 2.1. Respondieron al cuestionario online se realiz
por invitacin a individuos particulares de cuatro grupos diferentes
para un total de ca. 550 participantes (vase el apndice 2). Cada
uno de los participantes, recib un correo electrnico con un enlace
a nuestro sitio para llenar un formulario en lnea (vase el
apndice 1). Si no responde en 10 das, se envi un recordatorio, y
otros 10 das ms tarde, con la nota que este es el ltimo aviso. En
el caso de EETN (vase infra) no pudimos obtener las direcciones de
correo electrnico individuales y, por consiguiente, envi la
solicitud y recordatorios a la lista de correo de los miembros. Las
respuestas fueron hechas en una sola pgina web con un botn
'submit' que slo permita presentaciones mediante estos enlaces
nicos, haciendo as que no solicit respuestas extremadamente
improbable. Hemos pedido a los grupos fueron:
1. PT-AI: Los participantes de la conferencia sobre "Filosofa y
Teora de AI", Salnica, de octubre de 2011, organizadas por uno de
nosotros (vase Mller, 2012, 2013).
Los participantes se les pidi en noviembre de 2012, es decir, ms
de un ao despus del evento.
El total de 88 participantes incluyen un taller sobre "La Web y
Philoso- phy" (ca. 15 personas), de los cuales un gran nmero de
encuestados no lleg. La lista de participantes figura en:
Http://www.pt-ai.org/2011/registered-participants
1 hay una coleccin de predicciones sobre
http://www.neweuropeancentury.org/SIAI- FHI_AI_predicciones.xls

futuros avances en inteligencia artificial: una encuesta entre

expertos 3/19
2. AGI: Los participantes de las conferencias de "Inteligencia
General Artificial" (AGI 12) y "Los impactos y riesgos del Servicio

General de Inteligencia Artificial" (2012), Efectos de AGI Oxford de

diciembre de 2012. Organizamos AGI-impactos (vase Mller, 2014b) y
acogido AGI 12. La encuesta fue anunciado en la reunin de 111
participantes (de los cuales 7 slo para AGI-impactos) y llevado a
cabo en ca. Despus de 10 das. Se encuentra en el sitio web de la
conferencia:
Http://www.winterintelligence.org/oxford2012/ 3. EETN: Los miembros
de la Asociacin Griega de la Inteligencia Artificial (EETN), una
organizacin profesional del griego public los investigadores en el
campo, en abril de 2013. Ca. 250 miembros. La solicitud fue enviada
a la lista de correo. El sitio de Http://www.eetn.gr/ EETN: 4.
TOP100: El 'Top 100 autores en inteligencia artificial" por
"citation" en "todos los aos" segn Microsoft Academic Search
(Http://academic.research.microsoft.com) en mayo de 2013. Hemos
reducido la lista de autores vivos, aadi tantos como sea necesario
para volver a 100 profesionales, busca e-mails en la web y enva
avisos a estos.
El cuestionario fue enviado con nuestros nombres y con una
indicacin de que lo usaramos para este papel y Nick Bostrom del
nuevo libro sobre superintelligence (Bostrom, 2014) - nuestra
peticin correo electrnico est en el apndice 1. Dado que el
demandado los grupos 1 y 2, asistieron a conferencias organizadas
por nosotros, ellos saban quin estaban respondiendo. En los grupos
3 y 4, se podra asumir que la mayora de los expertos no nos
conoce, o incluso de nosotros. Estas diferencias se reflejan en los
ndices de respuesta.
Estos grupos tienen distintas terico-antecedentes ideolgicos: los
partici- pantes de PT-AI son mayormente teora-mente, la mayora de
ellos no hacen el trabajo tcnico, y de- diez tienen una visin
crtica sobre los grandes reclamos para facilitar el progreso en AI
(Herbert Dreyfus fue el principal orador en 2011). Los participantes
de la AGI estn comprometidos con el punto de vista de que la Ia
investigacin debe volver ahora a partir de los detalles tcnicos
para "servicio general de inteligencia artificial' - de ah el
nombre AGI. La inmensa mayora de AGI participantes hagan el trabajo
tcnico. La EETN es una asociacin profesional en Grecia que acepta
slo publican los investigadores de AI. El TOP100 grupo tambin
trabaja principalmente en tcnicas de AI; sus miembros son sen- ior
y mayores que la media acadmica; los Estados Unidos est
fuertemente representada.
Varias personas son miembros de ms de uno de estos cuatro conjuntos
y era poco probable que respondan al mismo cuestionario ms de una
vez. As, en estos casos, se enva la consulta slo una vez, sino
contar con una respuesta para cada conjunto - es decir, sabamos que
los individuos respondi desde tokens individuales que han recibido
(excepto en el caso de EETN).

Los futuros avances en inteligencia artificial: una encuesta entre

expertos 4/19
2.2. Las tasas de respuesta 1) PT-AI: 49% 43 de 88 2) AGI: 65% 72 de
111 3) EETN: 10% 26 de 250 4) TOP100: 29% 29 De un total de 100: 31%
170 de 549

2.3. Metodologa En este campo, es difcil formular preguntas que no

requieren largas explicaciones o generar resistencia en ciertos
grupos de entrevistados potenciales (y, por ende, resultados
sesgados).
No est claro qu constituye 'inteligencia' o 'progreso' y si la
inteligencia se puede medir o al menos comparado como 'ms' o
'menos' como una nica dimensin. Adems, para nuestros propsitos,
necesitamos un concepto de inteligencia a un nivel que puede superar
a los seres humanos o tcnicos donde los sistemas inteligentes
pueden contribuir significativamente a la re- bsqueda - pero
"inteligencia humana" es un concepto elusivo sino que genera reresistencia. Por ltimo, debemos evitar el uso de trminos que ya
estn en circulacin y por lo tanto ser el cuestionario asociado
con ciertos grupos u opiniones, como "inteligencia artificial",
"singularidad", "general de inteligencia artificial" o "sistema
cognitivo".
Por estas razones, nos decidimos por una definicin en la que a) se
basa en la capacidad de comportamiento, b) evita la nocin de
'general' a nivel humano y c) utiliza un trmino recientemente
acuado. Ponemos esta definicin en el prembulo del cuestionario:
"Definir un "alto nivel de inteligencia de mquina' (HLMI) como uno
que puede llevar a cabo la mayora de las profesiones humanas al
menos tan bien como un tpico humano." (todava tenamos un experto
escribiendo de nuevo a nosotros que no podan decir qu es un
"tpico" es humano - aunque podran ser convencidos a responder,
despus de todo.) En retrospectiva, tal vez hubiera sido preferible
especificar qu entendemos por 'mayora' y wheth- er pensamos en
'Most profesiones" o de "las profesiones ms gente trabajadora
hacer'. Uno de los mritos de nuestro comportamiento es que tener
HLMI pregunta en nuestro sentido muy probable implica ser capaz de
pasar una prueba de Turing clsica.
Para lograr una alta tasa de respuesta, intentamos tener algunas
preguntas con opciones sencillas y finalmente se resolvi por
cuatro, ms tres preguntas a los encuestados. Hemos intentado elegir
las preguntas que nos permitan comparar nuestros resultados con los
de la oreja- lier cuestionarios - vase ms abajo.
A fin de mejorar la calidad de las predicciones, hemos intentado
"prime" los entrevistados a pensar sobre lo que est involucrado en
alcanzar HLMI antes de preguntar cundo esperan esto. Tambin
queramos ver si las personas con una preferencia por el enfoque
particular que es HLMI tendra particular respuestas a nuestras
preguntas centrales en prediccin (por ejemplo, si las personas que
piensan que "los sistemas incorporados son cruciales esperar ms de
media hora para HLMI). Para estos dos fines, hemos insertado una
primera pregunta acerca de los enfoques de investigacin que
contribuyen con una lista para elegir, las opciones que son

futuros avances en inteligencia artificial: una encuesta entre

expertos 5/19
dados son una mezcla eclctica extradas de muchas fuentes, pero las
opciones no son de mucha importancia.
2.4. Antes unos pocos grupos de trabajo recientemente se han hecho
intentos para medir opiniones. Hemos intentado frase nuestras

preguntas de tal manera que se pueden comparar las respuestas a

estos cuestionarios anteriores. No- tabla son:
1. (Michie, 1973, pg. 511 f): "Una encuesta de opinin adoptada el
ao pasado entre sesenta y siete cientficos informticos britnicos
y estadounidenses que trabajan en, o cerca de, la ma- chine campo de
la inteligencia".
2. Preguntas en directo durante el 2006 AI@50 conferencia en
Dartmouth Col- lege mediante un dispositivo de votacin inalmbrica
(VCM particip (vase Mller, 2007).
A pesar de un breve informe sobre la conferencia de (Pramo, 2006),
los resultados no fueron publicados, pero afortunadamente pudimos
adquirirlas desde el rgano- izers James H. Moor y Carey E. Heckman
- publicamos una seleccin a continuacin.
3. (Baum, Goertzel, & Goertzel, 2011): los participantes de AGI
2009, no anony- mous, sobre el papel, 21 encuestados, la tasa de
respuesta desconocida.2 4. (Sandberg & Bostrom, 2011): los
participantes de la Conferencia de inteligencia de Invierno 2011,
annimos, en papel, de 35 encuestados, el 41% la tasa de respuesta.
1. La referencia hecha por el famoso investigador AI Donald Michie
es muy breve (todos los de- colas que l da estn en la cita
anterior), pero de gran inters histrico: 1972/3 estaban
convirtiendo aos por AI con la publicacin de Hubert Dreyfus" "Lo
que los ordenadores no pueden hacer" (Hubert L. Dreyfus, 1972), los
"Debates Lighthill" en la BBC TV (con Michie, McCarthy y R. Gregory)
y el influyente "Informe" (Lighthill Lighthill, 1973).
Michie's encuesta pidi para la estimacin del nmero de aos antes
de "computacin exhibiendo inteligencia en nivel humano adulto" y
Michie's grfico muestra 5 puntos de datos:
20 17% 50 19% >50 25% tambin pregunt acerca de "spin-off
industriales significativos", "contribuciones a los estudios del
cerebro" y "contribuciones de los estudios del cerebro a la mquina
de inteligencia". Michie aade "del 10 %1 %0 Aos Porcentaje 5
2 Una nueva, ms informal, la encuesta se realiz en agosto de 2007
por Bruce J Klein (luego de la singularidad y Novamente Institute)
"... en el marco de tiempo para cuando podemos ver una mayor- a
nivel humano-AI", con unos resultados numricos y comentarios
interesantes, archivadas en
https://web.archive.org/web/20110226225452/http://www.novamente.net/
bruce/?p=54.

Los futuros avances en inteligencia artificial: una encuesta entre

expertos 6/19
quienes respondieron a una pregunta sobre el riesgo de "Ultimate" de
adquisicin los asuntos humanos por mquinas inteligentes, alrededor
de la mitad considera como "insignificante", y la mayora del resto
como 'sustancial', con el fin de votar por "abrumadora" (Michie,
1973, pg. 512).
2. AI@50 alberg muchos prominentes investigadores, incluyendo AI
viven todos los participantes de la Conferencia de Dartmouth de
1956, un grupo de estudiantes de postgrado financiado por DARPA,
adems de algunos tericos. Los participantes fueron invitados 12
preguntas de eleccin mltiple en el primer da, 17 el segundo da y

otros 10 en la tercera jornada. Seleccionamos tres resultados desde

el primer da aqu:
3.) Los primeros que las mquinas sern capaces de simular el
aprendizaje y cualquier otro aspecto de la inteligencia humana:
entre 26 y 50 aos 14 11% ms de 50 aos 50 41% No 50 41% totaliza
123 100% 5.) Las primeras comprenderemos las operaciones bsicas
(pasos mentales) del cerebro humano lo suficiente como para crear
una mquina de simulacin de pensamiento humano es: %2 entre 11 y 25
aos 3 %5 dentro de 10 aos 6
dentro de los prximos 10 aos 11 12% dentro de los prximos 25 aos
9 10% dentro de los prximos 50 aos 19 21% dentro de los prximos
100 aos o ms 26 29% nunca (nunca podremos entender
suficientemente) 19 21% de los totales 89 100% 6). La primera se
podr comprender la arquitectura del cerebro (cmo su rgano izational est estructurado de control) lo suficiente como para crear
una mquina de simulacin de hu- el hombre pensaba es: %6 el da de
hoy (que ya entiende bastante) 5
Dentro de 10 aos 12 11% entre 11 y 25 aos 15 14% entre 26 y 50
aos 24 un 22% ms de 50 aos 44% nunca 40 15 14% asciende a 110
100%
3. Baum et al. pregunt por la posibilidad de pasar una prueba de
Turing, un tercer grado ao escolar ex- am [es decir, de 9 aos de
edad] y hacer estudios a nivel de premio Nobel. Asumen que todos y
slo el comportamiento inteligente de los seres humanos es capturado
en la prueba de Turing. Los resultados que

el progreso futuro de la Inteligencia Artificial: una encuesta entre

expertos 7/19
dieron por el 50% de probabilidad punto fueron: 2040 (prueba de
Turing), 2030 (tercer grado) y 2045 (Premio Nobel).
4. Sandberg y Bostrom la primera pregunta era bastante similar a
nuestra 2 (ver ms abajo):
"Suponiendo que ninguna catstrofe mundial detiene el progreso, por
qu ao sera asignar un 10%/50%/90% de probabilidad de desarrollo
de inteligencia artificial de nivel humano?" La estimacin mediana
de cundo habr un 50% de probabilidad de la mquina en el nivel
humano- telligence fue 2050. As, a pesar de la considerable
superposicin con AGI 2009, el grupo pregunt por Sandberg y Bostrom
en 2011 fue un poco ms cauto en sus expectativas.
Pensamos que vale la pena hacer un nuevo intento, porque las
anteriores pidi a grupos especficos y muestras pequeas, a veces
tienen problemas metodolgicos, y tambin queremos ver cmo cambian
las respuestas a lo largo del tiempo, o no cambian -razn por la
cual intent utilizar preguntas similares. Como se explica ms
adelante, tambin pensamos que podra ser interesante- mientras que
repetir nuestro cuestionario en una etapa posterior, para comparar
los resultados.
3. Preguntas y respuestas 3.1. Enfoques de investigacin "1. En su
opinin, cules son los enfoques de investigacin que podran
contribuir ms a la elaboracin de tales HLMI?" [la seleccin desde
la lista de seleccin, ms de una po- sible.] - La teora de la
complejidad algortmica - Algoritmos revelada por la neurociencia
computacional - redes neuronales artificiales - Redes Bayesianas -

Ciencia Cognitiva - incorporados sistemas - Algoritmos Evolutivos o

sistemas de computacin ms rpida - Hardware - Integrado de
arquitecturas cognitivas - conjuntos de datos de gran escala sistemas basados en lgica - Robtica - Swarm Intelligence Emulacin de la totalidad del cerebro - otro mtodo(s) actualmente
conocidas para al menos un investigador - otro mtodo(s) actualmente
completamente desconocida - ningn mtodo que jams llegar a
contribuir a este objetivo los

futuros progresos en el campo de la Inteligencia Artificial: una

encuesta entre expertos 8/19
ciencia cognitiva 47,9% arquitecturas cognitivas integrado
Algoritmos de 42,0% revelada por la neurociencia computacional redes
neuronales artificiales 42,0% 39,6% 37,3% ms rpido hardware
informtico datasets a gran escala de sistemas incorporados de 35,5%
34,9% otro mtodo(s) totalmente desconocido en la actualidad el
32,5% de la totalidad del cerebro 29,0% emulacin algoritmos
evolutivos o sistemas 29,0% otro mtodo(s) actualmente conocidas
para al menos un investigador 23,7% sistemas basados en lgica la
teora de la complejidad algortmica de 21,3% 20,7% ningn mtodo
que jams llegar a contribuir a este objetivo 17,8% Swarm
Intelligence robtica 13,6% 4,1% 2,6%
en redes bayesianas TOP100, pero el 46% de la AGI. Hicimos tambin
no encontrar correlaciones entre las respuestas dadas aqu y las
predicciones que se hicieron en las siguientes preguntas (del tipo
que, por ejemplo, personas que piensan 'incorporados sistemas" sera
crucial predecir la aparicin posterior de HLMI). %0 Aqu estn los
porcentajes sobre el total de respuestas. No hubo diferencia
significativa entre los grupos procedido aqu, excepto que 'todo el
cerebro' tiene emulacin de

futuros avances en inteligencia artificial: una encuesta entre

expertos 9/19
ciencia cognitiva
integrada de arquitecturas cognitivas
algoritmos computacionales revelada por redes neuronales
artificiales
ms rpido hardware informtico
datasets a gran escala de
sistemas incorporados
otro mtodo(s) actualmente completamente todo el cerebro
algoritmos evolutivos o sistemas de emulacin de
otro mtodo(s) conocen actualmente en los sistemas basados en la
lgica de
la teora de la complejidad algortmica
ningn mtodo permitir contribuir de alguna manera a esta
inteligencia de enjambres

robtica
redes Bayesianas
00%
10%
20%
30%
40%
50%
60%

3.2. Cuando HLMI?

"2. A los efectos de esta pregunta, supongamos que la actividad
cientfica humana contina sin grandes perturbaciones negativas. Por
qu ao sera, ver un (10% / 50% / 90%) la probabilidad de que
existan tales HLMI?" - para cada una de estas tres probabilidades,
la re- spondents se le pedir que seleccione un ao [2012-5000, en
incrementos de un ao] o activar una casilla marcada 'nunca'.
Resultados ordenados por grupos de entrevistados:
PT-AI Mediana Media St. Dev.
El 10% de 2023 a 2043 81 50% 2048 2092 166 90% 2080 2247 515 AGI
Mediana Media St. Dev.
10% 2022 2033 60 50% 2040 2073 144 90% 2065 2130 202 EETN Mediana
Media St. Dev.

Los futuros avances en inteligencia artificial: una encuesta entre

expertos 19/10
10% 2020 2033 29 50% 2050 2097 200 90% 2093 2292 675 TOP100 Mediana
Media St. Dev.
10% 50% 33 2034 2024 2050 2072 110 90%: 2070 2168 342 Todos Mediana
Media St. Dev.
10%: 2022 2036 59 50%: 2040 2081 153 90%: 2075 2183 396
Resultados ordenados por porcentaje pasos:
10% Mediana Media St. Dev.
PT-AI 2023 2043 81 60 EETN AGI 2022 2033 2020 2033 29 TOP100 2024
2034 33 Todos 2022 2036 59 50% Mediana Media St. Dev.
PT-AI 2048 2092 166 2073 144 EETN AGI 2040 2050 2097 200 TOP100 2050
2072 110 Todos 2040 2081 153 90% Mediana Media St. Dev.
PT-AI 2080 2247 515 202 EETN AGI 2065 2130 2093 2292 675 TOP100 2070
2168 2075 2183 396 342 todos los

futuros avances en inteligencia artificial: una encuesta entre

expertos 19/11
Clics del 'nunca' de verificacin. Estas respuestas no entra en los
promedios anteriores.
10% 50% 7 2 1.2 4.1 90% 28 16,5 % nunca no.

Proporcin de expertos con 10% 50% 90% de confianza de HLMI por esa
fecha
1
0,9
0,8
0,7
0,6
0,5
50% 10%
90% 0,4
0,3
0,2
0,1
0
2000
2050
2100
2150
2200
2250
2300

para la marca del 50%, en general el promedio es de 2040 (es decir,

la mitad de los encuestados dio un ao antes de 2040 y la mitad dio
un ao ms tarde del 2040) pero la media general (promedio) es de
2081. La mediana es siempre menor que el promedio de aqu porque no
puede- liers hacia 'antes', pero existen outliers hacia 'adelante'
(el mximo posible de se- lection fue 5000, luego 'nunca').
3.3. Desde superintelligence HLMI a "3. Supongamos, para el
propsito de esta pregunta que tal HLMI en algn momento existe.
incrementos, empezando con el 0%. %1 Entonces qu tan probable
pensar es que dentro de 2 aos / (30 aos), posteriormente habr
inteligencia artificial que supera en gran medida el rendimiento de
cada ser humano en la mayora de las profesiones?" - se pregunt a
los encuestados que seleccione una probabilidad de un men
desplegable en el

futuro, el progreso en el campo de la Inteligencia Artificial: una

encuesta entre expertos 12/19
para todos los encuestados:
Mediana Media St. Dev.
Dentro de 2 aos 10% 19% 24 dentro de 30 aos, el 75% 62% 35
La mediana de las estimaciones de probabilidad de superintelligence
HLMI dada en los distintos grupos de encuestados:
50% 55% %5 %5 TOP100 2 aos 30 aos PT-AI 10% 60% 15% 90% AGI EETN

Expertos asignan una baja probabilidad para un rpido despegue, pero

una probabilidad significativa de superintelligence HLMI dentro de
30 aos despus.
3.4. El impacto de superintelligence "4. Supongamos, para el
propsito de esta pregunta que tal HLMI en algn momento existen.
Cmo sera positivo o negativo impacto global sobre la humanidad, en
el largo plazo?
Incrementos). La operacio- cin de la seleccin se muestra en verde;
si la suma fue de 100%, de lo contrario, en rojo. %1 Por favor
indicar una probabilidad para cada opcin. (La suma debe ser igual
al 100%.)" - Los encuestados tenan que seleccionar una probabilidad
para cada opcin (en
los cinco opciones eran: "muy buena - en equilibrio bueno - ms o
menos neutral - en equilibrio malo - muy mala (catstrofe)
existencial".
PT-AI AGI EETN TOP100 todo muy bueno 17 28 31 20 24 En buen
equilibrio 24 25 30 40 28 ms o menos neutral 23 12 20 19 17 en el
equilibrio malo 17 12 13 13 13 muy mala (catstrofe existencial) 18
24 6 8 18 %
porcentajes aqu son medios, no a medias como en las otras tablas.
Existe una notable diferencia entre la "terica" (PT-AI y AGI) y los
"grupos tcnicos" (EETN y TOP100).
3.5. Los encuestados estadsticas nos pidi entonces a los
encuestados 3 preguntas sobre s mismos:

futuros avances en inteligencia artificial: una encuesta entre

expertos 13/19
1. "relativa a las preguntas anteriores, cmo describira usted su
propia exp- tise?" (0 = nada, 9 = experto) - promedio de 5,85 2.
"relativos a trabajos tcnicos en el campo de la inteligencia
artificial, cmo describira usted su propia experiencia?" (0 =
nada, 9 = experto) - promedio de 6.26 3. "Cul es su casa principal
disciplina acadmica?" (Seleccionar de la lista con 8 op- ciones:
Biologa y Fisiologa/Neurociencias - Ciencias de la computacin Ingeniera [no CS] - Matemticas y Fsica - Filosofa - Psicologa
Cognitiva/Sci- encia - Otra disciplina acadmica - Ninguno.)
[Absolut nmeros.]. Biologa y Fisiologa/Neurociencias 3 b.
Informtica 107 c. Ingeniera (CS) no 6 d. Matemticas y Fsica 10
e. Filosofa 20 f. Psicologa y Ciencia Cognitiva 14 g. Otra
disciplina acadmica 9 h. Ninguno 1 y finalmente nos invit a los
participantes a hacer un comentario, adems de la posibilidad de
agregar su nombre, si as lo deseaban. (no podemos reproducir estas
aqu; pero estn en nuestro sitio, vea ms abajo). Una serie de
observaciones se refiere a la dificultad de formular cues- tiones,
mucho menos la dificultad de predecir.
4. Evaluacin 4.1. El sesgo de seleccin en los encuestados?
Una preocupacin con la seleccin de los entrevistados es que las
personas que piensan que es improbable o HLMI una idea confusa, son
menos propensos a responder (aunque nos confes lo contrario en la
carta, vase ms abajo). Aqu est una respuesta caracterstica de
un orador en PT- AI 2011: "No se me ocurrira responder a este
cuestionario sesgado. ... Creo que cualquier discusin de inminente

super-inteligencia es errnea. No indica ninguna comprensin del

fracaso de toda la labor de AI. Incluso acaba de formular ese
cuestionario es bi- asndose y es un desperdicio de tiempo." (Hubert
Dreyfus, citado con permiso). As, hemos intentado averiguar qu los
no encuestados piensan. Con este fin, hemos realizado una seleccin
aleatoria de los no encuestados de dos grupos (11 para PT-AI y 17 de
TOP100) y presionaron a travs del correo electrnico personal para
responder, explicando que esto nos ayudara a entender el sesgo. Los
dos grupos fueron seleccionados porque AGI aparece ya en el oppo
sesgada- Sitio de direccin y EETN parece muy similar a TOP100 pero
no nos EETN para

futuros avances en inteligencia artificial: una encuesta entre

expertos 14/19
que los datos nos muestran que han respondido y que no lo hicieron.
Conseguimos uno adicional re- respuesta de PT-AI y dos de los TOP100
de esta manera.
Para la pregunta 2 "... Por qu ao sera, ver un (10% / 50% / 90%)
probabil- lidad para tales HLMI existir?" hemos comparado las
respuestas adicionales a las respuestas que ya tenamos desde el
mismo grupo respectivo (PT-AI y TOP100, respectivamente).
Hemos encontrado las siguientes diferencias:
10% 50% 90%
Media Mediana Media Mediana Media Mediana
PT-AI -12 +8 -9 +55 -2 +169
TOP100 -19 -9 -47 -25 -40 -138
El demandado adicional de PT-AI espera HLMI anteriores que el
promedio, pero ms tarde que la media, mientras que los dos
demandados de TOP100 (ltima fila) ex- pected HLMI anteriores a la
media y la mediana. La muestra muy pequea prohbe confa en la
sentencia, pero no hemos encontrado ningn apoyo a la preocupacin
de que los encuestados no habra sido sesgada hacia una llegada ms
tarde de HLMI.
4.2. Lecciones y perspectivas complementamos este papel con un
pequeo sitio en http://www.pt-ai.org/ai-polls/. En este sitio web,
proporcionamos una) los datos brutos de nuestros resultados
[annimos a menos que los participantes decidieron poner sus nombres
en sus respuestas], b) los resultados bsicos del cuestionario, c)
las observaciones formuladas, y d) el cuestionario en un formato en
lnea donde cualquier persona puede rellenarlo. Esperamos que ese
cuestionario en lnea nos dar un inters- ing vista del 'popular'
vista de estas cuestiones y sobre cmo esta vista cambia a lo largo
del tiempo. En el mediano plazo, sera interesante hacer un estudio
longitudinal que se repite exactamente este cuestionario.
Dejamos al lector a sacar sus propias conclusiones pormenorizadas de
nuestros resultados, quizs despus de investigar los datos raw.
Subrayemos, sin embargo, que el objetivo es "medir la percepcin",
no para obtener predicciones bien fundada. Estos resultados deben
tomarse con algunos granos de sal, pero pensamos que es justo decir
que los resultados revelan una vista entre expertos que AI sistemas
sern probablemente (ms del 50% de alcance global de la capacidad

humana de 2040-50, y es muy probable (con 90% de probabilidad) de

2075. Alcance de la capacidad humana, pasar a superintelligence en
2 aos (10%) a los 30 aos (75%) para el

futuro, el progreso en el campo de la Inteligencia Artificial: una

encuesta entre expertos 15/19
posteriormente. Los expertos dicen que la probabilidad es del 31%
que este desarrollo resulta ser "malas" o "muy mala" para la
humanidad.
As, los expertos creen que es probable que venga superintelligence
en pocos decenios y muy posiblemente malo para la humanidad - esto
debera ser razn suficiente para realizar un trabajo de
investigacin sobre el posible impacto de superintelligence antes de
que sea demasiado tarde. Tambin podramos poner esto ms
modestamente y llega a una conclusin alarmante: no conocemos
ninguna razn convincente para decir que el progreso en AI se
paralice (aunque profunda nuevos conocimientos podran ser
necesarios) y no conocemos ninguna razn convincente que
superintelligent sistemas ser bueno para la humanidad. As,
deberamos investigar mejor el futuro de superintelligence y los
riesgos que representa para la humanidad.
5. Agradecimientos a Toby Ord y Anders Sandberg fueron tiles en la
formulacin del cuestionario.
La labor tcnica de los formularios del sitio, enviar correos y
avisos, base de datos y el anlisis de datos inicial fue realizada
por Ilias Nitsos (bajo la direccin del VCM). Theo Gantinas
proporcionada de los correos electrnicos de los TOP100. Stuart
Armstrong hizo la mayora de los grficos de presentacin. La
audiencia en el PT-AI 2013 conferencia en Oxford proporcionaron
tiles comentarios. Mark Bishop, Carl Shulman, Millas Brundage y
Daniel Dewey hizo observaciones detalladas sobre los borradores.
Estamos muy agradecidos a todos ellos.
6. Referencias Adams, S., Arel, I., Bach, J., Coop, R. Furlan, R.
Goertzel, B., . . . Sowa, J. F.
(2012). Cartografiando el paisaje humano de nivel general de
inteligencia artificial.
AI Magazine, 33(1), 25-42.
Armstrong, S., Sotala, K., & O Heigeartaigh, S. (2014). Los
errores, ideas y lecciones de la famosa AI predicciones - y lo que
significan para el futuro. Oficial de inteligencia artificial
experimental y terica, el artculo 26, apartado 3 - Edicin
especial "Riesgos Generales de Inteligencia Artificial', ed. V.
Mller), 317-342.
Baum, S. D., Goertzel, B. & Goertzel, T. G. (2011). Cunto
tiempo hasta que nivel humano AI?
Los resultados de una evaluacin especializada. El pronstico
tecnolgico y cambio social, 78(1), 185-195.
Bostrom, N. (2006). Cunto tiempo antes de superintelligence?
Investigaciones Lingsticas y filosficas, 5(1), 11-30.
Bostrom, N. (2013). Prevencin de riesgos existenciales como
prioridad mundial. Poltica Global, 4(1), 15- 31.
Bostrom, N. (2014). Superintelligence: caminos, los peligros, las
estrategias. Oxford: Oxford University Press.

Dreyfus, H. L. (1972). Qu equipos an no puede hacer: Una crtica

de la razn artificial (2 ed.).
Cambridge, Mass.: MIT Press.
Dreyfus, H. L. (2012). Una historia de primer paso falacias. Mentes
y mquinas, 22(2 - Edicin especial "filosofa de AI" ed. Vicente C.
Mller), 87-99.

Los futuros avances en inteligencia artificial: una encuesta entre

expertos 16/19
Hawking, S., Russell S., Tegmark, M., & Wilczek, F. (2014). La
trascendencia se ve en las implicaciones de la inteligencia
artificial - pero estamos tomando en serio AI suficiente? El
Independiente, 01.05.2014.
Kurzweil, R. (2005). La singularidad est cerca: Cuando los humanos
trascienden la biologa. Londres:
Viking.
Lighthill, J. (1973). Inteligencia artificial: un estudio general de
la inteligencia artificial: un symposion de papel. Londres: Science
Research Council.
McCarthy, J., Minsky, M., Rochester, N. & Shannon, C. E. (1955).
Una propuesta para el proyecto de investigacin de verano de
Dartmouth sobre inteligencia artificial. Recuperada, desde octubre
de 2006 http://wwwFormal.stanford.edu/jmc/history/dartmouth/dartmouth.html Michie, D.
(1973). Las mquinas y la teora de la inteligencia. Naturaleza,
241(23.02.1973), 507-512.
Moro, J. H. (2006). El Dartmouth College, la inteligencia
artificial, conferencia: Los prximos cincuenta aos. AI Magazine,
27(4), 87-91.
Mller, V. C. (2007). Hay un futuro para AI sin representacin?
Mentes y mquinas, 17(1), 101-115.
Mller, V. C. (2014a). Editorial: Los riesgos generales de la
inteligencia artificial. Oficial de inteligencia artificial
experimental y terica, el artculo 26, apartado 3 - Edicin
especial "Riesgos Generales de Inteligencia Artificial', ed. V.
Mller), 1-5.
Mller, V. C. (Ed.). (2012). La teora y la filosofa de AI (Mentes
y mquinas,Vol. 22/2- volumen especial): Springer.
Mller, V. C. (Ed.). (2013). La teora y la filosofa de la
inteligencia artificial (SAPERE,Vol. 5).
Berln: Springer.
Mller, V. C. (Ed.). (2014b). Riesgos del servicio general de
inteligencia artificial (oficial de inteligencia artificial
experimental y terica,Vol. (26/3) Edicin especial): Taylor &
Francis.
Precio, H. (2013). Cambridge, cabinas y Copenhague: Mi ruta a riesgo
existencial.
El New York Times, 27.01.2013.
Http://opinionator.blogs.nytimes.com/2013/01/27/cambridge-cabs-andCopenhague-mi-route-a-existencialriesgo/?_php=true&_type=blogs&_r=0 Sandberg, A. &
Bostrom, N. (2011). Estudio de inteligencia de la mquina. Informe

Technial FHI, 2011(1).

Http://www.fhi.ox.ac.uk/research/publications/
7. Los apndices 1. Cuestionario 2. Carta enviada a los
participantes

futuros avances en inteligencia artificial: una encuesta entre

expertos
Apndice 1: Cuestionario
Cuestionario online: futuros avances en Inteligencia Artificial |
Phil...http://www.pt-ai.org/questionnaire-future-progressartificial-in...
17/19

Cuestionario: los futuros progresos en la Inteligencia Artificial

(Http://www.fhi.ox.ac.uk/) (Http://www.futuretech.ox.ac.uk)
este breve cuestionario est dirigido hacia los investigadores en
inteligencia artificial o la teora de la
inteligencia artificial. Se pretende evaluar cmo las personas que
trabajan en el campo ver el progreso hacia sus objetivos originales
de mquinas inteligentes, y qu impactos se asociaran a alcanzar
estos objetivos.
Contribucin a este cuestionario es slo por invitacin. Si el
cuestionario se rellena sin
dicha invitacin, los datos sern ignorados.
Las respuestas sern annimas. Los resultados se harn pblicos en
el sitio del Programa sobre los impactos de la tecnologa del
futuro:
Http://www.futuretech.ox.ac.uk (Http://www.futuretech.ox.ac.uk) .
Gracias por su tiempo!
Vicente C. Mller (Http://www.sophia.de) & Nick Bostrom (
Universidad de Oxford Http://www.nickbostrom.com/) Septiembre de
2012
A. El futuro de AI de
definir "un alto nivel de inteligencia de mquina" (HLMI) como uno
que puede llevar a cabo la mayora de las profesiones humanas por lo
menos tan bien como un humano tpico.
1. En su opinin, cules son los enfoques de investigacin que
podran contribuir ms a la elaboracin de tales HLMI?:
la teora de la complejidad algortmica a gran escala algoritmos
datasets revelada por la neurociencia computacional Logic sistemas
basados en redes neuronales artificiales robtica redes Bayesianas
inteligencia de enjambres ciencia cognitiva de la totalidad del
cerebro incorporados sistemas de emulacin otro mtodo(s)
actualmente conocidas para al menos un investigador algoritmos
evolutivos o sistemas otro mtodo(s) totalmente desconocido en la
actualidad no existe ningn mtodo de hardware de computacin ms
rpido que jams llegar a contribuir a este objetivo integrado de
arquitecturas cognitivas
2. Supongamos, para el propsito de esta pregunta que la actividad
cientfica humana contina sin grandes perturbaciones negativas. Por

qu ao sera, ver un 10%/50%/90% de probabilidad de tales HLMI

para existir?
10%50%90%
ao alcanzado:--nunca:
3. Supongamos, para el propsito de esta pregunta que tal HLMI en
algn momento existen. Entonces qu tan probable pensar es que
dentro de 2 aos / 30 aos) Posteriormente, habr inteligencia
artificial que supera en gran medida el rendimiento de cualquier
humano en la mayora de las profesiones?
Dentro de 2 aos 30 yearsWithin probabilidad:-4 %%. Supongamos, para el propsito de esta pregunta que tal HLMI en
algn momento existen. Cmo sera positivo o negativo el impacto
general en la humanidad, en el largo plazo? Srvase indicar una
probabilidad para cada opcin. (La suma debe ser igual al 100%.)
Extremadamente goodOn equilibrio equilibrio neutralOn goodMore o
menos malo (badExtremely catstrofe existencial)
%%% - - - - -%%
%0 en total:
1 de 10:29 226.11.12 OEZ

futuros progresos en el campo de la Inteligencia Artificial: una

encuesta entre expertos
Cuestionario: avances futuros en Inteligencia Artificial |
Phil...http://www.pt-ai.org/questionnaire-future-progressartificial-in...
18/19
B. sobre usted
1. Referente a las preguntas anteriores, cmo describira usted su
propia experiencia?:
0 = ninguna 1 2 3 4 5 6 7 8 9 =
2 expertos. Tcnicas sobre el trabajo en el campo de la inteligencia
artificial, cmo describira usted su propia experiencia?:
0 = ninguna 1 2 3 4 5 6 7 8 9 =
3 expertos. Cul es su casa principal disciplina acadmica?:
Biologa y Fisiologa/Neurociencias Ingeniera Informtica (CS) no
matemticas / Fsica Psicologa y Filosofa de la ciencia cognitiva
otra disciplina acadmica ninguno
4. Aadir un breve comentario, si te gusta (<250 palabras). Estos
comentarios pueden ser publicados. Indique si desea que su nombre se
incluye con el comentario. (Las respuestas anteriores permanecer
annimo en cualquier caso.):
Recuento total de palabras : 0 Por favor incluya mi nombre con el
comentario (deje este campo vaco si desea permanecer en el
anonimato):
CAPTCHA Esta pregunta es para probar si usted es un visitante humano
y para evitar el spam automatizado.

 Cul es el cdigo de la imagen?:

Introduzca los caracteres mostrados en la imagen.

Presentar
2 de las 10:29 226.11.12 OEZ

futuros avances en inteligencia artificial: una encuesta entre

expertos 19/19
Anexo 2: Carta a los participantes (aqu TOP100)
Estimado Profesor [Apellidos], dada su importancia en el campo de la
inteligencia artificial le invitamos a expresar sus opiniones sobre
el futuro de la inteligencia artificial en un breve cuestionario. El
objetivo de este ejercicio es evaluar cmo el citado top 100
personas que trabajan en el campo view pro- gress hacia sus
objetivos originales de mquinas inteligentes, y qu impactos se
asociaran a alcanzar estos objetivos.
El cuestionario consta de 4 preguntas de opcin mltiple, ms 3
puntos de datos estadsticos sobre el demandado y un opcional de
campo "comentarios". Slo le llevar unos minutos para completar.
Por supuesto, este cuestionario slo reflejar las opiniones reales
de los investigadores si conseguimos que casi todo el mundo a
expresar su opinin. As que por favor tome un momento para
responder, incluso (o especialmente) si cree que este ejercicio es
intil o equivocadas.
Las respuestas sern annimas. Los resultados sern utilizados para
Nick Bostrom del prximo libro "Superintelligence: caminos,
peligros, Estrategias" (Oxford University Press, 2014) y se pondr a
disposicin del pblico en el sitio del Programa sobre los impactos
de la tecnologa de futuro: http://www.futuretech.ox.ac.uk.
Por favor, haga clic aqu:
[link]
Gracias por su tiempo!
Nick Bostrom & Vincent C. Mller de la Universidad de Oxford