EL FUTURE DE HUMAN EVOLUCIÓN

Nick Bostrom
futuro de la humanidad, los
profesores del Instituto de Filosofía & James Martin 21st
Century School de la
Universidad de Oxford
www.nickbostrom.com
[Primera versión: 2004. Publicado en muerte y Anti-muerte:
Doscientos años después de Kant, cincuenta años después de Turing,
ed. Charles Tandy (Ria University Press: Palo Alto, California,
2004): pp. 339-371. Republicado en
Bedeutung (2009): El próximo]

Resumen
El desarrollo evolutivo a veces se piensa que exhibe una tendencia
inexorable
hacia mayores, más complejos y normativamente valiosas formas de
vida. Este documento explora algunos escenarios distópico donde
rueda libre evolución, mientras se
sigue produciendo y complejas formas de organización inteligente,
conducir a la eliminación progresiva de todas las formas de vida que
nos preocupa. Luego consideramos cómo tales resultados catastróficos
podrían evitarse y argumentan que, bajo ciertas condiciones, la
única solución posible sería una política coordinada a nivel mundial
para el control de la evolución humana, modificando
la función de adecuación de las futuras formas de vida inteligente.

1. La vista Panglossian
podemos confiar en el desarrollo evolutivo de nuestra especie en
adoptar ampliamente deseable direcciones?
A partir de primitivos, vida inconsciente, la evolución biológica ha
conducido al desarrollo de
microorganismos cada vez más avanzadas, incluyendo las criaturas que
tienen mentes, la conciencia, el
lenguaje y la razón. Más recientemente, cultural y tecnológico, que
exhiben
ciertos paralelismos con la evolución biológica, han permitido a
nuestra especie a avanzar a un
ritmo acelerado enormemente. Los últimos cien años han visto enormes
mejoras en la
duración de la vida humana, la productividad laboral, el
conocimiento científico y la organización social y política,
que han permitido que miles de millones de personas a disfrutar de
oportunidades sin precedentes para el disfrute
y el desarrollo personal. En un histórico así como en una escala de
tiempo geológico, la gran
imagen muestra una tendencia global hacia el aumento de los niveles
de complejidad, el conocimiento, la
conciencia, y 1 coordinada organización dirigido hacia una meta, una
tendencia que, de no poner demasiado finas
1 un punto en ella, es posible que la etiqueta de "progreso".
Lo que llamaremos la vista Panglossian sostiene que este historial
de éxito
nos da buenas razones para pensar que la evolución (ya sea
biológico, memetic, o
tecnológicos) continuará liderando en direcciones deseables. Este
Panglossian ver, sin embargo,
puede ser criticada por al menos dos razones. En primer lugar,
porque no tenemos ninguna razón para pensar que todo este progreso
fue pasado en ningún sentido inevitable--mucho de él puede, para
aught sabemos, ha sido debido a la suerte. Y segundo, porque incluso
si el progreso logrado en el pasado fueron hasta cierto punto
inevitable, no hay garantía de que la melioristic tendencia
continuará en el
futuro indefinido. La primera objeción deriva cierto grado de apoyo
de la consideración de que un
efecto de selección de observación está funcionando para filtrar las
pruebas podemos tener acerca del éxito
2 de nuestro propio desarrollo evolutivo. Supongamos que fuera
cierto que el 99,9% de todos los planetas
donde la vida surgió, se extinguieron antes de desarrollar hasta el
punto de que
los observadores inteligentes podrían comenzar a meditar sobre su
origen. Si este fuera el caso, ¿qué deberíamos esperar para
observar? Respuesta: algo similar a lo que hacemos en el hecho de
observar. Claramente, la hipótesis de
que las probabilidades de desarrollar vida inteligente en un planeta
dado son bajos no predice que debemos
encontrarnos en un planeta donde la vida se extinguieron en una
etapa temprana. En su lugar, predice que debemos encontrarnos en un
planeta donde la vida inteligente ha evolucionado, incluso si tales
planetas constituyen una fracción muy pequeña de todos los planetas
donde la vida primitiva evolucionó. El largo historial de éxito de
la vida en nuestro pasado evolutivo, que uno puede tomar para
ingenuamente apoyan la hipótesis de que la vida es, en general, las
perspectivas son buenas y que hay algo parecido a la
inevitabilidad del surgimiento de organismos superiores desde
simples replicadores, resulta,
después de reflexionar sobre el abrumador efecto de selección de
observación el filtrado posibles
evidencias podríamos Tienen, no ofrecer ningún ese apoyo en todo,
porque esta es la misma evidencia de que deberíamos esperar a haber
tenido si la hipótesis optimista eran falsas. Una mucho
más cuidadoso examen de los detalles de nuestra historia evolutiva
se necesitarían para
eludir este efecto de selección. Dicho examen está más allá del
alcance del presente
documento 3. Este documento se centrará más bien en la segunda
objeción a la vista Panglossian. Incluso si el surgimiento de vida
inteligente desde simples replicadores han un robusto y casi
inevitable
, este proceso no nos dan fuertes motivos para pensar que la
tendencia positiva continuará. Una posibilidad es, por supuesto, que
un evento catastrófico puede provocar la repentina
1 Para un argumento que tanto la historia geológica y humana
manifiestan una tendencia hacia una mayor complejidad, véase (Wright
1999). Para un argumento contrario (criticado en el capítulo 9 del
libro de Wright), véase (Gould 1990).
2 Para la teoría de la observación de los efectos de selección, vea
Bostrom (2002a) y sus referencias.
3 Pero véase, por ejemplo, (Carter, 1983, 1989; Bostrom Hanson,
2002a; 1998b).
2 La

extinción de la especie humana. Algunos riesgos existenciales surgen

de la naturaleza, por ejemplo,
riesgos de impacto (meteoritos y asteroides), las pandemias, las
catástrofes, astrofísicos y supervolcano erupciones. Pero los
mayores riesgos existenciales son antropogénicas y surgen, más
específicamente,
presentes o futuras previstas de los desarrollos tecnológicos. Usos
destructivos de la
avanzada nanotecnología molecular, diseñador de los patógenos, las
futuras carreras de armamentos nucleares, experimentos de física de
alta energía, y auto-mejoramiento de AI con un mal concebido meta
system están entre las preocupantes perspectivas que podrían causar
el mundo humano para terminar en una explosión. Aquí, sin embargo,
vamos a estudiar un conjunto diferente de riesgo existencial, en el
que el mundo terminaría el
4 de manera más gradual, no con una explosión, sino con un quejido.
Dejemos pues suponer que ningún
cataclismo repentino pone fin a la vida. También nosotros debemos
apartar los escenarios en los cuales la evolución conduce a la
erosión de la complejidad. Vamos a estudiar cómo, incluso si el
desarrollo evolutivo continúa sin cesar en la dirección de una mayor
complejidad, sin embargo, las cosas podrían tomar un giro equivocado
que conduce a la desaparición de todas las cosas que valoramos. Este
papel no se afirman que esto es lo que sucederá. El objetivo es, más
bien, para
socavar nuestra confianza en la vista Panglossian y sugerir que una
postura más agnóstica refleja mejor la evidencia disponible. Voy a
examinar un par de escenarios en los cuales
rueda libre evolución nos llevan en direcciones indeseables, y voy a
argumentar
que si el futuro paisaje de fitness evolutivo es tal que estos
cursos evolutivos predeterminado (y no tenemos sólidas razones a
favor o en contra de esta hipótesis), entonces
la única forma en que podríamos evitar existencial a largo plazo
Desastre está por tomar el control de nuestra propia
evolución. Haciendo esto, voy a argumentar más, requeriría la
elaboración de un "singleton",
un orden mundial en el que al más alto nivel de organización hay
sólo un
poder de decisión independiente (que puede ser, pero no
necesariamente, un gobierno mundial).5
2. Dos distópica "hacia arriba" escenarios evolutivos
en esta sección vamos a considerar dos escenarios en los que la
evolución humana, potenciados por la
tecnología avanzada, conduce en direcciones que debemos considerar
como altamente indeseable.
Escenario I: Los insensatos Outsourcers
continúa el progreso tecnológico para acelerar y en algún momento la
tecnología de
6 "mente cargando" llega a ser posible. Algunos individuos humanos
cargar y hacer

4 Para obtener más información sobre riesgos existenciales, y la

clasificación de estos en "bangs", "whimpers" y otras categorías,
consulte Bostrom (2002b); también (Leslie 1996; Rees 2003; Posner
2004).
5 En singletons, vea Bostrom (2006).
6 Cargando abarcaría, en primer lugar, congelar un cerebro y, a
continuación, cortar en rodajas, luego de escanear las rodajas con
alguna técnica de escaneado de alta resolución y, a continuación,
utilizando el software de procesamiento de imágenes automatizado
para reconstruir y etiquetar un mapa 3D muy detallado del cerebro
original. El mapa mostraría todas las neuronas, la matriz de sus
interconexiones sinápticas, las fortalezas de estas uniones, y otros
detalles relevantes. Utilizando
3

muchas copias de sí mismos. Mientras tanto, hay un progreso gradual

en la neurociencia
y la inteligencia artificial, y eventualmente es posible aislar
los módulos cognitivos individuales y conectarlas a los módulos
cargados de otras mentes. Posiblemente, módulos tendría que estar
capacitado para poder comunicarse entre sí de
manera efectiva. Los módulos que se ajusten a una norma común, sería
mejor poder
comunicarse y cooperar con otros módulos y sería, por tanto,
económicamente más productivos, creando una presión para la
normalización. Pueden existir
múltiples estándares; algunos módulos podrían especializarse en la
traducción entre
normas incompatibles. Comenzar la carga competitiva creciente
externalización porciones
de su funcionalidad: "¿Por qué necesito saber aritmética cuando
puedo comprar tiempo de
aritmética-Modules Inc. siempre que necesito para hacer mis cuentas?
¿Por qué necesito para ser
buenos con el lenguaje cuando puedo contratar a un profesional del
módulo de lenguaje para expresar mis
pensamientos? ¿Por qué necesito para molestarse con la toma de
decisiones acerca de mi vida personal
cuando hay certificación ejecutiva-módulos que puede escanear mi
objetivo estructurar y administrar mis activos, de modo que lo mejor
para cumplir mis objetivos?" Algunas cargas pueden preferir
conservar la mayor parte de su funcionalidad y gestionar tareas sí
que podría ser más
eficiente si se hace por otros. Serían como los aficionados que
disfrutan de cultivar sus
propios vegetales o tejer sus propias cardigans; pero no sería menos
eficiente que otras cargas, y que, por tanto, quedaría outcompeted a
lo largo del tiempo.
Es posible que la eficiencia óptima se alcanzará mediante la
agrupación de habilidades en
agregados que son aproximadamente equivalentes en humanos. Podría
ser el caso, por ejemplo, que un
módulo de matemáticas deben estar adaptados a la lengua-module, y
que ambos deben ser adaptados a
la ejecutiva-módulo, a fin de que los tres son capaces de trabajar
juntos de manera eficaz.
La normalización podría estar casi totalmente impracticable. Pero es
difícil ver alguna
razón convincente para estar seguros de que esto es así. Para aught
sabemos,
mentes de tipo humano puede ser sólo óptimo dadas las limitaciones
de la neurología. Cuando resulta posible copiar módulos a voluntad,
para enviar señales de alto ancho de banda entre las piezas de
diferentes cerebros, y construir arquitecturas que no puede ser
fácilmente implementado en redes neuronales biológicas, puede
resultar que la optima en relación a este nuevo paisaje de
restricciones se ha desplazado de la región como la mente humana.
Puede no existir un nicho para arquitecturas mental de
7 a la especie humana.

Modelos computacionales de cómo funcionan estos elementos básicos,

todo el cerebro podría entonces ser emulados De manera
suficientemente amplio equipo. Para más detalles, véase (Sandberg
& Bostrom 2008).
7 algunas especulaciones sobre el futuro de la ecología de los
agentes inteligentes pueden encontrarse en (Chislenko 1996; Moravec
Moravec, 1989; 1999); cf. también Minsky (1988). Existe una amplia
literatura económica sobre los contratos, los costos de transacción,
el tamaño de la empresa, etc. que forman un fondo pertinente para
pensar acerca de la plausibilidad de la hipótesis de
externalización, pero una revisión de esta literatura está más allá
del alcance de este papel; el locus classicus (Coase 1937).
4

Puede haber nichos ecológicos para los complejos que o bien son
menos complejas (como
módulos individuales), más complejas (como las inmensas colonias de
módulos), o de complejidad similar como la mente humana pero con
arquitecturas radicalmente diferente. Serían estos complejos merezca
la pena desde nuestro punto de vista actual? Nosotros, previa
reflexión, realmente
a favor de un mundo en el que tales tipos de alienígenas complejos
han reemplazado complejos de tipo humano? La respuesta podría
depender de la naturaleza exacta de esos complejos alienígena. El
mundo actual contiene muchos niveles de organización. Algunas
entidades altamente complejas como
las corporaciones multinacionales y los estados nación contienen
seres humanos como constituyentes. Sin embargo, solemos
asignar estos complejos de alto nivel sólo valor instrumental. Las
empresas y los Estados
no (se supone generalmente) tienen por sí mismos la conciencia, más
allá de la
conciencia de la gente que constituyen ellos; no puede sentir dolor
o
placer fenomenal. Pensamos que son de valor sólo en la medida en que
sirven a las necesidades humanas. En
los casos en que no contribuyen al bienestar de toda criatura
sensible, nos "matar" a ellos
8 sin escrúpulos. También hay niveles inferiores de la organización
en el mundo de hoy, y a las
entidades que habitan en esos niveles no gozan de considerable valor
moral. Pensamos que no está mal para borrar un trozo de código
informático. Tampoco pensamos que un neurocirujano está
dañando a nadie cuando ella extirpates un módulo (quizás conteniendo
un centro epilépticos) de un cerebro humano si la operación ayuda a
las restantes partes del cerebro para que funcione mejor. En cuanto
a formas alienígenas de complejos de la misma complejidad como un
cerebro humano, la mayoría de nosotros podría asignarles valor sólo
si pensamos que tenían una capacidad de experiencia consciente. Así
podemos imaginar una sociedad tecnológicamente muy avanzados, que
contiene muchos
tipos de estructuras complejas, algunas de las cuales son mucho más
inteligentes y más intrincados que
nada de lo que existe hoy en día, en la cual no sería, sin embargo,
una ausencia total de cualquier
tipo de ser cuyo bienestar ha significado moral. En cierto sentido,
esto sería una
sociedad deshabitadas. Todos los tipos de vida que nos preocupamos
siquiera remotamente sobre habría
desaparecido. ¿Qué haría un mundo sin valor no es el hecho de que
las máquinas que habría
sustituido el hombre biológico. Si una cuenta está implementado en
las neuronas biológicas o en procesadores de silicio parece no hacer
ninguna diferencia moral fundamental. Más bien, la catástrofe sería
que ese mundo no contendría incluso el tipo correcto de las
máquinas, es decir, aquellas que
son conscientes y cuyo bienestar asuntos. Puede haber una abundancia
de riqueza económica y capacidad tecnológica en un mundo como el
actual, sin embargo, sería inútil porque no habría nadie allí para
beneficiarse de ella.
Escenario II: Todo-trabajo-y-no-Fun

8 Algunos nacionalistas fundamentalistas pueden creer que un Estado

nación ha estado moral independiente y tiene derecho a los
sacrificios humanos incluso cuando ninguna necesidad humana sería
servida. La mayoría de nosotros rechazamos esas opiniones.
5

incluso si no suponemos que la carga y la externalización resultará

en una
pérdida generalizada de conciencia, aún podemos contemplar la
posibilidad de que actividades intrínsecamente valiosa y estados de
conciencia se vuelven más escasos o desaparecer. Gran parte de la
vida humana su significado posiblemente depende del goce, por
su propio bien, humor y amor, el juego, el arte, el sexo, el baile,
la conversación social, la
filosofía, la literatura, el descubrimiento científico, la comida y
la bebida, la amistad, la paternidad,
y el deporte. Tenemos preferencias y capacidades que nos hacen
participar en tales
actividades, y estas predisposiciones son adaptables en nuestra
especie' pasado evolutivo;
pero lo que suelo hacer, hemos de estar seguros de que estas
actividades continuarán o similares
para ser adaptables en el futuro? Quizás lo que maximizará la
aptitud en el
futuro será nada pero non-stop de alta intensidad la monotonía, el
trabajo de una monótona y
repetitiva, encaminadas a mejorar el octavo decimal de cierta
producción económica medida. Incluso si los trabajadores
seleccionados en este escenario son conscientes, el mundo resultante
sería todavía empobrecido radicalmente en términos de las cualidades
que
dan valor a la vida.
Para ver por qué estos escenarios evolutivos no son absolutamente
tan improbable como puede
parecer, consideraremos brevemente cómo llegamos a donde estamos
hoy, y si los factores
que conducen a la evolución de la conciencia e interesantes
actividades será necesariamente
seguir promoviendo estos fenómenos valiosos, o si podrían reflejar
en su lugar Una fase transitoria en la historia de la vida
inteligente.

3. El nuestro es un desequilibrio evolutivo

si deseaba maximizar el número de su descendencia, su mejor
estrategia sería probablemente para donar como cantidad de
espermatozoides a los bancos de esperma como puede si son hombres, o
para convertirse en un
donante del huevo si son mujeres. La mayoría de nosotros no hacemos
esto porque la mayoría de nosotros no tienen ninguna gran deseo de
éxito reproductivo concebido de manera abstracta. Especialmente en
los
países desarrollados, las parejas suelen elegir a los niños tienen
mucho menos que el máximo que podía apoyar, y los programas de
bienestar social garantizaría la supervivencia de cualquier número
de hijos que una pareja no podía apoyar. La naturaleza humana es en
un desequilibrio evolutivo; nuestro evolucionado
disposiciones no están adaptadas a la adecuación del paisaje
contemporáneo y no maximizar el
9 inclusive fitness actual de los individuos.
Si la tecnología y la organización social fueron congelados
mágicamente en su estado actual,
la especie humana seguramente tendría que evolucionar las
preferencias que refleje más cabalmente la
función de fitness moderna. Esto podría suceder por nuestro
desarrollo de una preferencia directa para el éxito reproductivo (en
contraste con las preferencias por sexo, la crianza de los hijos,
etc.). Alternativamente, podríamos
9 No hay pruebas recientes de influencia genética sobre la
fertilidad humana resultados, más allá de lo que puede atribuirse al
equilibrio tasas de mutación; ver (Kirk 2001; Rogers et al. 2003).
6

desarrollar una fuerte aversión instintiva a la utilización de

métodos de control de natalidad. También es posible que
la evolución cultural sería actuar más rápido que la evolución
biológica, produciendo un meme dominante
conjunto favoreciendo abundante descendencia y oponerse a todas las
formas de control de la natalidad.10 El crecimiento de la población
es limitada no sólo por nuestra relativa falta de interés en tener
hijos, sino también por la biología de la reproducción humana y
maduración. Las parejas pueden producir sólo un niño por año y se
lleva a un recién nacido alrededor de una década y media para
alcanzar la madurez sexual. Incluso estos inhibidores fisiológicos
del crecimiento de la población puede ser reducida. Si bien la
evolución biológica probablemente podría reducir la duración del
embarazo humano y tiempo a la pubertad, en cierta medida, efectos
mucho más radical podría ser el resultado de la
evolución tecnológica. Cargas (y las inteligencias artificiales)
podría reproducir prácticamente de manera instantánea. Además, desde
sus "hijos" (copias) sería idéntico al
original, no habría ningún maturational latencia. El crecimiento de
la población en la población
podría ser una carga rápidamente exponencial, con un tiempo de
duplicación potencial de días o menos. El actual nivel sin
precedentes de renta media global es el resultado del hecho de
que, durante mucho tiempo, la economía mundial ha crecido más rápido
que la población mundial.
La renta media sólo puede aumentar si el crecimiento económico
supera el crecimiento de la población. Si y cuando
la motivación fisiológica y los impedimentos para el crecimiento de
la población se reduce,
la tasa de crecimiento de la población sería empezar a acelerar,
alcanzar potencialmente "cerca del infinito" cuando la carga llega a
ser posible. El crecimiento económico sería incapaz de mantenerse a
la par con el
crecimiento de la población en una población de reproducir
libremente las cargas. Si un programa de bienestar social trató de
garantizar una renta mínima para cargas mientras permitiendo una
reproducción ilimitada,
11 sería muy rápido quiebran incluso estelar dadas las tasas de
crecimiento económico. Si
no se impusieran limitaciones sociales sobre la reproducción, las
limitaciones de recursos se iniciaría en el ingreso promedio y
conduzca a un nivel que hizo imposible la reproducción frecuente.12
Estas reflexiones nos advierten contra la importación ingenuamente
intuiciones sobre el
estado actual de las cosas en nuestro modo de pensar acerca del
futuro. Podría parecer que el pesimismo maltusiano

10 ya hay algunos datos sugiriendo memetic efectos en el gimnasio.

La expansión de la Hutterites, una secta anabaptista, es atribuible
a su extremadamente alta tasa de fecundidad (Eaton y Mayer, 1953).
Un promedio Hutterite mujer da a luz a nueve hijos. Los Hutterites
se oponen a cualquier tipo de control de la natalidad y ver la alta
fecundidad como un signo de la bendición divina. Las mujeres
católicas romanas tienen aproximadamente un 20% mayor aptitud
reproductora de la mujer de otras religiones (KIRK 2001). Por el
contrario, los partidarios de VHEMT (movimiento de extinción humana
voluntaria) han rechazado el tener hijos por completo, lo que les
daría cero fitness (Knight, 2001). Las mujeres con estudios
universitar soitienne un 35% de menor aptitud que aquellos con menos
de siete años de educación (KIRK 2001), y no religiosas también
tienen menor al promedio de fitness.
11 Incluso si pudiéramos colonizar el universo en todas direcciones
a la velocidad de la luz, ello sólo serviría para aumentar los
recursos bajo control humano exponencialmente (a una tasa de ~ t2),
mientras que el crecimiento demográfico desenfrenado puede
fácilmente ser exponencial (~ e t).
12 Para un análisis de la economía de cargar, ver (Hanson, 1994).
7

13 han sido refutadas por la historia de los últimos doscientos

años. Han
mejorado las condiciones de vida incluso en la ausencia de control
de la población, al contrario de Malthus es notorio la
predicción. Sin embargo, esta anomalía se explica por los factores
mencionados anteriormente: nuestras
preferencias no están en un equilibrio evolutivo y la lentitud de la
reproducción humana. Si evolutivo más o desarrollos tecnológicos
fueron para eliminar estos
factores inhibitorios, las tasas de crecimiento de la población
podría fácilmente llegar a superar el crecimiento económico, en el
advenimiento de una era malthusiana donde la renta media se cierne
cerca del nivel de subsistencia. Con
carga ilimitada de reproducción, esta transición podría pasar casi
instantáneamente.

4. Señalización costosa y ostentosa exhibición?

Hacemos muchas cosas que no lo son, en un sentido estricto
instrumentalmente útil: bailamos, broma, escribir poesía, Tira
Partes, ir de vacaciones, se visten con ropa de moda caros, observar
y participar en deportes, y así sucesivamente. Que actualmente
estamos en un
desequilibrio evolutivo no da cuenta de esto: Incluso nuestros
antepasados Pleistoceno exhiben muchos de
estos comportamientos "inútil". Por otra parte, dichos
comportamientos no se limitan a los seres humanos:
[extravagante muestra] aparecen en una variedad de contextos, desde
concursos de selección sexual en el mundo animal, a concursos de
prestigio entre los miembros de los estados-nación contemporáneos
que abarcan continentes con enormes sistemas de carreteras, e
incluso la gente de la tierra a
la Luna.14 Una explicación evolutiva para la existencia de Tales
comportamientos es que funcionan
como duro-a-señales falsas de importantes cualidades que son
difíciles de observar directamente,
tales como la aptitud física o mental, condición social, calidad de
aliados, capacidad y voluntad de prevalecer en una lucha, o la
posesión de recursos. No sólo el comportamiento sino la morfología,
también puede servir como una señal, la cola del pavo real de ser un
paradigma. Una extravagante cola es un
handicap que sólo caben pavos puede permitirse y, peahens han
evolucionado para ser sexualmente atraído por esas colas porque son
indicadores de aptitud genética.15 Dado que la ostentosa exhibición
es tan común entre los seres humanos y otras
especies, uno podría considerar si no también ser parte del
repertorio de

13 Thomas Robert Malthus (1766-1834), político economista y

demógrafo, argumentó que el nivel de vida de la clase obrera no
podría elevarse sin control de la población debido a que el aumento
de los ingresos llevaría eventualmente a los trabajadores que tienen
más hijos sobrevivientes, lo que elevaría los salarios hacia abajo
otra vez. Pero Malthus no era tan completamente pesimista como
comúnmente se piensa. En la segunda, rara vez leen, edición de su
ensayo sobre la población escribe: "Aunque nuestras perspectivas de
futuro respetando la mitigación de los males derivados del principio
de la población puede no ser tan brillante como podríamos desear,
pero están lejos de ser totalmente desalentador." (Malthus 1803).
14 (Kansa 2003).
15 Véase, por ejemplo, (Zehavi et al. 1999).
8

formas de vida tecnológicamente más madura. Tenemos la esperanza de

que incluso si no hubiera
estricto uso instrumental para jugar o incluso para mentes
conscientes en el futuro ecología de vida inteligente, estas
características podrían sin embargo conferir ventajas evolutivas a
sus poseedores en virtud de ser señales fiables de otras cualidades
adaptativas. Sin embargo, aunque esta posibilidad es difícil de
descartar, hay varias razones para el escepticismo que socavan la
confianza Panglossian prescrito por la vista. En primer lugar,
muchos de los extravagantes muestra que encontramos en la naturaleza
están relacionadas con Sexual
16 selección. Sin embargo, la reproducción entre formas de vida
tecnológicamente maduros bien puede ser asexual.
En particular, esto es así en la carga de situación descrita
anteriormente. En segundo lugar, los nuevos métodos de comunicar
información fiable sobre sí mismo podría estar disponible para las
criaturas, métodos tecnológicamente maduros que no se basan en la
ostentosa
exhibición. Incluso hoy, los prestamistas profesionales tienden a
depender más de certificados de propiedad,
extractos bancarios y similares, que en costosas pantallas como
trajes de diseño y relojes Rolex.
En el futuro, podría ser posible utilizar firmas de auditoría que
puede comprobar mediante
inspección directa que un cliente posee un atributo reclamados. Uno
de señalización por las cualidades de este tipo de auditoría puede
ser mucho más eficaz que la vía de señalización ostentosa
exhibición. Dicha
señal mediada profesionalmente aún sería costoso fake (esto es, por
supuesto, la
característica esencial que hace que la señal fiable), pero la señal
podría ser mucho más barato para transmitir de
una forma llamativa comunicado uno cuando es veraz. En tercer lugar,
no todas las posibles costosas o "Flamboyant" muestra son las que
debemos
considerar como intrínsecamente valiosa:
[señalización] costosos no sólo toma la forma de aprovisionamiento
de bienes públicos que mejoran las prestaciones del grupo. Muchas
señales costosas adoptan la forma de "residuos" donde
los gastos no confieren ningún beneficio de grupo... En el noroeste
de Estados Unidos, el
Kwakiutl n potlatch ceremonias públicas implicó la destrucción de
vastas cantidades de
riqueza acumulada principalmente en el contexto de la competencia.
17,

mientras que el humor, la música y la poesía puede plausiblemente

decirse para mejorar la calidad intrínseca de la vida humana--aparte
de ninguna de las prestaciones sociales--es más dudoso que la misma
afirmación puede ser sostenido con respecto a la costosa búsqueda de
tendencias de moda o con respecto a posturas machistas que conducen
a la violencia de las pandillas o bravado militar. Incluso si en el
futuro las formas de vida inteligente,
utilizaría la señalización costosa, por lo tanto, es una cuestión
abierta si la señal sería
intrínsecamente valiosa: si sería como el ruiseñor's extasiada
canción o más como
el sapo's monosílabos croar.

16 Véase (Miller 2000a).

17 (Kansa 2003). Para tomar una provocativa, véase también (Frank,
2000).
9

5. Dos sentidos de outcompeted

debemos distinguir dos sentidos diferentes en los que una especie
puede ser outcompeted por otras formas de vida. En los escenarios
presentados en la sección 2, la subcontratación y las cargas de
trabajo de todos- no reproducir los agentes fueron postuladas para
medrar mejor que los agentes que conservan la conciencia y
aficionado intereses (vamos a término este último eudaemonic
agentes). Esto podría significar una cosa es
que los antiguos tipos de agente gradualmente obtener los recursos
originalmente celebrada por los
agentes eudaemonic, de manera que este último podría quedarse sin
recursos y extinguido.
Este es el típico resultado evolutivo cuando un tipo de organismo
outcompetes otro. Pero también podríamos concebir el caso donde los
agentes eudaemonic continuar
existiendo indefinidamente, quizás en números sin mengua, y son
outcompeted sólo en el sentido
de que comprende una constante disminución de la fracción de la
población total de agentes y de controlar a una constante
disminución de la fracción de la riqueza total del mundo. Es
cuestionable si los
agentes eudaemonic podría, a la larga, evitar su idoneidad
maximizando los competidores de
que asolaban a ellos y expropiar sus bienes. Pero incluso si los
agentes eudaemonic podría
hacerlo, y escapar de la extinción, el resultado seguiría siendo un
desastre porque supondría una
enorme pérdida de oportunidades. Como un fuego que asola, el
fitness-maximizers sería consuma
recursos (espacio, luz solar, asunto, etc.) que podrían haberse
utilizado para
fines más significativa por los agentes eudaemonic.18
6. Podemos controlar nuestra propia evolución?
Supongamos que se podía prever que una de la distópica escenarios
evolutivos descritos anteriormente representa el curso
predeterminado del desarrollo de nuestra especie. Lo que sería
entonces nuestras
opciones? Una respuesta sería sentarse y dejar que las cosas se
deslice. Podríamos reforzar nuestra
pasividad contemplando la mayor aptitud evolutiva de la no-agentes
eudaemonic:
ser más apto, no son más dignos poseedores de los recursos del
mundo? Aunque pocos apoyaría este argumento en su forma explícita,
es bastante posible que algunos pensamientos relacionados--Quizás
deferencia al "orden natural" o la aceptación de la idea de que el
poder
da la razón--puede haber encontrado un escondite en las esquinas
oscuras de algunas mentes. Podemos expulsar a esas nociones
recordando que si una plaga de doomsday surgido y mató a todos los
mamíferos, esto no implicaría que los patógenos", "Victoria" era una
buena cosa, aunque
esto significaría que la plaga había demostrado ser montador.

18 cumplimiento estricto Los derechos de propiedad podría limitar la

destrucción de recursos no originalmente propiedad del eudaemonic
agentes. Esto último podría incluso gestionar para salvar algunos
recursos adicionales por colonizar nuevos territorios, aunque
finalmente las oportunidades para tal adquisición desaparecería como
el fitness maximizers (siendo ex hypothesi más eficiente) habría
conseguido allí primero. La dinámica de esa colonización es
analizada en la carrera (Hanson, 1998a).
10

otra respuesta sería de lamentar el resultado distópica sino llegar

a la conclusión de que
no se podía hacer nada para evitarlo. Si la externalización o fatiga
constante tiene un mayor valor de fitness
de eudaemonic vivir, no teoría de la evolución entonces implica que
los agentes eudaemonic desaparecerá? Sin embargo, como veremos, el
futuro no necesitan ser desesperada, incluso si el curso de la
evolución es predeterminado distópica. La evolución nos hizo lo que
somos, pero ningún
principio fundamental se interpone en el camino de nuestro
desarrollo de la capacidad de intervenir en el
curso de los acontecimientos predeterminados con el fin de orientar
la evolución futura hacia un destino más agradable para los valores
humanos. Dirigir nuestra propia evolución, sin embargo, requiere la
coordinación. Si el
curso evolutivo predeterminado es distópica, tomaría coordinado para
girar el barco remando a la
humanidad en una dirección más favorable. Si sólo algunas personas
eligieron la alternativa eudaemonic, mientras que otros persiguen la
maximización de fitness, entonces, por supuesto, sería el
último que prevalecerían. Fitness-maximizar variantes, incluso si
ellos comenzó como una minoría, sería seleccionado para
preferentemente a expensas del eudaemonic agentes, y se establecería
un proceso en movimiento que conducen inexorablemente a la
minimización o desaparición de
eudaemonic cualidades, y el no-agentes eudaemonic quedaría para
ejecutar la presentación.
A este problema sólo hay dos posibles soluciones: la prevención no
eudaemonic
variantes surjan en primer lugar, o bien modificar la función de
adecuación para que eudaemonic
fitness rasgos se maximiza. Examinemos estas dos opciones a la vez.
7. Prevención No eudaemonic agentes de derivados
es bastante verosímil suponer que formas de vida tecnológicamente
avanzada sería capaz de
prevenir la ocurrencia de mutaciones no deseados, al menos si
entendemos "mutación" en un sentido estrecho. Los métodos
criptográficos y códigos de corrección de errores podría reducir la
transmisión de errores y errores de copia a niveles insignificantes.
Los sistemas de control de los
replicadores nanotechnological puede estar encriptada, de manera que
tengan una evolución-Prueba (cualquier azar
19 cambio sería prácticamente seguro para destruir totalmente el
replicador). Para cargas,
evitando la mutación reproductiva puede ser simplemente una cuestión
de realizar varias comprobaciones
que la copia es idéntica al original antes de que se ejecute.
Incluso para las criaturas biológicas
simple por la nanotecnología, suficientemente avanzada tecnología
genética debería hacer todo lo posible
para escanear todos los embriones no deseados y ordinaria de las
mutaciones, la recombinación genética podría evitarse
con el uso de la clonación reproductiva. Código fuente de mutación y
recombinación genética no son, sin embargo, la única manera en que
las nuevas variantes con propiedades inesperadas pueden surgir.
Examine de nuevo la
carga de escenario donde carga subcontratar gran parte de su
funcionalidad y compartir módulos mentales. Recombinando diferentes
módulos podría provocar inesperados fenómenos emergentes.
19 Véase (Drexler, 1985).
11

Asimismo, el fortalecimiento de las diversas capacidades cognitivas

o emocionales, o la entrega de
nuevas capacidades, podría producir efectos combinatorio que puede
no ser totalmente
predecible. El crecimiento y la maduración normal de un individuo
podría conducir al desarrollo de un fitness-maximización no
eudaemonic personaje, incluso donde no se
manifiesta en el momento de la concepción. Novela influencias
memetic también podría desencadenar no eudaemonic
tendencias. Por lo tanto, aunque es plausible que una forma de vida
avanzada podría evitar mutaciones aleatorias en su código fuente, es
más dudoso que sería capaz de predecir y evitar efectos emergentes
de crecimiento, la mejora y el aprendizaje en personas o en la
interacción de
las comunidades de desarrollo de agentes. Prevención de idoneidad
maximizar no-eudaemonic
ocasionalmente las variantes derivadas puede ser inviable o puede
requerir la creación de una sociedad completamente estática, donde
la experimentación individual y las mejoras son prohibidos y donde
no
se permite la reorganización social. Tal fossilized mundo parece
intrínsecamente indeseable.20
Incluso si los agentes eudaemonic podría impedir que surjan mutantes
peligrosos, sus
esfuerzos serían en vano si la población original ya contenía
algunos individuos con no-fitness eudaemonic maximizar las
preferencias, porque estos sería proliferan y eventualmente dominar.
Y sin duda podemos suponer que al menos algunos
individuos humanos actual sería cargar si pudieran, harían que
muchas copias de sí mismos si se les
carga, y estaría encantado de abrazar la externalización o privarse
de ocio si pudieran incrementar su idoneidad. Estas personas que de
alguna manera tienen que desaparecer de la
población, y es difícil ver alguna práctica y ética en el modo en
que esto podría suceder. Prevenir la distópica escenarios evolutivos
impidiendo a los no-eudaemonic
agentes de derivados es, pues, un non-starter. En la mayoría, esta
medida podría servir un papel auxiliar. En ciertos casos, podría
tener sentido para intentar reducir la frecuencia con que
se generan los mutantes peligrosos--En los casos en que esto se
puede hacer de una forma relativamente económica,
de una manera éticamente aceptables, y donde perjudica claro y
específico se pueden prever. Por
ejemplo, en el futuro podríamos aprobar leyes en contra de la
creación de potentes inteligencias artificiales
con el objetivo de sistemas que son hostiles a los valores humanos.
Pero no podemos confiar en esta estrategia solo
para prevenir un escenario evolutivo distópica si tal escenario
debería pasar a ser la
predeterminada.
8. Modificar la función de adecuación de
la segunda opción es modificar la función de adecuación para que
agentes continúan eudaemonic tienen al menos algún nicho en el que
son maximizar la aptitud. El éxito reproductivo diferencial de genes
humanos- o meme-tipos está determinada
no sólo por el hábitat natural en el que viven, sino también por su
entorno social.
Las instituciones sociales, leyes y actitudes de otras personas
definen las opciones abiertas para nosotros como

20 Cf. (Huxley, 1932).

12

individuos y determinar los efectos que estas decisiones tienen

sobre nuestra adaptabilidad. Las
estructuras sociales podría organizarse de una manera que reduce la
aptitud de no eudaemonic tipos
y mejora la aptitud de eudaemonic tipos. Estas estructuras, si lo
suficientemente estable, podría
limitar el desarrollo evolutivo de un conjunto de trayectorias en la
cual el tipo eudaemonic florece. Sería engañoso para caracterizar
esa intervención como "ayudar al débil e
inadecuado". La manera en que la sociedad está configurado
parcialmente define qué tipos son aptos y "fuerte" (en el sentido de
ser capaz de utilizar los medios disponibles para proliferar). Si
queremos evitar las
trayectorias evolutivas que conducen a una región del espacio de
estados donde las cualidades valoramos están extintas o
marginados, luego escultura social de las condiciones para el éxito
reproductivo puede ser nuestro
único recurso. El término "éxito reproductivo" aquí no sólo abarca
la
reproducción sexual biológica sino también cargar la duplicación y
en general la difusión de formas de organizaciones. La conformación
social de las condiciones para el éxito reproductivo, por supuesto,
es un hecho
de la vida de cada organismo que vive en las sociedades; pero la
sugerencia aquí es que podría
ser necesario ajustar deliberadamente para que estas condiciones
favorecen eudaemonic tipos. Evidentemente, no necesidad de
reestructurar todos los nichos de mercado para que favorecen
eudaemonic agentes.
Hacerlo equivaldría a trabajar hacia la eliminación de todos los no-
eudaemonic agentes. Pero muchos no-eudaemonic agentes son
inofensivos; muchos de ellos son muy útiles para
los agentes eudaemonic. Así como los seres humanos actuales se
benefician de otras especies, que no representan una amenaza seria
para la especie humana, así también agentes tecnológicamente más
avanzados pueden
beneficiarse de la existencia de una ecología no eudaemonic agentes.
No eudaemonic tales agentes podrían servir económicamente útiles
funciones. No sólo aquellos agentes eudaemonic que amenazan con
invadir el nicho ocupado por los agentes eudaemonic plantean un
riesgo evolutivo; o, más exactamente, (desde los agentes eudaemonic
podrían moverse de una posición a otra), la preocupación se refiere
a los no-eudaemonic agentes como reduciría el tamaño total de los
nichos disponibles para eudaemonic tipos. El objetivo es maximizar
la
cantidad total de recursos poseídos por agentes eudaemonic o, en
cualquier caso, para evitar que esta cantidad se
caiga a cero. No eudaemonic agentes, incluso si reducen la fracción
de los recursos
poseídos por agentes eudaemonic, podría ser beneficiosa en
equilibrio si también aumentó el
monto total de los recursos disponibles. No sensible robots de
propietarios, por ejemplo, teóricamente podría tener ese efecto.
9. Políticas para la dirección evolutiva de
qué tipo de intervención sería necesaria para dar forma a las
condiciones sociales, de modo que favorecen
eudaemonic tipos? Un método sencillo pero crudo sería prohibir la
subcontratación (y otros
tipos de no-eudaemonic fenotipos). Dicha prohibición, sin embargo,
resultaría costoso ya que estamos
suponiendo que muchas tareas productivas son la manera más eficiente
a través de la
13 de la

externalización. Un enfoque más eficaz sería gravar a la

externalización y subsidiar
eudaemonic arquitecturas cognitivas. De esta manera, la
externalización se utilizaría para las tareas
donde se produce los mayores retornos y el nivel de tributación
podría fijarse en un nivel que garantice el tipo eudaemonic continúa
prosperando. Uno podría pensar que no habría razones económicas para
subvencionar el
tipo eudaemonic, porque en la medida en que valoramos este tipo
estaríamos dispuestos a gastar
nuestro dinero en asegurar su existencia, quizás por ocuparnos de
eudaemonic
actividades. No tenemos, en el mundo de hoy, consulte cualquier
necesidad especial para fomentar el
consumo presente al gravar la inversión. Quizás no los individuos
que actúan en un mercado libre, asignar
sus recursos de manera óptima entre eudaemonic "consumo" y no
eudaemonic
"inversión" (en empresas que pueden producir recursos que podrían
posteriormente han sido
eudaemonically consumidos)? Hay al menos tres posibles razones para
ser escépticos de
que la mano invisible constituiría en sí misma orquestar una viable,
mucho menos óptima, la solución al problema no eudaemonic
competencia.
En primer lugar, los derechos de propiedad no siempre pueden ser
perfectamente aplicados. Si no eudaemonic
tipos emergen y se vuelven inmensamente poderosas, podrían robar la
eudaemonic agentes. Tal podría ser el robo descarado, como en un
gran golpe de estado o en una serie de agresiones leves por no
eudaemonic grupos o individuos; o podría tomar una forma más sutil,
como en influenciar a los gobiernos a promulgar legislación que
favorece injustamente no eudaemonic intereses.
Agentes Eudaemonic también podría robar no eudaemonic agentes, sino
porque sería menos productivo que
uno esperaría un flujo neto de recursos a organizaciones no
eudaemonic agentes. Incluso si los
derechos de propiedad existentes fueron cumplidas, persistiría el
enorme costo de oportunidad de tener el
no-agentes eudemonic colonizando el cosmic commons para que los
derechos de propiedad todavía no han sido asignados. 21 En
segundo lugar, los valores de la población eudaemonic inicial no
puede ser conservado para siempre. Tal preservación requeriría que
los agentes eudaemonic inicial no
mueran y que sus eudaemonic preferencias no cambian a través de los
eones, o bien que se
elija para reproducir casi exclusivamente en formas que transmiten
sus preferencias eudaemonic
a su progenie sin diluir. Si hubo cruzamientos ocasionales donde
desarrollar agentes eudaemonic no eudaemonic preferencia, o tener
descendencia con tales preferencias, entonces
esto tendría que ser compensado con al menos igualmente gran flujo
en la
dirección opuesta. Ya hemos discutido el problema de prevenir la
ocurrencia de tales cruces.22

21 Véase Hanson (1998a).

22 Hemos observado que los códigos de corrección de errores debe
realizar reproducciones arbitrariamente fiables. Las cargas no
sufren crianza biológica, y la costumbre de mantener copias de
seguridad en ubicaciones dispersas debería reducir el riesgo de
muerte accidental a un nivel muy bajo. Como una posible forma de
reducir el riesgo de que las preferencias básicas podría derivar en
maneras inesperadas cuando se instalan o nuevas capacidades
adquiridas, sería interesante considerar el uso de pactos de
seguridad. La idea es que se potencie algunos agentes
14 En

tercer lugar, si la existencia de una floreciente población

aficionado es un bien público (es decir, no
rivalrous y no excluyentes), será infrasuministrado por el mercado.
Usted y yo y otro millón de personas podrían todos desean que exista
eudaemonic agentes en el mundo un largo
tiempo desde ahora. Cada uno de nosotros se da cuenta de que
nuestras acciones individuales, pero tendrá un efecto insignificante
sobre el resultado. Por lo tanto, nosotros cada gastar nuestros
recursos en otros objetivos, y el resultado
es que el tipo de eudaemonic desaparece. Esto es compatible con
nuestra conviniendo en que nuestros
intereses habría sido mejor si alguna fracción de nuestros recursos
habían sido retiradas
en una eudaemonics fondo de conservación. La provisión del bien
público mundial--En este caso, la continua existencia de eudaemonic
tipos en el futuro indefinido--ha sido frustrado por el problema de
parasitismo.
Por estos tres motivos, hay motivo para dudar de que un enfoque de
laissez-faire daría
una protección adecuada al tipo de eudaemonic. Pero antes de
avanzar, consideremos de nuevo la primera de estas objeciones al
enfoque de laissez-faire en un poco más de detalle.
10. Desvío de
la preocupación es que podría resultar inviable para garantizar que
los derechos de propiedad están perfectamente
ejecutada. Los agentes pueden ocasionalmente robar mutuamente los
recursos; o en un escenario más extremas, puede haber una guerra
general de recursos. Sin embargo, no parece haber ninguna razón para
pensar que esas peleas sería perfectamente bipolar entre dos grandes
coaliciones de concurso,
y el no-eudaemonic agentes eudaemonic luchando en bandos opuestos.
En su lugar,
puede haber diversas y cambiantes alianzas entre individuo y no
eudaemonic eudaemonic agentes. En un conflicto de esta índole,
habría una pérdida social neto en términos de gasto en protección y
servicios de seguridad, armamentos y, probablemente, también en
términos de
bajas y daños colaterales. Es casi seguro que hay un
costo de oportunidad adicional en términos de oportunidades perdidas
para la colaboración. Pero suponiendo que no
se ha desplegado armas doomsday que causa la extinción de toda la
población de formas de vida inteligente (que no es una pura
suposición) todavía podemos preguntarnos si tal conflicto conduciría
necesariamente a la eventual extinción del eudaemonic tipo. Pues lo
que tenemos aquí es un caso de dos tipos de organismo-un tipo más
eficiente que el de otros enzarzados en una lucha por el mismo
recurso nicho, uno podría esperar,

Que confíe a revertir su auto-modificaciones si creen que las

modificaciones han cambiado en una forma que no hubiera aprobado
antes del cambio. Si son una carga, también podría ser capaz de
crear una copia de sí mismo y, a continuación, nombrar esta copia
como un supervisor de confianza del proceso de transformación con la
autoridad para revertir los cambios realizados dentro de un
intervalo si juzga que las modificaciones han sido para peor.
También podría ser interesante estudiar cómo dichas técnicas se
refieren a dispositional hipotéticas teorías del valor (Lewis, 1989;
Johnston 1989), teoría del observador ideal y, más generalmente, a
la ética de la potenciación humana (Glover, 1984; 2004; Bostrom
Bostrom y Roache 2007; Savulescu y Bostrom 2009).
15

de tipo ecológico, que el menos eficiente tipo acabarán por

desaparecer. (Algunos de los
agentes eudaemonic pueden sobrevivir, pero al precio de perder sus
inclinaciones eudaemonic o verse
obligado, a fin de seguir siendo competitivos, para mantener esas
inclinaciones perpetuamente reprimidas.)
Pero, en realidad, no es del todo claro que esto es lo que
sucedería. La situación difiere de la de la competencia entre las
formas de vida más primitivas, como las plantas y los animales. Los
agentes implicados en esta lucha pueden formar alianzas
estratégicas. Además, a diferencia de la competencia política del
hombre actual, donde las alianzas cambian con el tiempo, podría ser
posible que formas de vida más avanzadas de forma verificable a
comprometerse definitivamente a una
alianza particular-mente (quizás usando las técnicas de exploración
y tecnologías para controlar la
motivación). Si esos compromisos permanentes son posibles, entonces
cuando estalla la guerra,
varias coaliciones en ciernes pueden negociar a favor de la lealtad
de los individuos no afiliados. En esta etapa, algunos agentes
pueden eudaemonic huelga acuerdos favorables con lo que resulta ser
la coalición ganadora. Después de la victoria, el eudemonic agentes
en la coalición ganadora no podía,
por supuesto, cambie sus lealtades, así que los agentes eudaemonic
sobreviviente puede entonces tener garantizada su seguridad en
perpetuo.

11. Sólo un singleton podría controlar la evolución,

incluso si los supervivientes de ese concurso, en definitiva llegar
a disfrutar de la paz perpetua, habrían llegado hasta allí por un
costoso y arriesgado desvío. Podríamos llegar al mismo destino más
directamente, evitando el desperdicio y el desgaste y algunos de los
riesgos de conflicto, creando
un singleton. La alianza estable que hemos especulado podrían
formarse en el final del conflicto
sería de hecho un régimen global que podría aplicar leyes básicas
para sus miembros; en otras palabras, sería una especie de
singleton. A fin de estar seguros de la estabilidad, no sólo
tendrían que carecen de competidores externos; sus asuntos internos
también tendría que regularse de tal manera que no hay retos
internos para su constitución podría surgir. Esto requeriría que la
alianza se implementa una política coordinada para prevenir los
acontecimientos internos de
inaugurar éste en una trayectoria evolutiva que termina por derrocar
su acuerdo constitucional, y hacerlo sería presumiblemente implica
modificar la función de adecuación para su
ecología interna de los agentes, por ejemplo, por medio de un
impuesto independiente códigos para eudaemonic y no
eudaemonic agentes combinados, Quizás, con una prohibición de la
creación de agentes de los
tipos más peligrosos.
El Reining en evolución es una hazaña que sólo podía lograrse
mediante un singleton. Un
poder local podría ser capaz de controlar la evolución de su propio
sistema interno de la ecología, pero a menos que estas
intervenciones han servido para maximizar su productividad total (lo
cual sería incompatible con la acción afirmativa para eudaemonic
actividades), la selección evolutiva sería simplemente resurgir
a un nivel superior. Las potencias que optaron a maximizar su
desarrollo económico en lugar de su
productividad eudaemonic superan a las potencias rivales que eran
menos de modo unánime
obsesionada por adelantar su situación competitiva y en el largo
plazo los poderes eudaemonic
16

pasaría a ser marginados o extintos o estaría obligado a rescindir

sus eudaemonic
políticas. En este contexto, el "largo plazo" puede ser muy corto,
especialmente en la carga de escenario donde la reproducción podría
ser extremadamente rápido. Además, si las potencias eudaemonic
podría anticipar que serían outcompeted si continuaban con
sus actividades eudaemonic, podrán decidir a escala volver sobre
tales actividades incluso antes fueron invadidos por los no-
eudaemonic poderes. Tales efectos anticipatorios podría producir
manifestaciones inmediatas de desarrollo evolutivo que tomarían
mucho
tiempo para desplegar. El resultado, en cualquier caso, sería una
tremenda pérdida de eudaemonic
potencial. Un singleton podría evitar este desafortunado desenlace
promoviendo eudaemonic tipos
y actividades dentro de su jurisdicción.23 Desde un singleton
carecería de
competidores externos, no habría un nivel superior al que podría
obtener la selección evolutiva
afianzada y empezar a penalizar el singleton no la política de
maximización de la
productividad económica.
Un singleton no necesita ser un monolito (excepto en el sentido
trivial que tiene algún tipo de mecanismo o procedimiento de
decisión que le permite resolver problemas de coordinación interna).
Hay muchas posibles constituciones singleton: un singleton podría
ser un
gobierno mundial democrático, benévolo y abrumadoramente poderoso
superintelligent máquina, una dictadura mundial, una alianza estable
de potencias, o incluso algo tan abstracto como un
código moral generalmente difundida que incluía disposiciones para
asegurar su propia estabilidad y
cumplimiento.24 un singleton puede resultar bastante minimalista
Estructura que podría funcionar sin perturbar significativamente la
vida de sus habitantes. Y no tiene por qué prohibir la novedad y la
experimentación, puesto que conservaría la capacidad para intervenir
en una etapa posterior para proteger su
constitución si algunos acontecimientos gira malignos.
Aumento de la transparencia social, como pueden ser el resultado de
los avances en la
tecnología de vigilancia de detección o mentira, podría facilitar el
desarrollo de un singleton.25 deliberar

23 Uno podría preguntarse cómo un espacio-colonizar singleton podría

aplicar sus leyes sobre las distancias cósmicas y hacerlo sin
desintegrarse aún más escalas temporales de millones de años. Sin
embargo, esto parece estar en la raíz de un problema técnico. Una
solución sería asegurar que la meta-sistema de todos los
colonizadores envía incluyen un deseo fundamental para obedecer las
leyes básicas de la singleton. Y una de estas leyes puede ser
asegurarse que cualquier progenie producida también deben compartir
este deseo fundamental. Además, la Ley fundamental se podría
estipular que, a medida que mejora la tecnología, las normas de
seguridad para la reproducción (el grado de verificación necesarios
para asegurar que la progenie o sondas de colonización comparten el
deseo fundamental de obedecer la constitución básica) mejoran
correspondientemente, de modo que la probabilidad de deserción
asymptotically se aproxima a cero. Si bien esta propuesta puede
parecer intimidante tecnológicamente, debemos tener en cuenta que
cualquier Imperio galáctico sería tecnológicamente muy avanzado. Un
singleton podría posponer el amplio espacio hasta que la
colonización ha desarrollado la tecnología de control necesaria para
asegurar su propia estabilidad a largo plazo.
24 para un escenario de este tipo, véase (Miller 2000b).
25 Véase (Brin 1998).
17

las iniciativas políticas internacionales también podría conducir a

la aparición gradual de un singleton, y
estas iniciativas pueden verse drásticamente catalizada por 'wild
card' de eventos tales como una serie de
cataclismos que puso de relieve las desventajas de una fractura en
el orden mundial. Sería un
error juzgar la verosimilitud de la última evolución de un
singleton, sobre la base de
las tendencias efímeras en los asuntos internacionales actuales. La
conformación de las condiciones básicas de la
realidad política puede cambiar a medida que las nuevas tecnologías
están en línea, y, vale la pena señalar que la
tendencia histórica a largo plazo es hacia el aumento del alcance de
la coordinación y la
integración política.26 Si esta tendencia continúa, la culminación
lógica es un singleton.

12. Conclusión
contraria a la opinión Panglossian, las pruebas actuales no
justifican un gran confianza en
la creencia de que el curso predeterminado de la futura evolución
humana apunta en una dirección deseable. En particular, hemos
examinado un par de escenarios en los cuales distópica evolutivo de
la
competencia conduce a la extinción de las formas de vida que
consideramos como valioso. Intrínsecamente valiosa experiencia puede
resultar no ser adaptables en el futuro. La única manera de evitar
estos resultados, si lo hacen de hecho representan la
trayectoria predeterminada, es asumir el control de la evolución. Se
argumentó que esto requeriría la creación de un singleton. Singleton
carecería de competidores externos, y su
mecanismo de decisión sería suficientemente integrados que le
permitan resolver problemas de coordinación interna, en particular,
el problema de cómo reformar la función de adecuación para su
agente interno ecología a favor eudaemonic tipos. Un mero poder
local también podría tratar de hacer esto, pero sería disminuir su
competitividad y asegurar su propia desaparición. El control a largo
plazo de la evolución exige la coordinación global. Un singleton
podría adoptar una variedad de formas y no necesita parecerse a una
cultura monolítica o una mente colmena. En el singleton podría haber
espacio para una amplia gama de diferentes formas de vida,
incluyendo aquellas que se centran en la no-eudaemonic objetivos.
Singleton podría garantizar la supervivencia y la prosperidad del
eudaemonic tipos restringiendo los derechos de propiedad de
entidades no-eudaemonic, subvencionando actividades eudaemonic,
garantizando el
cumplimiento de los derechos de propiedad, prohibiendo la creación
de agentes con
valores humano-antipático o tendencias psicópatas, o en un número de
otras maneras. Tal un singleton podrían guiar la evolución cósmica e
impedir que nuestro procomún de voy a perder en
un primer llegado primer servido colonización raza. Las reflexiones
que se ofrecen en este documento no pretenden ser la última palabra
sobre el
tema. No sabemos que un escenario distópico resultado evolutivo es
la predeterminada. Incluso si lo es, y aunque la creación de un
singleton es la única forma de anticiparse a la última
catástrofe, es una pregunta aparte qué políticas tiene sentido
promover en el aquí y el

26 Para un argumento convincente para esta reclamación, consulte

(Wright 1999).
18

ahora. Al crear un singleton ayudaría a reducir determinados

riesgos, puede al mismo tiempo
aumentar otros, tales como el riesgo de que un régimen opresivo
podría ser global y
permanente. Si nuestro estudio preliminar sirve para llamar la
atención sobre algunos posiblemente no
consideraciones evidentes y estimular más riguroso de la labor
analítica, su propósito se ha logrado
.27

Referencias
Bostrom, N. (2002a), el sesgo antrópico: Observación efectos de
selección en la ciencia y la filosofía.
Nueva York: Routledge.
--- (2002b), ʺExistential riesgos: Análisis de escenarios y
extinción humana relacionados
Hazardsʺ, Oficial de la evolución y la tecnología 9.
--- (2003), el Transhumana FAQ: v 2.1. Asociación Transhumana
mundial.
Http://www.transhumanism.org/resources/FAQv21.pdf.
--- (2005), ʺTranshumanist Valuesʺ, Fredrick Adams (ed.), problemas
éticos para el siglo XXI
, edición especial de la conferencia oficial de la investigación
filosófica.
--- (2006), es un singleton ʹWhat?ʹ, lingüísticos y de
investigaciones filosóficas 5 (2): 48-54. Bostrom, N. y Roache, R.
(2007), cuestiones de derechos Enhancementʺ ʺEthical, J. Ryberg, T.
Petersen, y C. Wolf (eds.), nuevas olas en ética aplicada.
Basingstoke: Palgrave
Macmillan: 120-152.
Brin, D. (1998), la sociedad transparente. Lectura, MA: De Addison
Wesley. Carter, B. (1983), principio antrópico ʺThe y sus
implicaciones biológicas, Evolutionʺ para
Transacciones Filosóficas de la Royal Society una 310: 347-363.
--- (1989), principio de selección antrópica ʺThe y la ultra-
darwinista Synthesisʺ, en F.
Bertola y U. Curi (eds.), el principio antrópico. Cambridge:
Cambridge
University Press: 33-63.
Chislenko, A. (1996), la creación de redes en la mente de la edad.
Manuscrito inédito.
Http://www.ethologic.com/sasha/mindage.html.
Coase, R. H. (1937), la naturaleza de la Firmʺ ʺThe, Economica 4
(16): 386-405. Drexler, K. E. (1985), los motores de la Creación: La
próxima era de la nanotecnología. Londres: sucesivamente
Break.
Eaton, J. W. y Mayer, A. J. (1953) La Biología Social ʺThe de muy
alta fecundidad entre los
Hutterites; la demografía de una singular Populationʺ, Biología
Humana 25 (3): 206-64.
Frank, R. H. (2000), Fiebre de lujo: el dinero y la felicidad en una
época de exceso. Princeton:
Princeton University Press.

27 un proyecto Versión de este documento distribuido en mayo de

2001. Una versión anterior de este documento fue publicada en muerte
y Anti-muerte: Doscientos años después de Kant, cincuenta años
después de Turing, ed. Charles Tandy (Ria University Press: Palo
Alto, California, 2004), págs. 339-371. Estoy agradecido a Wei Dai,
Robin Hanson, y Rebecca Roache para comentarios.
19

Glover, J. (1984), qué tipo de personas debe haber? Londres: el

pingüino.
Gould, S. J. (1990), maravillosa vida: el Burgess Shale y la
naturaleza de la historia. Nueva York:
W.W. Norton & Company.
Hanson, R. (1994), ʺWhat si carga vienen primero: la grieta de un
futuro Extropy Dawnʺ, 6 (2). --- (1998a), quemando el Commons
cósmico: estrategias evolutivas de la
colonización interestelar. Manuscrito inédito.
Http://hanson.gmu.edu/filluniv.pdf.
--- (1998b), debe ser fácil de Vida temprana? El ritmo de las
grandes transiciones evolutivas.
Inéditos. Http://hanson.gmu.edu/hardstep.pdf.
Huxley, A. (1932), Brave New World. Londres: Chatto & Windus.
Johnston, M. (1989), teorías de Valueʺ ʺDispositional, Actas de la
sociedad aristotélica, supl. 63: 139-174.
Kansa, E. (2003), ʺSocial complejidad y ostentosa exhibición en
competencia: Más
reflexiones sobre el Paradoxʺ Fermi. Documento de trabajo.
Kirk, K. M. (2001), y la selección genética cuantitativa ʺNatural de
rasgos de historia de vida en
las mujeres occidentales: un Twin Studyʺ, evolución 55 (2): 432-435.
Knight, L. U. (2001), el movimiento de extinción humana voluntaria.
Http://www.vhemt.org/. Leslie, J. (1996), El Fin del Mundo: La
ciencia y la ética de la extinción del ser humano. Londres:
Routledge.
Lewis, D. (1989), teorías de Valueʺ ʺDispositional, Actas de la
sociedad aristotélica,
supl. 63: 113-137.
Malthus, T. R. (1803), un ensayo sobre el principio de población. 2ª
Ed. Londres: J. Johnson. Miller, G. (2000a), el apareamiento cuenta:
¿Cómo la preferencia sexual moldearon la evolución de la naturaleza
humana.
Nueva York: Doubleday.
--- (2000b) Visión Moral. Manuscrito inédito.
Http://www.unm.edu/~gfmiller/new_papers2/miller%202000%20moralvision
.doc.
Minsky, M. (1988), de la sociedad de la mente. Nueva York: Simon
& Schuster. Moravec, H. (1989), mente a los niños. Harvard:
Harvard University Press. --- (1999), Robot: la mera máquina a la
mente trascendente. Nueva York: Oxford University
Press.
Posner, R. (2004), la catástrofe. Oxford: Oxford University Press.
Rees, M. (2003), nuestra última hora: un Scientistʹs Advertencia:
cómo el terror, Error y
desastre ambiental Humankindʹs amenazan el futuro en este siglo - en
la tierra y más allá. Nueva
York: Basic Books.
Rogers, J. L., et al. (2003), influencia ʺGenetic ayuda a explicar
la variación en la fertilidad humana:
Pruebas de Genética Molecular y comportamiento reciente Studiesʺ,
direcciones actuales en Ciencia Psicológica 10 (5): 184-188.
Sandberg, A. y Bostrom, N. (2008), emulación de la totalidad del
cerebro: una "Hoja de Ruta". Informe Técnico
nº 2008-3, el futuro de la humanidad Institute, La Universidad de
Oxford.

20 http://www.fhi.ox.ac.uk/Reports/2008-3.pdf

Savulescu, J. y Bostrom, N. (eds.) (2009), el mejoramiento humano.

Oxford: Oxford University
Press.
Wright, R. (1999), distintas de cero: La lógica del destino humano.
New York: Pantheon Books. Zehavi, A. et al. (1999), el principio de
Handicap: Falta una pieza del rompecabezas Darwinʹs. Oxford:
Oxford University Press.

21