Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Por Qué La IA Salvará Al Mundo - Andreessen Horowitz
Por Qué La IA Salvará Al Mundo - Andreessen Horowitz
TA B L A D E C O N T E N I D O
COMPARTIR
Una descripción más breve de lo que no es la IA : software asesino y robots que cobrarán vida y
decidirán asesinar a la raza humana o arruinarlo todo, como se ve en las películas .
Una descripción aún más breve de lo que podría ser la IA : una forma de mejorar todo lo que
nos importa.
https://a16z.com/ai-will-save-the-world/ 1/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Además, la inteligencia humana es la palanca que hemos utilizado durante milenios para crear
el mundo en el que vivimos hoy: ciencia, tecnología, matemáticas, física, química, medicina,
energía, construcción, transporte, comunicación, arte, música, cultura, filosofía, Ética, moralidad.
Sin la aplicación de la inteligencia en todos estos ámbitos, todos seguiríamos viviendo en
chozas de barro, a duras penas viviendo de una agricultura de subsistencia. En lugar de ello,
hemos utilizado nuestra inteligencia para elevar nuestro nivel de vida en unas 10.000 veces
durante los últimos 4.000 años.
Cada niño tendrá un tutor de IA que será infinitamente paciente, infinitamente compasivo,
infinitamente informado e infinitamente útil. El tutor de IA estará al lado de cada niño en
cada paso de su desarrollo, ayudándolos a maximizar su potencial con la versión máquina
del amor infinito.
Cada persona tendrá un asistente/entrenador/mentor/formador/asesor/terapeuta de IA que
será infinitamente paciente, infinitamente compasivo, infinitamente informado e
infinitamente útil. El asistente de IA estará presente en todas las oportunidades y desafíos
de la vida, maximizando los resultados de cada persona.
https://a16z.com/ai-will-save-the-world/ 2/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Hay mucho en juego aquí. Las oportunidades son profundas. La IA es posiblemente lo más
importante –y mejor– que nuestra civilización haya creado jamás, ciertamente a la par de la
electricidad y los microchips, y probablemente más allá de ellos.
https://a16z.com/ai-will-save-the-world/ 3/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
TA B L A D Evivir
Deberíamos C Oen
N Tun
EN I D O mucho mejor con IA, y ahora podemos hacerlo.
mundo
Escuchamos afirmaciones de que la IA nos matará a todos, arruinará nuestra sociedad, quitará
todos nuestros empleos, causará una desigualdad paralizante y permitirá que las personas
malas hagan cosas horribles.
¿Qué explica esta divergencia en los resultados potenciales desde una casi utopía hasta una
distopía horripilante?
Históricamente, cada nueva tecnología importante, desde la iluminación eléctrica hasta los
automóviles, la radio e Internet, ha provocado un pánico moral : un contagio social que
convence a la gente de que la nueva tecnología va a destruir el mundo, la sociedad o ambos. La
excelente gente de Pessimists Archive ha documentado estos pánicos morales impulsados
por la tecnología a lo largo de décadas; su historia deja el patrón vívidamente claro. Resulta que
este pánico actual ni siquiera es el primero que afecta a la IA .
Ahora bien, es cierto que muchas tecnologías nuevas han conducido a malos resultados, a
menudo las mismas tecnologías que, por lo demás, han sido enormemente beneficiosas para
nuestro bienestar. Así que no es que la mera existencia de un pánico moral signifique que no
haya nada de qué preocuparse.
Pero el pánico moral es irracional por naturaleza : toma lo que puede ser una preocupación
legítima y la infla hasta un nivel de histeria que, irónicamente, hace más difícil afrontar
preocupaciones realmente serias.
Este pánico moral ya está siendo utilizado como fuerza motivadora por una variedad de actores
para exigir acciones políticas: nuevas restricciones, regulaciones y leyes sobre la IA. Estos
actores, que están haciendo declaraciones públicas extremadamente dramáticas sobre los
peligros de la IA (alimentando y inflamando aún más el pánico moral), se presentan como
defensores desinteresados del bien público.
¿Pero lo son?
https://a16z.com/ai-will-save-the-world/ 4/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
B A U T I S TA S
Los “bautistas” son los verdaderos creyentes reformadores sociales que sienten
legítimamente –profunda y emocionalmente, si no racionalmente– que se necesitan
nuevas restricciones, regulaciones y leyes para prevenir un desastre social. Para la
prohibición del alcohol, estos actores eran a menudo literalmente cristianos
devotos que sentían que el alcohol estaba destruyendo el tejido moral de la
sociedad. En cuanto al riesgo de la IA, estos actores creen firmemente que la IA
presenta uno u otro riesgo existencial; atarlos a un polígrafo, lo dicen en serio.
C O N T R A B A N D I S TA S
Los “contrabandistas” son los oportunistas egoístas que pueden beneficiarse
financieramente de la imposición de nuevas restricciones, regulaciones y leyes que
los aíslen de sus competidores. Para la prohibición del alcohol, estos fueron los
contrabandistas literales que hicieron una fortuna vendiendo alcohol ilícito a los
estadounidenses cuando se prohibieron las ventas legítimas de alcohol. En cuanto
al riesgo de IA, estos son los directores ejecutivos que pueden ganar más dinero si
se erigen barreras regulatorias que formen un cártel de proveedores de IA
bendecidos por el gobierno y protegidos de la competencia de nuevas empresas y
fuentes abiertas: la versión de software de los bancos “demasiado grandes para
quebrar”.
Un cínico sugeriría que algunos de los aparentes bautistas también son contrabandistas,
específicamente aquellos a quienes sus universidades , grupos de expertos , grupos de
activistas y medios de comunicación les pagan para atacar a la IA . Si te pagan un salario o
recibes subvenciones para fomentar el pánico a la IA... probablemente seas un
contrabandista.
https://a16z.com/ai-will-save-the-world/ 5/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
El problema con los Bootleggers es que ganan . Los bautistas son ideólogos ingenuos, los
contrabandistas son operadores cínicos, por lo que el resultado de movimientos reformistas
como estos es a menudo que los contrabandistas obtienen lo que quieren (captura regulatoria,
TA BLA DE
aislamiento deClaOcompetencia,
N T E N I D O formación de un cártel) y los bautistas se quedan
Así que en la práctica, incluso cuando los bautistas son genuinos –e incluso cuando los
bautistas tienen razón– son utilizados como tapadera por contrabandistas manipuladores y
venales para beneficiarse a sí mismos.
Y esto es lo que está sucediendo en este momento en el impulso para la regulación de la IA.
Sin embargo, no basta con identificar a los actores e impugnar sus motivos. Deberíamos
considerar los argumentos tanto de los bautistas como de los contrabandistas en función de sus
méritos.
El miedo a que la tecnología de nuestra propia creación surja y nos destruya está
profundamente codificado en nuestra cultura. Los griegos expresaron este miedo en el Mito de
Prometeo: Prometeo trajo al hombre el poder destructivo del fuego y, más generalmente, la
tecnología (“techne”), por lo que Prometeo fue condenado a tortura perpetua por parte de los
dioses. Más tarde, Mary Shelley nos dio a los modernos nuestra propia versión de este mito en
su novela Frankenstein o El Prometeo moderno , en la que desarrollamos la tecnología para la
vida eterna, que luego surge y busca destruirnos. Y, por supuesto, ninguna historia periodística
sobre el pánico de la IA está completa sin una imagen fija de un brillante robot asesino de ojos
rojos de las películas Terminator de James Cameron .
https://a16z.com/ai-will-save-the-world/ 6/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Ahora, obviamente, hay verdaderos creyentes en la asesina IA –los bautistas– que están
ganando una repentina cantidad estratosférica de cobertura mediática por sus aterradoras
advertencias, algunos de los cuales afirman haber estado estudiando el tema durante décadas y
dicen que ahora están muertos de miedo. mentes por lo que han aprendido. Algunos de estos
verdaderos creyentes son incluso verdaderos innovadores de la tecnología. Estos actores
abogan por una variedad de restricciones extrañas y extremas a la IA, que van desde la
prohibición de su desarrollo hasta ataques aéreos militares contra centros de datos y una
guerra nuclear . Argumentan que, dado que personas como yo no podemos descartar futuras
consecuencias catastróficas de la IA, debemos asumir una actitud preventiva.postura que
puede requerir grandes cantidades de violencia física y muerte para prevenir posibles riesgos
existenciales.
https://a16z.com/ai-will-save-the-world/ 7/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
En primer lugar, recordemos que John Von Neumann respondió al famoso lamento de Robert
Oppenheimer sobre su papel en la creación de armas nucleares –que ayudaron a poner fin a la
Segunda Guerra Mundial y a prevenir la Tercera– con: “Algunas personas se confiesan
TA BLA D
culpables E Creclamar
para O N T E NelI D O
crédito por el pecado”. ¿Cuál es la forma más dramática en la que
uno puede reclamar el crédito por la importancia de su trabajo sin parecer abiertamente
jactancioso? Esto explica el desajuste entre las palabras y las acciones de los bautistas que en
realidad están construyendo y financiando la IA: observen sus acciones, no sus palabras.
(Truman fue más duro después de reunirse con Oppenheimer: “No dejes que ese llorón
vuelva a entrar aquí” ) .
En segundo lugar, algunos de los bautistas son en realidad contrabandistas. Existe toda una
profesión de “experto en seguridad de la IA”, “especialista en ética de la IA”, “investigador de
riesgos de la IA”. Se les paga para ser fatalistas y sus declaraciones deben procesarse
adecuadamente.
En tercer lugar, California es justificadamente famosa por nuestros miles de cultos , desde
EST hasta el Templo del Pueblo, desde Heaven's Gate hasta la Familia Manson. Muchas de
estas sectas, aunque no todas, son inofensivas y tal vez incluso sirvan a personas alienadas
que encuentran hogar en ellas. Pero algunos son realmente muy peligrosos, y a las sectas les
resulta notoriamente difícil cruzar la línea que en última instancia conduce a la violencia y la
muerte .
Y la realidad, que es obvia para todos en el Área de la Bahía, pero probablemente no fuera de
ella, es que el “riesgo de la IA” se ha convertido en una secta , que de repente ha surgido a la
luz del día de la atención de la prensa global y de la conversación pública. Este culto ha atraído
no sólo a personajes marginales, sino también a algunos verdaderos expertos de la industria y a
un número no pequeño de donantes adinerados, incluido, hasta hace poco, Sam Bankman-
Fried . Y ha desarrollado una gama completa de comportamientos y creencias de culto.
Este culto es la razón por la que hay un conjunto de personas que condenan el riesgo de IA y
que suenan tan extremas ; no es que en realidad tengan conocimientos secretos que hacen
que su extremismo sea lógico, es que se han azotado hasta alcanzar un frenesí y realmente
son... extremadamente extremos.
Resulta que este tipo de culto no es nuevo: existe una larga tradición occidental de milenarismo
, que genera cultos apocalípticos. El culto al riesgo de la IA tiene todas las características de un
culto al apocalipsis milenario. De Wikipedia, con adiciones mías:
https://a16z.com/ai-will-save-the-world/ 8/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Este patrón de culto apocalíptico es tan obvio que me sorprende que más gente no lo vea.
No me malinterpretes, es divertido escuchar sobre las sectas, su material escrito suele ser
creativo y fascinante , y sus miembros participan en cenas y en la televisión . Pero sus
creencias extremas no deberían determinar el futuro de las leyes y la sociedad ( obviamente
no).
Versión corta: si los robots asesinos no nos atrapan, el discurso de odio y la desinformación lo
harán.
Se trata de una preocupación relativamente reciente que se separó del movimiento del “riesgo
de la IA” que describí anteriormente y de alguna manera se apoderó de él. De hecho, la
terminología del riesgo de la IA cambió recientemente de “seguridad de la IA” (el término usado
por personas que temen que la IA literalmente nos mate) a “alineación de la IA” (el término
usado por personas que están preocupadas por los “daños” sociales). . Las personas originales
https://a16z.com/ai-will-save-the-world/ 9/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
sobre seguridad de la IA están frustradas por este cambio, aunque no saben cómo volver a
ponerlo en su lugar; ahora abogan por que el tema actual de riesgo de la IA pase a denominarse
“IA no matar a todos”, que aún no se ha adoptado ampliamente, pero está al menos claro.
TA B L A D E C O N T E N I D O
El indicio de la naturaleza de la afirmación de riesgo social de la IA es su propio término,
"alineación de la IA". ¿Alineación con qué? Valores humanos. ¿De quién son los valores
humanos? Ah, ahí es donde las cosas se ponen complicadas.
Resulta que he estado en primera fila ante una situación análoga: las guerras de “confianza y
seguridad” en las redes sociales. Como ahora es obvio , los servicios de redes sociales han
estado bajo presión masiva por parte de gobiernos y activistas para prohibir, restringir, censurar
y suprimir de cualquier otra forma una amplia gama de contenidos durante muchos años. Y las
mismas preocupaciones sobre el “discurso de odio” (y su contraparte matemática, el “sesgo
algorítmico”) y la “desinformación” se están transfiriendo directamente del contexto de las
redes sociales a la nueva frontera de la “alineación de la IA”.
Por un lado, no existe una posición absolutista sobre la libertad de expresión. En primer lugar,
todos los países, incluido Estados Unidos, hacen que al menos parte del contenido sea ilegal
. En segundo lugar, hay ciertos tipos de contenidos, como la pornografía infantil y las
incitaciones a la violencia en el mundo real, que casi todas las sociedades consideran
prohibidos (legales o no). Entonces, cualquier plataforma tecnológica que facilite o genere
contenido –discurso– va a tener algunas restricciones.
Por otro lado, la pendiente resbaladiza no es una falacia, es una inevitabilidad. Una vez que se
establece un marco para restringir contenidos incluso atrozmente terribles –por ejemplo, para el
discurso de odio, una palabra hiriente específica o para la desinformación, afirmaciones
obviamente falsas como “el Papa está muerto”–, una gama sorprendentemente amplia de
agencias gubernamentales y presión activista Los grupos y entidades no
gubernamentales se pondrán en marcha y exigirán niveles cada vez mayores de censura y
supresión de cualquier discurso que consideren una amenaza para la sociedad y/o sus propias
preferencias personales. Lo harán hasta e incluso en formas que constituyen delitos
manifiestamente graves . . En la práctica, este ciclo puede durar aparentemente para siempre,
con el apoyo entusiasta de los supervisores autoritarios instalados en todas nuestras estructuras
de poder de élite. Esto ha estado en cascada durante una década en las redes sociales y, con
sólo ciertas excepciones , continúa volviéndose más ferviente todo el tiempo.
sean malos para la sociedad. Sus oponentes afirman que la policía del pensamiento es
asombrosamente arrogante y presuntuosa –y a menudo abiertamente criminal, al menos en
Estados Unidos– y, de hecho, está tratando de convertirse en un nuevo tipo de dictadura
TA B L A Dfusionada
autoritaria E C O N Tentre
ENID O
gobierno, corporaciones y académicos, arrancada directamente de
las páginas de 1984 de George Orwell .
Como los defensores tanto de la “confianza y la seguridad” como de la “alineación con la IA” se
agrupan en el segmento muy reducido de la población global que caracteriza a las elites
costeras estadounidenses –que incluye a muchas de las personas que trabajan y escriben
sobre la industria tecnológica–, muchos Muchos de mis lectores se encontrarán preparados
para argumentar que se requieren restricciones drásticas a la producción de IA para evitar la
destrucción de la sociedad. No intentaré disuadirlo ahora, simplemente afirmaré que ésta es la
naturaleza de la demanda y que la mayoría de la gente en el mundo no está de acuerdo con su
ideología ni quiere verlo ganar .
Si no está de acuerdo con la moral de nicho predominante que se está imponiendo tanto en las
redes sociales como en la IA a través de códigos de discurso cada vez más intensos, también
debe darse cuenta de que la lucha sobre lo que la IA puede decir/generar será aún más
importante. por mucho – que la lucha por la censura de las redes sociales. Es muy probable que
la IA sea la capa de control de todo en el mundo. La forma en que se le permita operar va a
importar quizás más que cualquier otra cosa. Debería ser consciente de cómo un pequeño y
aislado grupo de ingenieros sociales partidistas está tratando de determinar eso ahora mismo, al
amparo de la antigua afirmación de que lo están protegiendo.
Hemos pasado por dos de estos ciclos de pánico al desempleo impulsados por la tecnología en
nuestro pasado reciente: el pánico a la subcontratación de la década de 2000 y el pánico a la
automatización de la década de 2010. A pesar de que muchos comentaristas, expertos e
https://a16z.com/ai-will-save-the-world/ 11/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Y efectivamente, ha vuelto .
Esta vez , finalmente tenemos la tecnología que eliminará todos los puestos de trabajo y hará
que los trabajadores humanos sean superfluos: la IA real . Seguramente esta vez la historia no
se repetirá y la IA causará desempleo masivo –y no un rápido crecimiento económico, laboral y
salarial–, ¿verdad?
El error central que siguen cometiendo los que acaban con la automatización se llama la falacia
del trozo de trabajo . Esta falacia es la noción incorrecta de que hay una cantidad fija de
trabajo por hacer en la economía en un momento dado, y que o las máquinas lo hacen o las
personas lo hacen; y si las máquinas lo hacen, no habrá trabajo para las personas. .
La falacia del bulto del trabajo surge naturalmente de una intuición ingenua, pero aquí la
intuición ingenua está equivocada. Cuando la tecnología se aplica a la producción, obtenemos
un crecimiento de la productividad : un aumento de la producción generado por una
reducción de los insumos. El resultado son precios más bajos para bienes y servicios. A medida
que caen los precios de los bienes y servicios, pagamos menos por ellos, lo que significa que
ahora tenemos poder adquisitivo adicional para comprar otras cosas . Esto aumenta la demanda
en la economía, lo que impulsa la creación de nueva producción.–incluidos nuevos productos y
nuevas industrias– que luego crea nuevos puestos de trabajo para las personas que fueron
reemplazadas por máquinas en trabajos anteriores. El resultado es una economía más grande
con mayor prosperidad material, más industrias, más productos y más empleos.
Pero las buenas noticias no terminan ahí. También obtenemos salarios más altos. Esto se debe
a que, a nivel del trabajador individual, el mercado fija la compensación en función de la
productividad marginal del trabajador . Un trabajador de una empresa basada en tecnología
será más productivo que un trabajador de una empresa tradicional. El empleador pagará más
dinero a ese trabajador porque ahora es más productivo, o lo hará otro empleador, puramente
https://a16z.com/ai-will-save-the-world/ 12/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
por interés propio. El resultado es que la tecnología introducida en una industria generalmente
no sólo aumenta el número de puestos de trabajo en la industria sino que también eleva los
salarios.
TA B L A D E C O N T E N I D O
En resumen, la tecnología permite a las personas ser más productivas. Esto hace que los
precios de los bienes y servicios existentes caigan y que los salarios aumenten. Esto, a su vez,
provoca crecimiento económico y crecimiento del empleo, al tiempo que motiva la creación de
nuevos empleos y nuevas industrias. Si se permite que una economía de mercado funcione
normalmente y si se permite que la tecnología se introduzca libremente, se trata de un ciclo
ascendente perpetuo que nunca termina. Porque, como observó Milton Friedman, “los deseos y
necesidades humanos son infinitos”: siempre queremos más de lo que tenemos. Una economía
de mercado impulsada por la tecnología es la forma en que nos acercamos a ofrecer todo lo que
todos podrían desear, pero nunca llegar hasta allí. Y es por eso que la tecnología no destruye
empleos y nunca lo hará.
Estas son ideas tan alucinantes para personas que no han estado expuestas a ellas que puede
que te lleve algún tiempo entenderlas. Pero juro que no me los estoy inventando; de hecho,
puedes leer todo sobre ellos en los libros de texto de economía estándar. Recomiendo el
capítulo La maldición de la maquinaria en Economía en una lección de Henry Hazlitt , y la
satírica Petición del fabricante de velas de Frederic Bastiat para borrar el sol debido a su
competencia desleal con la industria de la iluminación, aquí modernizada para nuestros
tiempos .
Pero esta vez es diferente , estarás pensando. Esta vez, con la IA, tenemos la tecnología que
puede reemplazar TODO el trabajo humano.
Pero, utilizando los principios que describí anteriormente, piense en lo que significaría que
literalmente todo el trabajo humano existente fuera reemplazado por máquinas.
Significaría una tasa de despegue del crecimiento de la productividad económica que sería
absolutamente estratosférica, mucho más allá de cualquier precedente histórico. Los precios de
los bienes y servicios existentes caerían en todos los ámbitos hasta prácticamente cero. El
bienestar del consumidor se dispararía. El poder adquisitivo del consumidor se dispararía. La
nueva demanda en la economía explotaría. Los emprendedores crearían una variedad
vertiginosa de nuevas industrias, productos y servicios, y emplearían a tantas personas e
inteligencia artificial como pudieran lo más rápido posible para satisfacer toda la nueva
demanda.
Da la casualidad de que ésta era una afirmación central del marxismo: que los propietarios de
los medios de producción (la burguesía) inevitablemente robarían toda la riqueza social a las
personas que realizan el trabajo real: el proletariado. Ésta es otra falacia que simplemente no
desaparecerá por mucho que la realidad la desmienta con frecuencia. Pero de todos modos le
clavamos una estaca en el corazón.
El error de esta teoría es que, como propietario de una pieza de tecnología, no le conviene
guardársela; de hecho, le conviene venderla a tantos clientes como sea posible. El mercado
más grande del mundo para cualquier producto es el mundo entero, los 8 mil millones de
nosotros. Y así, en realidad, cada nueva tecnología –incluso aquellas que comienzan
vendiéndose al aire enrarecido de las grandes empresas bien pagadas o de los consumidores
adinerados– prolifera rápidamente hasta que está en manos del mayor mercado masivo posible,
en última instancia, de todos los habitantes del planeta.
El ejemplo clásico de esto fue el llamado “plan secreto” de Elon Musk –que naturalmente
publicó abiertamente– para Tesla en 2006:
Paso 3: Usa ese dinero para construir un automóvil aún más asequible
https://a16z.com/ai-will-save-the-world/ 14/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
…que es, por supuesto, exactamente lo que ha hecho, convirtiéndose como resultado en el
hombre más rico del mundo.
EseBúltimo
TA L A Dpunto
E C Oes
NT ENID
clave. O
¿Elon sería aún más rico si hoy solo vendiera autos a gente rica? No.
¿Sería aún más rico si sólo fabricara coches para él mismo? Por supuesto que no. No,
maximiza sus propios beneficios vendiendo al mercado más grande posible: el mundo.
En resumen, todo el mundo entiende lo que quiere, como hemos visto en el pasado no sólo con
los coches, sino también con la electricidad, la radio, los ordenadores, Internet, los teléfonos
móviles y los motores de búsqueda. Los fabricantes de tales tecnologías están muy motivados
para reducir sus precios hasta que todos en el planeta puedan permitírselos. Esto es
precisamente lo que ya está sucediendo en la IA: es por eso que hoy en día se puede utilizar la
IA generativa de última generación no sólo a bajo costo sino incluso gratis en forma de Microsoft
Bing y Google Bard, y es lo que seguirá sucediendo. No porque esos vendedores sean tontos o
generosos, sino precisamente porque son codiciosos: quieren maximizar el tamaño de su
mercado, lo que maximiza sus ganancias.
Esto no quiere decir que la desigualdad no sea un problema en nuestra sociedad. Lo es,
simplemente no está siendo impulsado por la tecnología, sino por lo contrario , por los
sectores de la economía que son más resistentes a las nuevas tecnologías, que tienen la mayor
intervención gubernamental para impedir la adopción de nuevas tecnologías como la IA,
específicamente vivienda, educación y atención médica. El riesgo real de la IA y la desigualdad
no es que la IA cause más desigualdad, sino más bien que no permitiremos que la IA se
utilice para reducir la desigualdad .
https://a16z.com/ai-will-save-the-world/ 15/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
In some sense this is a tautology. Technology is a tool. Tools, starting with fire and rocks, can be
used to do good things – cook food and build houses – and bad things – burn people and
bludgeon people. Any technology can be used for good or bad. Fair enough. And AI will make it
TA B L for
easier A D E C O N terrorists,
criminals, T E N I D Oand hostile governments to do bad things, no question.
This causes some people to propose, well, in that case, let’s not take the risk, let’s ban AI now
before this can happen. Unfortunately, AI is not some esoteric physical material that is hard to
come by, like plutonium. It’s the opposite, it’s the easiest material in the world to come by – math
and code.
The AI cat is obviously already out of the bag. You can learn how to build AI from thousands of
free online courses, books, papers, and videos, and there are outstanding open source
implementations proliferating by the day. AI is like air – it will be everywhere. The level of
totalitarian oppression that would be required to arrest that would be so draconian – a world
government monitoring and controlling all computers? jackbooted thugs in black helicopters
seizing rogue GPUs? – that we would not have a society left to protect.
So instead, there are two very straightforward ways to address the risk of bad people doing bad
things with AI, and these are precisely what we should focus on.
En primer lugar, tenemos leyes vigentes para penalizar la mayoría de las cosas malas que
cualquiera pueda hacer con la IA. ¿Hackear el Pentágono? Eso es un crimen. ¿Robar dinero de
un banco? Eso es un crimen. ¿Crear un arma biológica? Eso es un crimen. ¿Cometer un acto
terrorista? Eso es un crimen. Simplemente podemos concentrarnos en prevenir esos crímenes
cuando podamos y procesarlos cuando no podamos. Ni siquiera necesitamos nuevas leyes; no
tengo conocimiento de ningún mal uso real de la IA que se haya propuesto y que no sea ya
ilegal. Y si se identifica un nuevo mal uso, prohibimos ese uso. QED.
Pero notarás lo que introduje allí: dije que deberíamos centrarnos primero en prevenir los delitos
asistidos por IA antes de que ocurran. ¿No significaría esa prevención prohibir la IA? Bueno, hay
otra forma de prevenir este tipo de acciones y es utilizar la IA como herramienta defensiva . Las
mismas capacidades que hacen que la IA sea peligrosa en manos de los malos con malos
objetivos la hacen poderosa en manos de los buenos con buenos objetivos, específicamente los
buenos cuyo trabajo es evitar que sucedan cosas malas.
Por ejemplo, si le preocupa que la IA genere personas y vídeos falsos, la respuesta es crear
nuevos sistemas donde las personas puedan verificarse a sí mismas y al contenido real
mediante firmas criptográficas. La creación y alteración digital de contenido tanto real como falso
ya existía antes de la IA; La respuesta no es prohibir los procesadores de texto y Photoshop (o
la IA), sino utilizar la tecnología para construir un sistema que realmente resuelva el problema.
https://a16z.com/ai-will-save-the-world/ 16/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Entonces, en segundo lugar, hagamos mayores esfuerzos para utilizar la IA con fines buenos,
legítimos y defensivos . Pongamos a la IA a trabajar en la ciberdefensa, en la defensa biológica,
en la caza de terroristas y en todo lo que hagamos para mantenernos seguros a nosotros
TA B L A aDnuestras
mismos, E CONT ENIDO
comunidades y a nuestra nación.
Por supuesto, ya hay muchas personas inteligentes dentro y fuera del gobierno que hacen
exactamente esto, pero si aplicamos todo el esfuerzo y la capacidad intelectual que actualmente
está obsesionado con la perspectiva inútil de prohibir la IA para usarla para protegernos contra
personas malas que hacen cosas malas , Creo que no hay duda de que un mundo dotado de IA
será mucho más seguro que el mundo en el que vivimos hoy.
China tiene una visión de la IA muy diferente a la nuestra: la ven como un mecanismo de
control autoritario de la población, y punto. Ni siquiera guardan esto en secreto, lo tienen muy
claro y ya están siguiendo su agenda. Y no tienen la intención de limitar su estrategia de IA a
China: tienen la intención de proliferarla en todo el mundo , en todas partes donde están
impulsando redes 5G, en todas partes están prestando dinero de la Franja y la Ruta, en todas
partes están proporcionando aplicaciones amigables para el consumidor como Tiktok que
sirven. como interfaces de su IA de comando y control centralizado.
Propongo una estrategia sencilla sobre qué hacer al respecto; de hecho, la misma estrategia
que utilizó el presidente Ronald Reagan para ganar la primera Guerra Fría con la Unión
Soviética.
https://a16z.com/ai-will-save-the-world/ 17/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
TA B Lproceso,
En el A D E Cdebemos
O N T E Nintroducir
IDO la IA en nuestra economía y sociedad lo más rápido y con
más fuerza que podamos, a fin de maximizar sus beneficios para la productividad económica y
el potencial humano.
Esta es la mejor manera de compensar los riesgos reales de la IA y de garantizar que nuestra
forma de vida no se vea desplazada por la visión china, mucho más oscura .
A las grandes empresas de IA se les debe permitir construir IA tan rápida y agresivamente
como puedan, pero no se les debe permitir lograr la captura regulatoria, no se les debe
permitir establecer un cártel de protección gubernamental que esté aislado de la
competencia del mercado debido a afirmaciones incorrectas del riesgo de la IA. Esto
maximizará los beneficios tecnológicos y sociales de las asombrosas capacidades de
estas empresas, que son joyas del capitalismo moderno.
A las empresas emergentes de IA se les debería permitir desarrollar IA lo más rápida y
agresivamente posible . No deberían enfrentarse a la protección otorgada por el gobierno
a las grandes empresas, ni deberían recibir asistencia gubernamental. Simplemente se les
debería permitir competir. Si las nuevas empresas no tienen éxito, su presencia en el
mercado también motivará continuamente a las grandes empresas a dar lo mejor de sí
mismas: nuestras economías y sociedades ganan de cualquier manera.
Se debe permitir que la IA de código abierto prolifere libremente y compita tanto con las
grandes empresas de IA como con las nuevas empresas. No debería haber barreras
regulatorias de ningún tipo para el código abierto. Incluso cuando el código abierto no
supera a las empresas, su disponibilidad generalizada es una bendición para los
estudiantes de todo el mundo que desean aprender cómo construir y utilizar la IA para
convertirse en parte del futuro tecnológico, y garantizará que la IA esté disponible para
todos los que puedan. beneficiarse de él sin importar quiénes sean o cuánto dinero
tengan.
Para compensar el riesgo de que personas malas hagan cosas malas con la IA, los
gobiernos que trabajen en asociación con el sector privado deberían participar
enérgicamente en cada área de riesgo potencial para utilizar la IA para maximizar las
capacidades defensivas de la sociedad. Esto no debería limitarse a los riesgos
provocados por la IA, sino también a problemas más generales como la desnutrición, las
https://a16z.com/ai-will-save-the-world/ 18/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Es hora de construir.
Leyendas y héroes
Cierro con dos afirmaciones simples.
The development of AI started in the 1940’s, simultaneous with the invention of the
computer. The first scientific paper on neural networks – the architecture of the AI we have
today – was published in 1943. Entire generations of AI scientists over the last 80 years were
born, went to school, worked, and in many cases passed away without seeing the payoff that we
are receiving now. They are legends, every one.
Hoy en día, legiones cada vez mayores de ingenieros (muchos de los cuales son jóvenes y
pueden haber tenido abuelos o incluso bisabuelos involucrados en la creación de las ideas
detrás de la IA) están trabajando para hacer de la IA una realidad, contra un muro de alarmismo
y doomismo que está intentando pintarlos como villanos imprudentes. No creo que sean
imprudentes ni villanos. Son héroes, todos. Mi empresa y yo estamos encantados de respaldar
a tantos de ellos como podamos, y estaremos junto a ellos y su trabajo al 100%.
Nombre *
https://a16z.com/ai-will-save-the-world/ 19/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
TA B L A D E C O N T E N I D O
Marc Andreessen es cofundador y socio general de la firma de capital riesgo
Andreessen Horowitz.
SEGUIR
X
Invertir en TipTop
Marc Andreessen
Las opiniones expresadas aquí son las del personal individual de AH Capital Management, LLC (“a16z”) citado
y no son las opiniones de a16z o sus afiliados. Cierta información contenida aquí se ha obtenido de fuentes de
terceros, incluidas empresas de cartera de fondos administrados por a16z. Si bien se tomó de fuentes que se
consideran confiables, a16z no ha verificado dicha información de forma independiente y no hace ninguna
declaración sobre la precisión duradera de la información o su idoneidad para una situación determinada.
Además, este contenido puede incluir anuncios de terceros; a16z no ha revisado dichos anuncios y no
respalda ningún contenido publicitario contenido en ellos.
Este contenido se proporciona únicamente con fines informativos y no debe considerarse como asesoramiento
legal, comercial, de inversión o fiscal. Debe consultar a sus propios asesores sobre esos asuntos. Las
referencias a cualquier valor o activo digital tienen solo fines ilustrativos y no constituyen una recomendación
de inversión ni una oferta para brindar servicios de asesoría de inversión. Además, este contenido no está
dirigido ni destinado a ser utilizado por ningún inversor o posible inversor, y bajo ninguna circunstancia se
puede confiar en él al tomar la decisión de invertir en cualquier fondo administrado por a16z. (Una oferta para
invertir en un fondo a16z se realizará únicamente mediante el memorando de colocación privada, el acuerdo
de suscripción y otra documentación relevante de dicho fondo y debe leerse en su totalidad). Cualquier
https://a16z.com/ai-will-save-the-world/ 20/21
12/10/23, 10:06 Por qué la IA salvará al mundo | Andreessen Horowitz
Los cuadros y gráficos que se proporcionan aquí tienen únicamente fines informativos y no se deben utilizar
como base para tomar ninguna decisión de inversión. El rendimiento pasado no es indicativo de resultados
futuros. El contenido habla únicamente a partir de la fecha indicada. Cualquier proyección, estimación,
pronóstico, objetivo, perspectiva y/u opinión expresada en estos materiales está sujeta a cambios sin previo
aviso y puede diferir o ser contraria a las opiniones expresadas por otros. Consulte
https://a16z.com/disclosures para obtener información adicional importante.
Conducta
Divulgaciones
https://a16z.com/ai-will-save-the-world/ 21/21