MAYO 2023

FILOSOFÍA C O M U N I C A C I Ó N C U LT U R A
Editorial
INTELIGENCIA ARTIFICIAL VS INTELIGENCIA HUMANA

Isaac Asimov en sus libros acuñó las tres leyes de la robótica,

las cuales resumidamente expresan que un robot no causará
daño ni permitirá que ser humano sufra, cumplirá todas las ór-
denes que le dé un humano, y se protegerá a sí mismo, pero
predominando los principios anteriores.
Al parecer la inteligencia artificial IA ha llegado para quedar-
se, ya no se trata de hacer realidad los sueños de Asimov,
pues la novedosa propuesta tecnológica no apunta a mejorar
la inteligencia humana, ni se limita a venir en su auxilio para
optimizarla, se trata de coexistir en paralelo con el sapiens,
con atisbos de superación, reemplazo y sustitución.
Se ha abierto un debate multiforme, donde las alarmas han re-
sonado aun de mano de los propios inventores, al estilo del
profesor Frankenstein lamentándose de su tenebrosa creación.
Nos asalta la duda, ¿será que la evolución biológica del cere-
bro humano llegó a su límite y en lugar de coadyuvar a corre-
gir la catástrofe causada por la actual especie inteligente la IA
tomará el papel designado, al punto de producir ideas, tomar
iniciativas y hasta gobernarnos en el futuro? ¿Qué papel juega
la ética en todo este asunto? El debate apenas comienza.

2
 2 Editorial

4 Ya n o p o d e m o s h u i r
d e l a I n t e l i ge n c i a A r t i f i c i a l

5 L a I n t e l i ge n c i a A r t i f i c i a l
c o m o p ro b l e m a

7 I n t e l i ge n c i a A r t i f i c i a l
v s I n t e l i ge n c i a H u m a n a :
7 d i f e re n c i a s

8 ¿Quién le teme a la IA?

9 I n t e l i ge n c i a A r t i f i c i a l y é t i c a :
dieciséis desafíos y oportunidades

Adrián Brian José Ramón

Manuel
Triglia Patrick Rodríguez
Ribes
Psicólogo Green Docente
Filólogo Etnólogo

Victorino Ismael
Fernando Muñoz Noé
Guevara Escritor Periodista-
Abogado Editor

3
“Ya no podemos huir
de la Inteligencia Artificial” por Fernando Guevara

La Inteligencia Artificial (IA) está aquí y cada día nos rodea un poco más y un La inteligencia artificial se está apoderando cada día de más cosas, y no lo
poco más. Pronto todo será Inteligencia Artificial, hoy en día ya estamos en digo como paranoia ni nada por el estilo, como se alarman los antivacunas o
d
un punto donde no podemos distinguir qué es Inteligencia Artificial y qué los terraplanistas o todos aquellos que dan luz verde a las teorías conspirati-
no. vas, lo analizo desde la perspectiva simple de que existe y que tenemos que
convivir con ella, tratando de comprender y analizar lo que es o no es inteli-
De hecho, para escribir este artículo hemos usado herramientas de Inteli- gencia artificial.
gencia Artificial y la verdad no creo que se pueda distinguir qué fue hecho
con ella y qué fue escrito por mí. Dos connotados personajes están alarmados por el auge de esta ciencia en
los últimos días. Primero hacemos referencia a Geoffrey Hinton, pionero en
Para poder entender lo que es la IA, nos pusimos a buscar un poco sobre ella la investigación de redes neuronales y aprendizaje profundo, estudio que
resultando que “la inteligencia” es un concepto complejo, multidimensional contribuyó al desarrollo de la Inteligencia Artificial y que acaba de renunciar
que se puede definir de diferentes maneras. Por un lado, el diccionario de la a su empleo en Google, señalando entre otras cosas, que lo hacía para po-
Real Academia Española, la inteligencia es la “capacidad de entender o der hablar libremente sobre esta empresa, de la cual por cierto no se expre-
comprender” y también la “capacidad de resolver problemas”. No obstan- sa mal, no obstante no deja se señalar su alarma por el desarrollo de la IA
te, existen otras maneras de comprender la inteligencia, como, por ejemplo, diciendo que en estos momentos la Inteligencia Artificial aun no es más
algunos han sugerido que la inteligencia es una capacidad mental general inteligente que los humanos, pero que pronto lo será. No se limita a decir
que implica habilidad para razonar, planificar, resolver problemas, pensar que será en poco tiempo o que se avecina, o cómo va a ser. Subraya, simple
de forma abstracta, comprender ideas complejas, aprender con rapidez y y enfáticamente que pronto lo será.
aprender de la experiencia. Ojo, este concepto anterior es sobre la inteli-
gencia humana, quizás también la animal. Por otro lado Craig Martell, director de Inteligencia Digital y Artificial del
Departamento de Defensa de EEUU, es decir del Pentágono, para poner es-
Mientas que la Inteligencia Artificial, usualmente abreviado en castellano to en contexto, al ser cuestionado al respecto durante una conferencia de la
IA, aparentemente se ha convertido ya en una ciencia autónoma mezcla la Asociación de Electrónica y Comunicaciones de las Fuerzas Armadas, señaló
ingeniería y la computación, que se dedica a crear sistemas o máquinas que estar “muerto de miedo” con la IA, pues un producto como el ChatGPT “ha
imitan la inteligencia humana para realizar tareas y que pueden mejorar a sido entrenado para expresarse con fluidez. Habla con fluidez y autoridad.
partir de la información que recopilan. También aprenden de la experien- Así que te lo crees incluso cuando está mal.” Esta afirmación no puede pa-
cia. Hemos podido leer que es algo así como que una sola persona pueda sar desapercibida.
aprender y razonar, por lo que han aprendido diez mil personas que están
junto a él. Otros científicos de distinguido peso también han expresado sus temores
con respecto a la IA incluso el muy popular y recientemente fallecido Step-
La inteligencia artificial se puede aplicar a diversos campos y problemas, co- hen Hawking, quizás haya sido el primero en advertir «Podemos enfrentar-
mo el reconocimiento de voz, el procesamiento del lenguaje natural, el diag- nos a una explosión de inteligencia que, en última instancia, resulte en má-
nóstico médico, la conducción autónoma, el ajedrez, la música, la poesía, quinas cuya inteligencia supere a la nuestra en más de lo que la nuestra
etc. La inteligencia artificial utiliza diferentes técnicas y algoritmos para lo- supera a la de los caracoles», afirmando también que «el desarrollo de una
grar sus objetivos, como el aprendizaje automático, el aprendizaje profundo, completa IA podría traducirse en el fin de la raza humana». Probablemente
las redes neuronales artificiales, la lógica difusa, los sistemas expertos. Es en su momento se haya tildado de alarmista a Hawking, pero los hechos pa-
todo un mundo de aspectos en los cuales la IA está presente. Los algoritmos recen irle dando la razón.
de tu Instagram es parte de la Inteligencia Artificial.
Martin Rees, astrónomo británico, piensa: “El campo de la Inteligencia Ar-
Ahora mismo, se ha generado la clasificación de la inteligencia artificial en tificial necesita directrices para una innovación responsable». El economis-
dos tipos: la débil y la fuerte. La débil es aquella que se ocupa de realizar ta jefe de Microsoft, Michael Schwarz durante una ponencia en el Foro Eco-
tareas específicas y limitadas, como traducir un texto o identificar un rostro. nómico Mundial enfatizó que «Estoy bastante seguro de que los malos ac-
La fuerte tendría una inteligencia igual o superior a la de los humanos, auto- tores utilizarán la IA, y sí, causará un daño real».
consciente con capacidad de razonar, comprender, aprender y planificar de
forma general. La inteligencia artificial fuerte es un concepto teórico y no Entonces tenemos que ciertamente ha llegado la hora en que las máquinas
existe en la actualidad. Creemos… piensan. Esta vez en forma de software, estamos frente a uno de esos mo-
mentos claves de la humanidad, no se si especular, pero creo que podemos
Definitivamente la inteligencia artificial es una tecnología muy importante y compararlo con la aparición de la imprenta de Gutenberg, el vuelo de los
prometedora para el desarrollo humano y social. hermanos Wright, o la llegada de Colon al Nuevo Mundo.

Sin embargo, también plantea algunos desafíos y riesgos éticos, como el im-
pacto en el empleo, la privacidad, la seguridad, la responsabilidad y la mo-
ral. Por eso, es necesario regular y supervisar el uso de la inteligencia artifi-
cial para garantizar su beneficio para la humanidad.
Ahora, lo anteriormente escrito fue hecho casi que por completo por inteli-
gencia artificial.
La humanidad se encuentra en una encrucijada y nuevamente mi única op-
ción ante la posibilidad de ser engañado por lo que me diga la Inteligencia
Artificial es leer, estudiar, prepararme y tener un pensamiento crítico que
me ponga en perspectiva de poder cuestionar casi cualquier información
que reciba.

La IA aparentemente ha hasta entendido mi estilo de escritura, mis pala- Fernando Guevara Herrera (Valencia, Venezuela, 1967) es abogado egresado de la
bras, la forma en que hilvano las ideas y ahora se ha apropiado de mi ar- Universidad de Carabobo en 1995.
tículo.

4
4
La inteligencia artificial como problema
Manuel Ribes Observatorio de Bioética Instituto Ciencias de la Vida

Universidad Católica de Valencia (España)

El esfuerzo para desarrollar máquinas inteligentes debe estar dirigido tad propia, en conflicto con la nuestra. Se puede imaginar que una
constantemente al bien mayor, reduciendo la brecha de pobreza y tecnología como ésta consiga burlar a los mercados financieros, so-
tratando las necesidades generales de salud, educación, felicidad y brepasar a los investigadores humanos, manipular a líderes humanos
sustentabilidad. y someterlos potencialmente con armas que ni siquiera podremos
entender.”[3]
En los años 50 del pasado siglo, Alan Turing puso los cimientos de la
ciencia de la computación e introdujo las ideas de lo que denomina- De igual forma, Nick Bostrom, profesor en la Facultad de Filosofía en
mos inteligencia artificial. Desde ese momento, esta nueva tecnolo- Oxford, cree que “en algún momento crearemos máquinas superinte-
gía se ha desarrollado de forma constante y hoy día está presente en ligentes, y la primera máquina en alcanzar la superinteligencia puede
muchos ámbitos de nuestra vida. Cada vez que hacemos una bús- llegar a ser extremadamente poderosa hasta el punto de poder dar
queda en Google, obtenemos una recomendación de un producto en forma al futuro de acuerdo a sus preferencias”[4]
nuestro dispositivo electrónico o reservamos un viaje en línea, detrás
Los que manifiestan este punto de vista, enfatizan que para que un
está la IA. Ha entrado en nuestras casas, donde ya son populares los
avance de la IA se vuelva peligroso, no se necesitan malas intencio-
pequeños robots que nos ayudan en la cocina o nos limpian el suelo;
nes: no se necesita invocar a un científico loco que conspire para
en nuestro trabajo y nuestras fábricas, donde ya hace tiempo que los
destruir el mundo porque objetivos que suenan inocentes pueden
robots desarrollan tareas complejas y sobre todo repetitivas; en nues-
conducir a situaciones peligrosas.[5]
tros hospitales, con múltiples aplicaciones de ayuda al diagnóstico;
en el mundo financiero y en las prospecciones de mercado… Sería Qué es la inteligencia y qué es la IA
interminable exponer todas las aplicaciones prácticas de la IA pre- Para valorar esta posibilidad, el desarrollo por el hombre de una má-
sentes en nuestra rutina diaria. quina que pueda superar su propia inteligencia y que sea capaz de
Una tecnología transformadora que nos plantea problemas éticos adquirir por sí misma lo que podríamos llamar una superinteligencia,
debemos analizar qué camino hay que recorrer para llegar a ello. A la
La IA representa una capacidad para influir y cambiar nuestra forma
luz del conocimiento científico, porque otra cosa sería ciencia ficción.
de vida, que en muchos sentidos significa una nueva frontera para la
ética. Hoy en día vemos cómo se nos presentan problemas para La inteligencia la entendemos a partir de la capacidad que tiene el
creer todo lo que escuchamos, vemos o leemos; no podemos saber ser humano de comprender y adaptarse al entorno mediante el uso
si una imagen es real o generada por IA o si estamos hablando con de habilidades heredadas y conocimientos aprendidos. En la inteli-
una máquina o una persona real. No faltan ejemplos de algoritmos en gencia reconocemos diferentes aspectos tales como razonamiento
las redes sociales que aprenden a optimizar los clics manipulando las abstracto, representación mental, resolución de problemas y toma de
preferencias humanas, con consecuencias desastrosas para la equi- decisiones, la capacidad de aprender, el conocimiento emocional, la
dad y los sistemas democráticos. Por ello, desde diferentes organis- creatividad y la adaptación para satisfacer las demandas del entorno.
mos y asociaciones internacionales, se está prestando atención a La inteligencia artificial (IA) es un término utilizado para describir la
este aspecto en previsión de efectos nocivos para la sociedad en «inteligencia» demostrada por las máquinas. Los programas de IA
asuntos tan dispares como la economía, la igualdad o la carrera ar- pueden imitar o simular comportamientos cognitivos o rasgos asocia-
mamentística. Valga como ejemplo el comunicado que se emitió por dos con la inteligencia humana, como el razonamiento, la resolución
la Academia Pontificia de Ciencias en 2016: “El esfuerzo para desa- de problemas y el aprendizaje. El ideal que se persigue es el desa-
rrollar máquinas inteligentes debe estar dirigido constantemente al rrollo de una inteligencia “copia” de la humana, que es la que conoce-
bien mayor, reduciendo la brecha de pobreza y tratando las necesi- mos y consideramos como modelo.
dades generales de salud, educación, felicidad y sustentabilidad. Se
debe alertar a todos los gobiernos que estamos ante una revolución Desarrollo y triunfos de la IA
de gran magnitud y que debemos tomar nuevas medidas para gestio- El desarrollo de la IA para asemejarse a la inteligencia humana está
narla. Los científicos e ingenieros, en tanto diseñadores, tienen una condicionado en primera instancia por el hecho de que no conoce-
responsabilidad fundamental en asegurar que sus tecnologías sean mos ni siquiera cómo trabaja el cerebro humano. Además, hoy por
seguras y se usen con buenos propósitos.”[1] hoy, la IA basada en el funcionamiento de ordenadores está limitada
El temor de algunos científicos al tratamiento de algoritmos, que no son más que procedimientos pa-
so a paso para lograr algo; incluso los ordenadores cuánticos, toda-
Pero la amenaza que muchos científicos ven latente en esta tecnolo- vía por llegar, son algorítmicos. La mayoría de aspectos en los que
gía va más allá y representa un mayor dilema ético. Ya en sus descomponemos la inteligencia como creatividad, sensibilidad o con-
inicios, Alan Turing expresó su temor a que la especie humana pu- ciencia, no son algorítmicos. Hoy por hoy estos comportamientos en
diera resultar «muy humillada»[2] por la IA como consecuencia de la IA no tienen las mismas características que los equivalentes en la
hacer algo más inteligente que uno mismo. capacidad humana y están limitados a unos pocos rasgos de lo que
Desde entonces, el temor a que en un futuro se alcance una inteli- se conoce como inteligencia en el ser humano. El razonamiento lógi-
gencia que sobrepase a la humana, ha sido subrayado reiteradamen- co, el procesamiento del lenguaje natural y lingüístico, la creatividad,
te. Una voz destacada ha sido la de Stephen Hawking, que afirmó la capacidad artística, la capacidad deliberativa o el cociente emocio-
que “en el futuro, la inteligencia artificial podría desarrollar una volun nal no están presentes en la IA.

5
Sin embargo, la creciente capacidad de las máquinas en los últimos De acuerdo con el conocimiento, más bien desconocimiento, que tene-
años para duplicar o incluso reemplazar las habilidades humanas en mos sobre el cerebro humano, hoy por hoy no se vislumbra un camino
tareas complejas, ha sido impresionante. para copiarlo. Además de disponer de cien mil millones de neuronas y
cuatrillones de conexiones entre las mismas, la biología utiliza la quími-
En 1997 se jugó la partida de ajedrez más famosa de todos los tiempos
ca acuosa para crear sistemas extraordinariamente complejos. El agua
en la que la computadora de IBM Deep Blue superó al campeón mun-
permite que las moléculas portadoras de información existan en sus-
dial de ajedrez Garri Kaspárov. En este caso, se puede decir que la in-
pensión y ayuda a sus interacciones. Esto permite bucles de retroali-
teligencia de Deep Blue era nula, su capacidad estaba basada en el
mentación múltiples, paralelos y extremadamente sensibles a escala
procesamiento de miles de movimientos posibles por segundo. IBM ali-
molecular.
mentó el sistema con datos de miles de juegos anteriores. Deep Blue
no aprendía nada nuevo, sino que detectaba cómo reaccionaron los Desarrollar un sistema que sea totalmente consciente y tenga pensa-
grandes maestros anteriores en las mismas situaciones. miento sensible requeriría que comprendamos completamente cómo
funciona el cerebro y por ende la consciencia, lo cual no es así.
Pero el desarrollo de la IA ha sido constante y así en un artículo publi-
cado el 1 de enero del pasado año en Nature con el título «Evaluación A partir de aquí, el alcanzar la superinteligencia, el grado de intelecto
internacional de un sistema de inteligencia artificial para la detección del que supere en gran medida el rendimiento cognitivo de los humanos en
cáncer de mama», se describe un sistema de inteligencia artificial ca- prácticamente todos los dominios de interés, es objeto de especulación.
paz de interpretar las mamografías con mayor precisión que los radiólo- En ello caen incluso muchos expertos que hasta señalan plazos, los
gos. Hasta este momento, la IA había superado a los radiólogos solo en más optimistas indican cuarenta años, para alcanzarla. Frente a ello
aspectos limitados, pero el sistema descrito en Nature se puede consi- hay que considerar que el hecho de que las máquinas hayan ganado
derar el primer sistema capaz de interpretar un tipo completo de estudio potencia de cálculo a un ritmo extraordinario durante los últimos años
mejor que los radiólogos.[6] no es extrapolable al posible desarrollo de otras características de la
inteligencia humana, ya que no comprendemos los fenómenos causales
Y en el mismo año 2020, la red neuronal AlphaFold 2 pudo determinar
subyacentes de la misma. Y el tratamiento estadístico no es aplicable.
la estructura 3D de una proteína con una precisión equivalente a la téc-
nica utilizada hasta ese momento, la cristalografía. La diferencia radica En otro orden de cosas, las matemáticas imponen un límite a la IA fren-
en que obtuvo esos resultados en un par de horas, mientras que el mé- te a la inteligencia humana. En 1931, un matemático alemán llamado
todo cristalográfico tarda meses. El papel que desempeña la estructura Gödel publicó un artículo que incluía un teorema que se conocería co-
3D de las proteínas en la biología y las enfermedades humanas, con- mo su “Teorema de la incompletitud”. A partir del mismo, matemáticos
vierte este desarrollo en un avance histórico para la ciencia médica.[7] como Penrose determinan que la comprensión y el conocimiento huma-
nos no se pueden reducir a ningún conjunto de reglas computacionales.
Estos logros obtenidos derivan de lo que denominamos aprendizaje au-
[8] Ninguna máquina puede ser un modelo completo o adecuado de la
tomático, en el que un sistema informático aprende cómo realizar una
mente. Esto no significa que una máquina no pueda simular ninguna
tarea, en lugar de estar programado para hacerlo. Estos sistemas se
parte de la mente, sino que no existe una máquina que pueda simular
alimentan de grandes cantidades de datos que luego utilizan mediante
cada parte de la mente.
tratamiento estadístico para aprender a llevar a cabo una tarea específi-
ca. Este aprendizaje automático está basado en las llamadas redes No faltan otras perspectivas desde las que se rechaza la idea de la su-
neuronales, cuya estructura y funcionamiento se basa muy libremente perinteligencia, con deducciones a partir de determinadas propiedades
en las conexiones entre las neuronas del cerebro. Las redes neuronales de los algoritmos[9] o de las condiciones que impone la teoría cuántica
están formadas por capas de algoritmos interconectados que se alimen- y el principio de indeterminación de Heisenberg.[10]
tan de datos entre sí y que pueden entrenarse para realizar tareas es-
Es decir, el conocimiento científico actual nos lleva a abandonar la idea
pecíficas, modificando la importancia atribuida a los datos a medida que
de la superinteligencia que podría aplastar a la humanidad.
pasan entre estas capas.
El futuro es del Ser Humano
Pero este enorme avance de la IA no es el resultado del progreso en el
desarrollo de una verdadera “inteligencia”. Los ordenadores que susten- Por ello, debemos entender que el desarrollo futuro de la IA debe con-
tan la IA funcionan de acuerdo con el principio de «prueba y error», es sistir en mejorar, no reemplazar, la inteligencia general de los seres hu-
decir, clasifican o reordenan lo inadecuado enriqueciendo lo encontrado manos y promover la complementación de la IA y la inteligencia huma-
anteriormente. De esta forma, permiten al ser humano reconocer cone- na, dando juego a sus respectivas ventajas para realizar la
xiones, sacar conclusiones y hacer predicciones sin conocer la lógica “coevolución” de inteligencia humana y de IA. En ese camino el hombre
subyacente. Por ello, los métodos de inteligencia artificial no son bue- sabrá avanzar con atención a todos los nuevos planteamientos éticos
nos para adquirir «nuevos» conocimientos; sólo aprenden de lo que se que se presenten.
les presenta. La característica que permite a la IA, a pesar de sus limi- La IA la desarrolla el hombre mediante procesos matemáticos que apro-
taciones, superar a la inteligencia humana en determinadas tareas es vechan la potencia informática para obtener sistemas operativos cada
su potencia o aptitud de realizar muchas operaciones en fracciones de vez más rápidos y precisos, capaces de manejar enormes cantidades
segundo. No es inteligencia sino capacidad de generación de datos, de datos. Ello permite realizar tareas con mayor eficiencia y precisión
precisión y poder de procesamiento. que el ser humano, pero es la inteligencia y la experiencia humana la
Imaginar la superinteligencia que construye la IA e impulsa su constante perfeccionamiento. La IA se
convertirá en una herramienta cada vez más útil y potente al servicio
La consciencia emerge de una serie de procesos tales como concien-
del hombre. Está llamada a reemplazar no solo el trabajo físico como
cia, emoción, subjetividad, intencionalidad y atención, entre otros, sin
todas las herramientas inventadas hasta nuestros días, sino parte del
que se pueda identificar con ninguno de ellos. La inteligencia humana
trabajo mental, lo que provocará una exponencial mejora de la producti-
aparecería como el conjunto de estrategias para aprovechar el entorno
vidad que se deberá traducir en desarrollo humano y progreso social.
gracias al equilibrio del procesamiento de la información emocional y
racional. La idea de que las máquinas puedan superar a los humanos,
debe estar por tanto intrínsecamente relacionada con la adquisición de
consciencia por parte de la IA.

6
Inteligencia Artificial vs Inteligencia Humana:
7 diferencias
Las grietas de la "metáfora del ordenador"
Puede que a la mayoría de nosotros nos parezca complicado entender en las personas con una memoria autobiográfica muy desarrollada
el funcionamiento de las máquinas. Sin embargo, al lado de nuestro pueden tener falsos recuerdos.
cerebro un sistema de inteligencia artificial parece un puzzle de seis 4. La importancia del contexto
piezas.
Nuestros cerebros orgánicos se adaptan como un guante a cada situa-
Quizás por eso creemos que para entender nuestra manera de pensar, ción, a pesar de que cada una de las situaciones que vivimos sean úni-
percibir y sentir resulta útil crear una analogía entre nuestro sistema cas. Es más: ante contextos impredecibles, diferentes personas son
nervioso y una máquina inteligente: quizás, pensamos, esta segunda capaces de reaccionar de la misma manera. Esto es algo que no en-
podría utilizarse como maqueta simplificada de lo que ocurre en nues- contramos en los sistemas de inteligencia artificial, en los que diferen-
tras cabezas. Creemos, incluso, que con la sofisticación de las nuevas tes estímulos llevan al mismo resultado sólo si esos estímulos están
tecnologías seremos capaces de crear formas de inteligencia artificial previamente determinados: si A, entonces C; si B, entonces C. Los se-
que funcionen de manera similar a nosotros, simplemente mejorando res humanos, con todos nuestros defectos, estamos hechos para vivir
cuantitativamente la capacidad de nuestros sistemas informáticos. en un contexto caótico. Nuestro cerebro es capaz de interpretar todos
Inteligencia artificial vs inteligencia humana: ¿por qué nuestro cerebro los estímulos, aunque se presenten de manera inesperada y sean to-
no es un ordenador? talmente nuevos.
Ese día parece que aún no está cerca. Son muchas las diferencias que 5. La Inteligencia Artificial necesita regularidad
nos separan de los cerebros electrónicos, y no se trata de cuestiones Los sistemas de inteligencia artificial necesitan estar montados de una
superficiales, sino de estructura. Este es un listado con las principales
manera muy concreta para poder ejecutar órdenes y hacer que la in-
diferencias entre los sistemas de inteligencia artificial propias de orde- formación pase de un lugar a otro de la manera correcta. Los cerebros,
nadores y el funcionamiento de nuestro cerebro. en cambio, son únicos en cada uno de nosotros.
1. Su arquitectura es distinta Al lado del entramado de aproximadamente 100.000.000.000 de neu-
Una máquina dotada de inteligencia artificial tiene una serie de puer- ronas que sostienen nuestro pensamiento, las huellas digitales que
tos de entrada y salida de datos que podemos identificar fácilmente. sirven para identificarnos en algunos contextos parecen ser todas
Esto no se da en nuestro cerebro: cada subestructura de su globalidad iguales. Además, nuestro cerebro está cambiando constantemente,
puede ser a la vez receptora de datos y emisora de información. Tam- incluso mientras dormimos. La gran virtud de nuestro cerebro es que
poco se sabe en qué dirección viaja la información, ya que las ramifica- puede funcionar bien en todo momento a pesar de estar sujeto a
ciones interminables y los bucles son una constante en el mundo de constantes alteraciones imprevisibles: de ahí que haya sido definido
las neuronas. como el sistema más complejo que existe.
2. Su funcionamiento es distinto
En cualquier estructura de inteligencia artificial se puede diferenciar el
canal por el que viajan los datos (hardware) y la información propia-
mente dicha. En un cerebro, en cambio, la distinción entre informa-
ción y el medio material por el que viaja no existe. Los datos que se
transmiten son en sí mismos cambios materiales que determinan la
fuerza de atracción que existen entre las neuronas. Si la neurona A
está más conectada con la neurona B que con la C, la información es
una, mientras que si A pasa a estar más conectada con C, la informa-
ción es otra.
3. Los datos con los que trabaja el cerebro no se pueden almacenar
Una consecuencia de que no distingamos entre canal e información es
que tampoco existen grandes depósitos de datos en nuestra cabeza.
Es por eso que nunca recordamos algo de la misma forma, siempre
hay pequeñas variaciones. De hecho, se ha comprobado que incluso

7
6. Su origen es distinto puede decir que el pensamiento lógico y sistemático está reducido
sólo a ciertas situaciones y momentos de nuestro día a día. Mientras
Cualquier sistema de inteligencia artificial ha sido construido por uno
que las máquinas dotadas de inteligencia artificial sólo pueden traba-
o más agentes intencionales: científicos, programadores, etc. Nues-
jar a partir de argumentos y premisas, en nuestro caso lo normal es
tros cerebros, sin embargo, han sido tallados por la evolución. Eso sig-
saltarse a la torera este paso.
nifica que, mientras que la inteligencia artificial se erige sobre mane-
ras determinadas de codificar la información siguiendo unos patrones Date cuenta, por ejemplo, de todo lo que estás haciendo ahora.
y unas operaciones lógicas, nuestro cerebro tiene que apañárselas con¿Responde la postura en la que te has sentado a criterios racionales,
un conjunto de células nerviosas que hacen cosas propias de las célu-como la necesidad de mantener la espalda en una posición que no la
las nerviosas (valga la redundancia). Si una máquina funciona a partir
dañe? ¿O en algún momento has decidido que por encima de tu salud
de instrucciones, el funcionamiento de nuestro cerebro se fundamen- lo que prima es evitar el esfuerzo de mantener la espalda erguida? Es
te en el juego de interacciones que se dan entre neuronas. más: ¿has llegado a plantearte alguna vez este tema? Lo cierto es que,
aunque el pensamiento racional y la lógica hayan aparecido reciente-
7. Somos seres más emocionales que racionales
mente en nuestra historia evolutiva, nuestro cerebro sigue siendo
Puede que esta sea una afirmación precipitada (a fin de cuentas, más o menos el mismo desde hace 200.000 años.
¿cómo se mide lo racional y lo irracional?) pero, sin embargo, sí se
Adrián Triglia. Psicólogo

¿Quién le tem e a la IA? Por Vi ctori no M uñoz

En el cine se suele presentar la IA como una amenaza, cuando toma conciencia de lo que es y percibe la verdad de la raza hu-
mana. De este modo, se convierte en un instrumento ciego de venganza, el cual resulta más aterrador por cuanto sus característi-
cas más sobresalientes serían la absoluta falta de sentimientos y la implacable y terrible eficiencia para llevar a cabo su cometido.
Este último punto me parece el más deleznable, a la hora de apuntalar el supuesto temor que deberíamos experimentar hacia la
IA. Es decir, al considerar que la IA está lejos de ser infalible, no debería haber tal inquietud. Y es que dudo mucho que un ser im-
perfecto cree algo a prueba de errores.
Las pruebas que se han efectuado hasta ahora demuestran que el ChatGPT tiene la petulancia de un adolescente con buena me-
moria que se leyó una enciclopedia: es capaz de repetir cualquier cosa y echar mano de cualquier dato, con tal de no callar y no
admitir su ignorancia. (En esto se parece mucho a la inteligencia de ciertos humanos.)
Por bromear, un amigo le dijo al ChatGPT que tun-tun era una forma de decir knock-knock. El robot dijo que lo correcto era toc-toc.
Mi amigo contraargumentó, poniendo como ejemplo la canción que dice “gente de paz…” Luego, el ChatGPT confundió esa melo-
día con el himno nacional y hasta con una canción de cuna. Ejemplos como estos hay muchos y hasta más risibles.
Otra inteligencia artificial escribió un libro. El robot probó con la filosofía y más particularmente con el sentido de la vida humana.
La respuesta que dio fue que tal sentido no viene de afuera, sino de dentro: se encuentra en nuestra mente; y que podemos bus-
carlo de varias maneras, siempre que tengamos una meta… y mientras lo encontramos debemos conectarnos con nosotros, vivir
con alegría…
Sí, ya sé, suena a autoayuda. Pero, no soy yo el que lo dijo. Me pregunto, ahora, si no será el tal Paulo Coelho un subproducto de
una IA. En fin, llegados a este punto, y pensando en la pregunta de inicio, cualquiera podría pensar que no, la cosa es como en las
películas: no asusta, para nada.
Pero hay alguien que sí le teme a la IA: yo. Y es que si no es capaz de distinguir entre dos canciones infantiles y responde impulsi-
vamente lo primero que le viene a la mente, da para pensar. Por ejemplo, si le dieran la responsabilidad de controlar un arsenal
nuclear, ¿cómo sabría cuándo activarlo o a quién enviarle las bombas?
En fin, solo estoy pensando en voz alta. Por cierto, ¿no saben ustedes cómo hace uno para suscribir la carta que enviaron Elon
Musk y sus amigos? Yo estoy dispuesto a firmarla. Aclaro: no me asusta la eficacia de la IA; me asusta la ineficacia de los seres
humanos que la crearon.

8
Inteligencia artificial y ética:
dieciséis desafíos y oportunidades Brian Patrick Green

L as tecnologías de inteligencia artificial y aprendizaje automático

están transformando rápidamente la sociedad y seguirán hacién-
dolo en las próximas décadas. Esta transformación social tendrá
un profundo impacto ético, con estas nuevas y poderosas tecnologías tanto
mejorando como alterando la vida humana. La IA, como externalización de la
Resulta que con algunas técnicas de aprendizaje automático, como el apren-
dizaje profundo en redes neuronales, puede ser difícil o imposible compren-
der realmente por qué la máquina toma las decisiones que toma. En otros
casos, puede ser que la máquina pueda explicar algo, pero la explicación es
demasiado compleja para que la entiendan los humanos.
inteligencia humana, nos ofrece en forma amplificada todo lo que la humani-
Por ejemplo, en 2014, una computadora demostró un teorema matemático,
dad ya es, tanto el bien como el mal. Hay mucho en juego. En esta encrucija-
utilizando una prueba que era, al menos en ese momento, más larga que
da de la historia, debemos pensar con mucho cuidado sobre cómo hacer esta
toda la enciclopedia de Wikipedia [4]. Las explicaciones de este tipo pueden
transición, o corremos el riesgo de potenciar el lado más sombrío de nuestra
ser explicaciones verdaderas, pero los humanos nunca lo sabrán con seguri-
naturaleza, en lugar del más brillante.
dad.
¿Por qué la ética de la IA se está convirtiendo en un problema ahora? El
Como punto adicional, en general, cuanto más poderoso es alguien o algo,
aprendizaje automático (ML) a través de redes neuronales avanza rápida-
más transparente debe ser, mientras que cuanto más débil es alguien, más
mente por tres razones: 1) Gran aumento en el tamaño de los conjuntos de
derecho a la privacidad debe tener. Por lo tanto, la idea de que las IA pode-
datos; 2) Gran aumento en el poder de cómputo; 3) Gran mejora en los algo-
rosas puedan ser intrínsecamente opacas es desconcertante.
ritmos de ML y más talento humano para escribirlos. Las tres tendencias son
la centralización del poder y “Con un gran poder viene una gran responsabili- 3. Uso beneficioso y capacidad para el bien
dad” [2]. El propósito principal de la IA es, como cualquier otra tecnología, ayudar a
Como institución, el Centro Markkula de Ética Aplicada ha estado pensando las personas a llevar vidas más largas, prósperas y satisfactorias. Esto es
profundamente en la ética de la IA durante varios años. Este artículo comen- bueno y, por lo tanto, en la medida en que la IA ayude a las personas de esta
zó como presentaciones realizadas en conferencias académicas y desde en- manera, podemos alegrarnos y apreciar los beneficios que nos brinda.
tonces se ha expandido a un documento académico (enlaces a continuación) Es probable que la inteligencia adicional proporcione mejoras en casi todos
y, más recientemente, a una presentación de "Inteligencia artificial y ética: los campos de la actividad humana, incluidos, por ejemplo, la arqueología, la
dieciséis temas" que he dado en los EE. UU. e internacionalmente [3]. En ese investigación biomédica, la comunicación, el análisis de datos, la educación,
espíritu, ofrezco esta lista actual: la eficiencia energética, la protección ambiental, la agricultura, las finanzas,
1. Seguridad Técnica los servicios legales, el diagnóstico médico, la gestión de recursos, explora-
ción espacial, transporte, gestión de residuos, etc.
La primera pregunta para cualquier tecnología es si funciona según lo previs-
to. ¿Funcionarán los sistemas de IA como se les prometió o fallarán? Si y Como solo un ejemplo concreto de un beneficio de la IA, algunos equipos
cuando fallan, ¿cuáles serán los resultados de esos fracasos? Y si depende- agrícolas ahora tienen sistemas informáticos capaces de identificar visual-
mos de ellos, ¿seremos capaces de sobrevivir sin ellos? mente las malas hierbas y rociarlas con pequeñas dosis específicas de herbi-
cida. Esto no solo protege el medio ambiente al reducir el uso de productos
Por ejemplo, varias personas han muerto en un accidente automovilístico
químicos en los cultivos, sino que también protege la salud humana al redu-
semiautónomo porque los vehículos se encontraron con situaciones en las
cir la exposición a estos productos químicos.
que no pudieron tomar decisiones seguras. Si bien redactar contratos muy
detallados que limitan la responsabilidad puede reducir legalmente la res- 4. Uso malicioso y capacidad para el mal
ponsabilidad de un fabricante, desde una perspectiva moral, no solo la res- Una tecnología que funciona perfectamente, como un arma nuclear, puede,
ponsabilidad sigue siendo de la empresa, sino que el contrato en sí puede cuando se le da el uso previsto, causar un mal inmenso. La inteligencia artifi-
verse como un esquema poco ético para evitar la responsabilidad legítima. cial, al igual que la inteligencia humana, será utilizada maliciosamente, no
La cuestión de la seguridad técnica y el fracaso es independiente de la cues- hay duda.
tión de cómo una tecnología que funcione correctamente podría usarse para Por ejemplo, la vigilancia impulsada por IA ya está muy extendida, tanto en
bien o para mal (preguntas 3 y 4, a continuación). Esta pregunta es mera- contextos apropiados (p. ej., cámaras de seguridad de aeropuertos), quizás
mente de función, pero es el fundamento sobre el cual debe construirse to- inapropiados (p. ej., productos con micrófonos siempre encendidos en nues-
do el resto del análisis. tros hogares) como definitivamente inapropiados (p. ej., productos que ayu-
2. Transparencia y Privacidad dar a los regímenes autoritarios a identificar y oprimir a sus ciudadanos).
Otros ejemplos nefastos pueden incluir la piratería informática asistida por
Una vez que hayamos determinado que la tecnología funciona adecuada-
IA y los sistemas letales de armas autónomas (LAWS), también conocidos
mente, ¿podemos realmente entender cómo funciona y recopilar datos so-
como "robots asesinos". Los temores adicionales, de diversos grados de
bre su funcionamiento? El análisis ético siempre depende de obtener prime-
plausibilidad, incluyen escenarios como los de las películas “2001 Odisea Es-
ro los hechos; solo entonces puede comenzar la evaluación.
pacial” “Juegos de Guerra” y “Terminator”.

9
Si bien las tecnologías de las películas y las armas pueden parecer ejemplos que sea una gran amenaza para las naciones menos desarrolladas.
extremos de cómo la IA puede potenciar el mal, debemos recordar que la
Algunos han sugerido una renta básica universal (RBU) para abordar el pro-
competencia y la guerra son siempre los principales impulsores del avance
blema, pero esto requerirá una importante reestructuración de las econo-
tecnológico, y que los militares y las corporaciones están trabajando en es-
mías nacionales. Pueden ser posibles varias otras soluciones a este proble-
tas tecnologías en este momento. La historia también muestra que los gran-
ma, pero todas implican cambios potencialmente importantes en la socie-
des males no siempre son completamente intencionados (p. ej., tropezar
dad humana y el gobierno. En última instancia, este es un problema político,
con la Primera Guerra Mundial y varias llamadas nucleares cercanas en la
no técnico, por lo que esta solución, como las de muchos de los problemas
Guerra Fría), por lo que tener un poder destructivo, incluso si no tiene la
descritos aquí, debe abordarse a nivel político.
intención de usarlo, aún corre el riesgo de una catástrofe. Por ello, prohibir,
prohibir y renunciar a ciertos tipos de tecnología sería la solución más pru- 8. Efectos ambientales
dente. Los modelos de aprendizaje automático requieren enormes cantidades de
5. Sesgo en datos, conjuntos de entrenamiento, etc. energía para entrenar, tanta energía que los costos pueden ascender a de-
cenas de millones de dólares o más. No hace falta decir que si esta energía
Una de las cosas interesantes de las redes neuronales, los caballos de bata-
proviene de combustibles fósiles, este es un gran impacto negativo en el
lla actuales de la inteligencia artificial, es que fusionan efectivamente un
cambio climático, sin mencionar que es dañino en otros puntos de la cadena
programa de computadora con los datos que se le dan. Esto tiene muchos
de suministro de hidrocarburos.
beneficios, pero también corre el riesgo de sesgar todo el sistema de formas
inesperadas y potencialmente perjudiciales. El aprendizaje automático también puede hacer que la distribución y el uso
de la electricidad sean mucho más eficientes, además de trabajar para resol-
Ya se ha descubierto el sesgo algorítmico, por ejemplo, en áreas que van
ver problemas de biodiversidad, investigación ambiental, gestión de recur-
desde el castigo penal hasta los subtítulos de fotografías. Estos sesgos son
sos, etc. La IA es, en algunos aspectos muy básicos, una tecnología centrada
más que vergonzosos para las corporaciones que producen estos productos
en la eficiencia, y la eficiencia energética es una forma. que sus capacidades
defectuosos; tienen efectos negativos y dañinos concretos sobre las perso-
pueden ser dirigidas.
nas que son víctimas de estos sesgos, además de reducir la confianza en las
corporaciones, el gobierno y otras instituciones que podrían estar utilizando En general, parece que la IA podría ser un beneficio neto para el medio am-
estos productos sesgados. El sesgo algorítmico es una de las principales biente [6], pero solo si realmente se dirige hacia ese fin positivo, y no solo
preocupaciones de la IA en este momento y lo seguirá siendo en el futuro a hacia el consumo de energía para otros usos.
menos que nos esforcemos por hacer que nuestros productos tecnológicos 9. Automatización de la ética
sean mejores de lo que somos. Como dijo una persona en la primera
Una de las fortalezas de la IA es que puede automatizar la toma de decisio-
reunión de la Asociación sobre IA: “Reproduciremos todas nuestras fallas
nes, lo que reduce la carga sobre los humanos y acelera, potencialmente
humanas en forma artificial a menos que nos esforcemos ahora mismo para
acelerando mucho, algunos tipos de procesos de toma de decisiones. Sin
asegurarnos de que no lo hagamos” [5].
embargo, esta automatización de la toma de decisiones presentará enormes
6. Desempleo / Falta de Propósito y Significado problemas para la sociedad, ya que si estas decisiones automatizadas son
Muchas personas ya han percibido que la IA será una amenaza para ciertas buenas, la sociedad saldrá beneficiada, pero si son malas, la sociedad saldrá
categorías de trabajos. De hecho, la automatización de la industria ha sido perjudicada.
un factor importante que ha contribuido a la pérdida de puestos de trabajo A medida que los agentes de IA reciben más poderes para tomar decisiones,
desde el comienzo de la revolución industrial. La IA simplemente extenderá necesitarán tener estándares éticos de algún tipo codificados en ellos. Sim-
esta tendencia a más campos, incluidos los campos que tradicionalmente se plemente no hay forma de evitarlo: el proceso de toma de decisiones éticas
consideraban más seguros frente a la automatización, por ejemplo, derecho, puede ser tan simple como seguir un programa para distribuir un beneficio
medicina y educación. No está claro a qué nuevas carreras podrán hacer la de manera justa, en el que la decisión la toman humanos y la ejecutan algo-
transición los desempleados, aunque cuanto más tenga que ver el trabajo ritmos, pero también puede implicar un análisis ético mucho más detallado.
con el cuidado de los demás, es más probable que la gente quiera tratar con , incluso si los humanos preferiríamos que no lo hiciera, esto se debe a que
otros humanos y no con IA. Ai operará mucho más rápido que los humanos, que en algunas circunstan-
Unido a la preocupación por el empleo está la preocupación por cómo la cias los humanos quedarán "fuera del circuito" de control debido a la lenti-
humanidad pasa su tiempo y qué hace que una vida sea bien empleada. tud humana. Esto ya ocurre con los ataques cibernéticos y el comercio de
¿Qué harán millones de desempleados? ¿Qué buenos propósitos pueden alta frecuencia (los cuales están llenos de cuestiones éticas que generalmen-
tener? ¿Qué pueden aportar al bienestar de la sociedad? ¿Cómo evitará la te se ignoran) y solo empeorará a medida que la IA amplíe su papel en la
sociedad que se desilusionen, se amarguen y se dejen arrastrar por movi- sociedad.
mientos malvados como la supremacía blanca y el terrorismo?
7. Creciente desigualdad socioeconómica

Relacionado con el problema del desempleo está la cuestión de cómo sobre-

vivirá la gente si el desempleo alcanza niveles muy altos. ¿De dónde sacarán
dinero para mantenerse a sí mismos ya sus familias? Si bien los precios pue-
den disminuir debido a la reducción del costo de producción, es probable
que aquellos que controlan la IA también obtengan gran parte del dinero
que de otro modo se habría destinado a los salarios de los ahora desemplea-
dos y, por lo tanto, aumentará la desigualdad económica. Esto también
afectará la disparidad económica internacional y, por lo tanto, es probable

10
Dado que la IA puede ser tan poderosa, es mejor que los estándares éticos mano
que le demos sean buenos.
Si o cuando AGI supere la inteligencia humana, se convertirá en una superin-
10. Descualificación moral y debilidad teligencia, una entidad potencialmente mucho más inteligente y capaz que
nosotros: algo con lo que los humanos solo se han relacionado en religiones,
Si entregamos nuestra capacidad de toma de decisiones a las máquinas, per-
mitos e historias.
deremos experiencia en la toma de decisiones. Por ejemplo, este es un fenó-
meno bien conocido entre los pilotos de líneas aéreas: el piloto automático Es importante destacar aquí que la tecnología de IA está mejorando extre-
puede hacer todo lo posible para volar un avión, desde el despegue hasta el madamente rápido. Las corporaciones globales y los gobiernos están en una
aterrizaje, pero los pilotos eligen intencionalmente controlar manualmente carrera para reclamar los poderes de la IA como propios. Igualmente impor-
el avión en momentos cruciales (por ejemplo, despegue y aterrizaje). aterri- tante, no hay ninguna razón por la que la mejora de la IA se detenga en AGI.
zaje) con el fin de mantener sus habilidades de pilotaje. La IA es escalable y rápida. A diferencia de un cerebro humano, si le damos a
la IA más hardware, hará más y más, cada vez más rápido.
Debido a que uno de los usos de la IA será ayudar o reemplazar a los huma-
nos en la toma de ciertos tipos de decisiones (por ejemplo, ortografía, con- El advenimiento de AGI o superinteligencia marcará el destronamiento de la
ducción, negociación de acciones, etc.), debemos ser conscientes de que los humanidad como la cosa más inteligente de la Tierra. Nunca antes nos ha-
humanos pueden empeorar en estas habilidades. En su forma más extrema, bíamos enfrentado (en el mundo material) a nada más inteligente que noso-
si la IA comienza a tomar decisiones éticas y políticas por nosotros, empeora- tros. Cada vez que el Homo sapiens se encontró con otra especie humana
remos en ética y política. Podemos reducir o atrofiar nuestro desarrollo mo- inteligente en la historia de la vida en la Tierra, la otra especie se fusionó
ral precisamente en el momento en que nuestro poder se ha vuelto más genéticamente con nosotros (como lo hicieron los neandertales) o se extin-
grande y nuestras decisiones más importantes. guió. Cuando nos encontremos con AGI y superinteligencia, debemos tener
esto en cuenta; sin embargo, debido a que la IA es una herramienta, es posi-
Esto significa que el estudio de la ética y la formación en ética son ahora más
ble que todavía haya formas de mantener un equilibrio ético entre humanos
importantes que nunca. Deberíamos determinar las formas en que la IA pue-
y máquinas.
de realmente mejorar nuestro aprendizaje y capacitación éticos. Nunca de-
bemos permitirnos perder las habilidades y debilitarnos en la ética, o cuando 13. Dependencia de la IA
nuestra tecnología finalmente nos presente decisiones difíciles de tomar y
Los seres humanos dependemos de la tecnología. Siempre lo hemos hecho,
problemas que debemos resolver, decisiones y problemas que, tal vez, nues-
desde que somos “humanos”; nuestra dependencia tecnológica es casi lo
tros antepasados habrían sido capaces de resolver, los humanos del futuro.
que nos define como especie. Sin embargo, lo que solía ser solo piedras, pa-
puede que no sea capaz de hacerlo.
los y ropa de piel ahora se ha vuelto mucho más complejo y frágil. Perder la
Para obtener más información sobre la descualificación, consulte este artícu- electricidad o la conectividad celular puede ser un problema grave, psicológi-
lo [7] y el artículo original de Shannon Vallor sobre el tema [8]. co o incluso médico (si hay una emergencia). Y no hay dependencia como la
dependencia de la inteligencia.
11. Conciencia de la IA, personalidad y "derechos de los robots"
La dependencia de la inteligencia es una forma de dependencia como la de
Algunos pensadores se han preguntado si las IA eventualmente podrían vol-
un niño hacia un adulto. La mayor parte del tiempo, los niños dependen de
verse autoconscientes, lograr su propia voluntad o merecer reconocimiento
los adultos para que piensen por ellos y, en nuestra vejez, cuando algunas
como personas como nosotros. Hablando legalmente, se ha otorgado perso-
personas experimentan deterioro cognitivo, los ancianos también dependen
nalidad a las corporaciones y (en otros países) a los ríos, por lo que cierta-
de los adultos más jóvenes. Ahora imagine que los adultos de mediana edad
mente no hay necesidad de conciencia incluso antes de que puedan surgir
que cuidan niños y ancianos dependen de la IA para guiarlos. No quedarían
cuestiones legales.
"adultos" humanos, solo "adultos de IA". La humanidad se habría convertido
Hablando moralmente, podemos anticipar que los tecnólogos intentarán en una raza de niños para nuestros cuidadores de IA.
crear las IA y los robots más parecidos a los humanos posibles, y tal vez algún
Esto, por supuesto, plantea la pregunta de qué haría una raza humana infan-
día sean tan buenas imitaciones que nos preguntemos si podrían ser cons-
tilizada si nuestros padres de IA fallaran alguna vez. Sin esa IA, si dependiéra-
cientes y merecer derechos, y es posible que no podamos para determinar
mos de ella, podríamos convertirnos en niños perdidos sin saber cómo cui-
esto de manera concluyente. Si los humanos del futuro concluyen que las IA
dar de nosotros mismos o de nuestra sociedad tecnológica. Esta "pérdida" ya
y los robots podrían ser dignos de un estatus moral, entonces deberíamos
ocurre cuando las aplicaciones de navegación del teléfono inteligente no
pecar de cautelosos y darlo.
funcionan correctamente (o simplemente se agota la batería), por ejemplo.
En medio de esta incertidumbre sobre el estado de nuestras creaciones, lo
Ya vamos por el camino de la dependencia tecnológica. ¿Cómo podemos
que sabremos es que los humanos tenemos caracteres morales y que, si-
prepararnos ahora para poder evitar los peligros de la dependencia específi-
guiendo una cita inexacta de Aristóteles, “nos convertimos en lo que hace-
ca de la inteligencia en la IA?
mos repetidamente” [9]. Por lo tanto, no debemos tratar mal a las IA y los
robots, o podríamos estar habituándonos a tener personajes defectuosos, 14. Adicción impulsada por IA
independientemente del estado moral de los seres artificiales con los que
Los fabricantes de aplicaciones para teléfonos inteligentes han convertido la
interactuamos. En otras palabras, sin importar el estado de las IA y los ro-
adicción en una ciencia, y los videojuegos y aplicaciones impulsados por IA
bots, por el bien de nuestro propio carácter moral debemos tratarlos bien, o
pueden ser adictivos como las drogas. La IA puede explotar numerosos de-
al menos no abusar de ellos.
seos y debilidades humanos, incluida la búsqueda de un propósito, el juego,
12. AGI y Superinteligencia la codicia, la libido, la violencia, etc.
Si o cuando la IA alcance los niveles humanos de inteligencia, haciendo todo La adicción no solo nos manipula y controla; también nos impide hacer otras
lo que los humanos pueden hacer tan bien como el humano promedio, en- cosas más importantes: educativas, económicas y sociales. Nos esclaviza y
tonces será una Inteligencia General Artificial, un AGI, y será la única otra nos hace perder el tiempo cuando podríamos estar haciendo algo que vale la
inteligencia de este tipo que existirá en la Tierra al mismo tiempo. nivel hu- pena. Con AI constantemente aprendiendo más sobre nosotros y trabajando

11
más duro para mantenernos haciendo clic y desplazándonos, ¿qué esperan- Conclusión
za hay para que escapemos de sus garras? O, más bien, las garras de los
creadores de aplicaciones que crean estas IA para atraparnos, porque no Hay más problemas en la ética de la IA; aquí sólo he intentado señalar algu-
son las IA las que eligen tratar a las personas de esta manera, son otras per-nos de los más importantes. Se podría dedicar mucho más tiempo a temas
sonas. como la vigilancia impulsada por IA, el papel de la IA en la promoción de la
información errónea y la desinformación, el papel de la IA en la política y las
Cuando hablo de este tema con cualquier grupo de alumnos, descubro que relaciones internacionales, la gobernanza de la IA, etc.
todos son “adictos” a una aplicación u otra. Puede que no sea una adicción
clínica, pero así lo definen los estudiantes, y saben que están siendo explo- Las nuevas tecnologías siempre se crean en aras de algo bueno, y la IA nos
tados y dañados. Esto es algo que los creadores de aplicaciones deben dejar ofrece nuevas habilidades increíbles para ayudar a las personas y hacer del
de hacer: la IA no debe diseñarse para explotar intencionalmente las vulne- mundo un lugar mejor. Pero para hacer del mundo un lugar mejor, debemos
rabilidades de la psicología humana. elegir hacerlo, de acuerdo con la ética.

15. Aislamiento y soledad A través del esfuerzo concertado de muchas personas y organizaciones, po-
demos esperar que la tecnología de IA nos ayude a hacer un mundo mejor.
La sociedad está en una crisis de soledad. Por ejemplo, un estudio reciente
descubrió que “200 000 personas mayores en el Reino Unido no han tenido Referencias
una conversación con un amigo o familiar en más de un mes” [10]. Este es
[1] Brian Patrick Green, "Inteligencia artificial y ética: diez áreas de interés", sitio web del Centro Markku-
un estado de cosas triste porque la soledad literalmente puede matar [11]. la para la ética aplicada , 21 de noviembre de 2017.
Es una pesadilla para la salud pública, sin mencionar la destrucción del teji-
do mismo de la sociedad: nuestras relaciones humanas. La tecnología se ha [2] Originalmente parafraseado en Stan Lee y Steve Ditko, “Spider-Man,” Amazing Fantasy vol. 1, #15
visto implicada en tantas tendencias sociales y psicológicas negativas, como (agosto de 1962), frase exacta del tío Ben en J. Michael Straczynski, Amazing Spider-Man vol. 2, #38
(febrero de 2002). Para más información: https://en.wikipedia.org/wiki/
la soledad, el aislamiento, la depresión, el estrés y la ansiedad, que es fácil With_great_power_comes_great_responsibility
olvidar que las cosas podrían ser diferentes y, de hecho, eran muy diferen-
tes hace solo unas décadas. [3] Brian Patrick Green, “Artificial Intelligence and Ethics: Sixteen Issues”, varios lugares y fechas: Los
Ángeles, Ciudad de México, San Francisco, Universidad de Santa Clara (2019-2020).

Uno podría pensar que las redes sociales, los teléfonos inteligentes y la inte-
ligencia artificial podrían ayudar, pero de hecho son las principales causas de
la soledad, ya que las personas están frente a las pantallas en lugar de estar
frente a frente. Lo que ayuda son las relaciones sólidas en persona, precisa-
mente las relaciones que están siendo expulsadas por la tecnología adictiva
(a menudo impulsada por IA).
Se puede ayudar a la soledad dejando caer los dispositivos y construyendo
relaciones personales de calidad. En otras palabras: cuidado.
Este puede no ser un trabajo fácil y ciertamente a nivel social puede ser muy
difícil resistir las tendencias que ya hemos seguido hasta ahora. Pero debe-
mos resistir, porque un mundo mejor, más humano, es posible. La tecnolo-
gía no tiene que hacer del mundo un lugar menos personal y solidario; po-
dría hacer lo contrario, si así lo quisiéramos.
[4] Bob Yirka, “La prueba matemática generada por computadora es demasiado grande para que los
humanos la verifiquen”, Phys.org , 19 de febrero de 2014, disponible en: https://phys.org/news/2014-02-
math-proof- grandes-humanos.html
[5] The Partnership on AI to Benefit People and Society, reunión inaugural, Berlín, Alemania, 23 y 24 de
octubre de 2017.
[6] Leila Scola, "AI and the Ethics of Energy Efficiency", sitio web del Centro Markkula de Ética Aplicada ,
26 de mayo de 2020, disponible en: https://www.scu.edu/environmental-ethics/resources/ai-and -la-
ética-de-la-eficiencia-energética/
[7] Brian Patrick Green, "Artificial Intelligence, Decision-Making, and Moral Deskilling", sitio web del
Centro Markkula de Ética Aplicada , 15 de marzo de 2019, disponible en: https://www.scu.edu/ethics/
focus-areas /tecnologia-etica/recursos/inteligencia-artificial-toma-de-decisiones-y-deficiencia-moral/
[8] Shannon Vallor, "Descalificación moral y mejora de las habilidades en una nueva era de máquinas:
reflexiones sobre el futuro ambiguo del carácter". Filosofía de la tecnología 28 (2015):107–124., disponi-
ble en: https://link.springer.com/article/10.1007/s13347-014-0156-9

16. Efectos sobre el espíritu humano [9] Brad Sylvester, "Verificación de hechos: ¿Dijo Aristóteles: 'Somos lo que hacemos repetidamente'?"
Sitio web Check Your Fact , 26 de junio de 2019, disponible en: https://checkyourfact.com/2019/06/26/
fact-check-aristotle-excellence-habit-repeatedly-do/
Todas las áreas de interés anteriores tendrán efectos sobre cómo los huma-
nos se perciben a sí mismos, se relacionan entre sí y viven sus vidas. Pero [10] Lee Mannion, “Gran Bretaña nombra ministro para la soledad en medio del creciente aislamiento”,
también hay una cuestión más existencial. Si el propósito y la identidad de la Reuters , 17 de enero de 2018, disponible en: https://www.reuters.com/article/us-britain-politics-health/
britain-appoints -ministro-para-la-soledad-en-medio-del-aislamiento-creciente-idUSKBN1F61I6
humanidad tiene algo que ver con nuestra inteligencia (como creían varios
filósofos griegos prominentes, por ejemplo), entonces, al externalizar nues- [11] Julianne Holt-Lunstad, Timothy B. Smith, Mark Baker, Tyler Harris y David Stephenson, "La soledad y
tra inteligencia y mejorarla más allá de la inteligencia humana, nos estamos el aislamiento social como factores de riesgo de mortalidad: una revisión metaanalítica", Perspectivas
convirtiendo en seres de segunda clase para nuestras propias creaciones. ? sobre la ciencia psicológica 10 (2 ) ( 2015): 227–237, disponible en: https://journals.sagepub.com/doi/
full/10.1177/1745691614568352

Esta es una pregunta más profunda con la inteligencia artificial que llega al
núcleo de nuestra humanidad, en áreas tradicionalmente reservadas para la
filosofía, la espiritualidad y la religión. ¿Qué le sucederá al espíritu humano
si o cuando nuestras propias creaciones nos superen en todo lo que hace-
mos? ¿Perderá sentido la vida humana? ¿Llegaremos a un nuevo descubri-
miento de nuestra identidad más allá de nuestra inteligencia?
Quizás la inteligencia no sea realmente tan importante para nuestra identi-
dad como podríamos pensar, y quizás entregar inteligencia a las máquinas
nos ayude a darnos cuenta de eso. Si, en cambio, encontramos nuestra hu-
manidad no en nuestros cerebros, sino en nuestros corazones, tal vez llega-
remos a reconocer que el cariño, la compasión, la bondad y el amor son, en
última instancia, lo que nos hace humanos y lo que hace que valga la pena
vivir la vida. Quizá al eliminar algo del tedio de la vida, la IA pueda ayudar-
nos a cumplir esta visión de un mundo más humano.
[12] Personal del Centro Markkula para Ética Aplicada, “IA: Desafíos éticos y un futuro que se acerca
rápidamente: un panel de discusión sobre inteligencia artificial”, con Maya Ackerman, Sanjiv Das, Brian
Green e Irina Raicu, Universidad de Santa Clara, California, octubre 24 de octubre de 2017, publicado en
el blog All About Ethics , 31 de octubre de 2017, video disponible en: https://www.scu.edu/ethics/all-
about-ethics/ai-ethical-challenges-and-a-fast -acercando-futuro/
[13] Brian Patrick Green, “Algunas reflexiones éticas y teológicas sobre la inteligencia artificial”, reunión
de la Sociedad Teológica de la Costa del Pacífico (PCTS), Graduate Theological Union, Berkeley, 3 y 4 de
noviembre de 2017, disponible en: http: //www.pcts .org/meetings/2017/PCTS2017Nov-Green-
ReflectionsAI.pdf
[14] Brian Patrick Green, "IA y ética", conferenciante invitado en PACS003: ¿Qué es una vida ética? ,
Universidad del Pacífico, Stockton, 21 de marzo de 2018.
[15] Brian Patrick Green, “Reflexiones éticas sobre la inteligencia artificial”, Scientia et Fides 6(2), 24 de
agosto de 2018. Disponible en: http://apcz.umk.pl/czasopisma/index.php/SetF/article/ ver/
SetF.2018.015/15729

12
“El problema del hombre no está en la bomba
atómica, sino en su corazón” Albert Einstein
13