Universidad Central - Inteligencia Artificial.

IMPLICACIONES ÉTICAS Y MORALES EN IA

IMPLICACIONES ÉTICAS Y MORALES DE

LOS DESARROLLOS TECNOLÓGICOS EN
IA
Juan Camilo Torres Caviedes – William Eduardo Acevedo Castellanos

I. Introducción:

En la actualidad uno de los campos que más presentan evolución en las ramas
relacionadas con la tecnología es la Inteligencia Artificial, debido a los avances
que se realizan a diario hemos llegado a preguntarnos “¿qué sucedería si la
inteligencia artificial desarrolla la conciencia? “, este cuestionamiento lo plantea
Susan Schneider quien es filósofa y científica exponiendo sus pensamientos, lo
que sucederá y en cuánto tiempo llegaremos a este escenario en su libro “Artificial
You: AI and the Future of Your Mind” (2019). No solo Schneider se ha realizado
este cuestionamiento teniendo en cuenta que este tipo de consideraciones la han
realizado diferentes científicos, universidades, gobiernos y las industrias debido a
las situaciones que se han venido presentando como lo es la automatización de
los procesos industriales, carros autónomos e incluso robots que superan a los
humanos en procesos matemáticos para la solución de problemas aritméticos.
Todas estas situaciones han empezado a desplazar a la raza humana en tareas
que en un tiempo atrás eran realizadas por nosotros de forma imprescindible.

Ahora si este desarrollo tecnológico nos golpea de forma tan directa en este tipo
de actividades, ¿En qué área va a trabajar la mayor parte de población dentro de
20 años? Este es uno de los tantos desafíos que enfrentamos a nivel ético y moral
con la IA ya que es cierto que el ser humano por instinto siempre se está
reinventado, genera nuevas ideas para mejorar su economía y está en una
constante evolución, pero no todos tienen las mismas capacidades ni fortalezas
por eso existen ingenieros, agricultores, artistas, doctores, profesores, ETC. Y
¿qué sucederá si un solo robot es capaz de hacer todas estas actividades de una
mejor manera que un ser humano? Ya no tendremos ningún área en la que
seamos mejores que los robots, será más económico para un empresario comprar
un androide que realice diferentes tareas de forma coordinada, sin errores y a una
mayor velocidad que diferentes personas cada uno con su habilidad puntual
además de ahorrar en gastos como lo son parafiscales, capacitaciones,
vacaciones además de eliminar el riesgo de accidente laboral. En ese caso ¿de
dónde saldrá el dinero para comprar lo que producirán estas mismas industrias?,
¿con que dinero compraremos un auto autónomo? O ¿cómo enviaremos a
 Universidad Central - Inteligencia Artificial.
IMPLICACIONES ÉTICAS Y MORALES EN IA

nuestros hijos a un colegio? Son puntos que valen analizar antes de seguir esta
carrera por tener una máquina con mayor inteligencia y parecido al ser humano.

En un siguiente apartado Schneider comparte el punto de vista “de lo que

sucedería si la inteligencia artificial desarrolla la conciencia” y “¿cómo
detectaremos la conciencia en las máquinas?”, tenemos casos a nivel mundial
donde hemos rosado este límite, un ejemplo muy claro de ello son Alice y Bob, tal
vez estos dos nombres no te suenan tan familiares, pero si te nombramos a
Facebook de seguro lo conoces e inclusive tienes una cuenta activa en la red
social. Esta es una de las compañías que a diario sin que los conocedores del
tema lo sepan usan algoritmos para mostrarte en pantalla lo que ellos quieren que
veas de la forma que tu deseas verlo, por esta razón en tus últimas búsquedas no
has tenido que teclear de forma completa el nombre de una persona que estabas
buscando para agregar como amigo, el nombre de la marca de ropa que te gusta
o el auto que estás pensando comprar.

Con esta breve introducción deseo que te des cuenta que Facebook está a la
vanguardia de la IA y en 2017 en uno de sus laboratorios donde desarrollaron dos
robots que tenían como fin generar negociaciones de forma automática con
lenguaje base el idioma inglés y utilizando el machine learning empezaron a
generar conversaciones poco congruentes, sus interacciones llegaban a
conclusiones pero las conversaciones no eran descifrables para el equipo de
ingenieros, los robots se entendían entre sí y realizaban la actividad para la que
fueron creadas, negociaciones. Pero habían creado un nuevo lenguaje con base
en las palabras que habían aprendido, pero en un orden que ninguna de las
personas de las que realizaban la investigación les había enseñado por lo que
tuvieron que ser desconectadas. Esto nos lleva a concluir que no estamos lejos de
lo que plantea Susan Schneider donde los robots creen un lenguaje autónomo que
no sea fácilmente comprendido por la raza humana, tomando decisiones propias
para sus acciones y están sin una posible ética o moralidad lo que puede llevar a
un resultado catastrófico.
 Universidad Central - Inteligencia Artificial.
IMPLICACIONES ÉTICAS Y MORALES EN IA

II. El código ético de conducta europeo

Una de las comunidades a nivel mundial que es líder en el desarrollo de nuevas

tecnologías es la unión europea quien a partir de una primera propuesta en 2016 y
la formalización de esta en 2017 ha aprobado su primer informe sobre Robótica en
el que se establece un Código Ético de Conducta.
Este se plantea como un complemento a la normativa legal que ya existe y se
establece como “un marco de guía ético para el diseño, producción y uso de los
robots”.
Uno de los puntos a destacar en este documento es que tiene como fin estándares
éticos dirigidos a los humanos y no a los robots en sí, con esto se hace alusión a
derechos como la dignidad humana donde se protege a los humanos evitando al
máximo cualquier daño que pueda ser causado por un robot, teniendo en cuenta
este ítem que es bastante importante ya que esta tecnología puede ser usada con
fines militares y teniendo en cuenta los puntos que hemos tocado con anterioridad
puede traer consecuencias contraproducentes para cualquier país si alguno de
estos robots tomara conciencia y decisiones con autonomía, este punto va
relacionado con otro de los principios establecidos como lo es proteger la libertad
humana frente a los robots.
Otro punto que no solo ha analizado como parte de la ética y moralidad a nivel
mundial de la IA el tratamiento de datos, dentro de los principios establecidos se
encuentra el proteger la privacidad y el uso de datos ya cada ser humano tiene
como derecha su privacidad, nuestro punto de vista es que este ítem no se
cumple a cabalidad no solo por hechos conocidos a nivel mundial como el caso de
Cambridge Analytica donde se usaron los datos personales de miles de usuarios
de Facebook para ser perfilados y de acuerdo a esta información enviar una
publicidad específica y así impulsar el voto hacía uno de los aspirantes a la
presidencia de los Estados Unidos. Estos datos fueron entregados sin
consentimiento de los usuarios finales, en algunos países como Colombia existe
normativa para el tratamiento de datos que las grandes compañías siguen
incumpliendo a pesar de las multas generadas por el gobierno como sucedió este
2020 con Claro, Directv y Avantel.
Adicional algunos servicios o páginas web obligan a aceptar sus condiciones
comerciales entre ellas el trato de tus datos para poder usar sus servicios con lo
que siempre están buscando manejar tu información y poder usarla a beneficio
propio por lo que de mi parte encuentro las leyes actuales insuficientes ya que no
tenemos certeza que sucede con nuestros datos en estos casos, a que empresas
realmente se les están entregando y con qué fin.
 Universidad Central - Inteligencia Artificial.
IMPLICACIONES ÉTICAS Y MORALES EN IA

III. Conclusiones

El desarrollo de nuevas tecnologías es fundamental como parte de la evolución del

ser humano en todas sus facetas, dentro de los avances que se realizan a diario y
a nivel mundial además de las normas legales existentes en diferentes países es
demasiado importante generar una concientización, acompañada de una
normativa en la que se tenga en cuenta la ética y moralidad de estos avances que
se están implementando ya que se ha podido detectar estos androides pueden
iniciar un lenguaje no conocido por sus creadores y de esta forma interactuar sin
que podamos entender cuál es mensaje que se está transmitiendo. Teniendo
como base esto y si sumamos que este escenario se puede presentar en una
implementación militar aumentaría el riesgo de un resultado final no deseado.
Otra de las situaciones donde también debemos poder medir qué tan conveniente
es este avance es en el desarrollo de las industrias, como comentamos con
anterioridad si se genera una automatización de todo los sectores basados en IA
en un futuro no tendremos ninguna tarea por realizar ya que los robots serán más
capaces y eficaces que los humanos, con esto se produciría una tasa de
desempleo sin precedentes a nivel mundial y sin un poder adquisitivo para
ninguno de los artículos, bienes o servicios que se ofrezcan por ende no tendrán
una demanda que permita sostener su producción.
 Universidad Central - Inteligencia Artificial.
IMPLICACIONES ÉTICAS Y MORALES EN IA

Bibliografía:
[1] UConn philosopher explores morality of artificial intelligence in new book 2020 de:
https://dailycampus.com/stories/2020/2/9/uconn-philosopher-explores-morality-of-artificial-intelligence-in-
new-book

[2] European civil law rules in robotics del parlamento europeo:

https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_E
N.pdf
[3] Inteligencias artificiales crean un idioma que no podemos entender de:
https://www.elindependiente.com/futuro/2017/07/25/inteligencias-artificiales-crean-un-idioma-
que-no-podemos-entender/
[4] Responsabilidad ética e inteligencia artificial de: https://www.quintgroup.com/es-
es/insights/responsabilidad-etica-inteligencia-artificial/

[5] Ética e inteligencia artificial, Cuadernos de la Cátedra CaixaBank de Responsabilidad Social Corporativa:
https://www.iese.edu/wp-content/uploads/2019/12/ST-0522.pdf