ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 1

ETICA Y TECNOLOGIA

Llamocca Cordova Alvaro Joel, allamoccac@unsa.edu.pe

Asesor: Ángela Nathaly Calisaya Gutiérrez, Magíster (MSc) en ciencias: Mención Psicología
clínica- Educativa, Infantil y Adolescencial.

Universidad Nacional de San Agustín

Facultad de Ingeniería, Producción y servicios

Desarrollo de Inteligencia Artificial

Arequipa-Perú

2020
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 2

INTRODUCCION

Me interesa hablar acerca del Desarrollo de la Inteligencia Artificial ya que me parece un tema
muy importante del cual debemos conversar en el aspecto de él que surgen muchas dudas acerca
de la creación de alguna forma de vida, si esto quizá llegue a mostrar alguna relación con la
humanidad, como nos hablan las fuentes bibliográficas estudiadas, sobre si la IA(Inteligencia
Artificial) puede tomar decisiones por encima de nosotros mismos como por ejemplo “¿Puede la
IA decidir acerca de la donación de órganos hacia una persona joven o hacia una persona mayor
de edad?”, “¿ debería un robot poder identificar y atacar personas sin supervisión humana?”, en
lo personal surgen dudas como que características deben de poseer las Inteligencia Artificial para
no dañar física ni moralmente a una persona, entre otras.

La inteligencia artificial (IA) y todas las aplicaciones y servicios basados en esta tecnología han
recibido una atención considerable por parte de la comunidad científica y por mi persona. Si bien
es cierto que los medios de comunicación y otras plataformas de divulgación han contribuido a
crear unas expectativas desmedidas respecto a las posibilidades de la IA, también lo es que dicha
tecnología se encuentra ya presente en muchas de nuestras actividades cotidianas: desde realizar
una búsqueda en Internet hasta escuchar música desde nuestros dispositivos o solicitar un
préstamo bancario.

Como nos indica las palabras de la Doctora María Jesús González Espejo, “utilizar la palabra
educar en ética para las máquinas me parece que puede confundir al profano, pues a la máquina
no hay que educarla, hay que programarla”. Palabras que me causan demasiada inquietud y
aceptación en lo que ella indica.

En el trabajo de David Álvaro Pascual nos habla en general de las consecuencias que podría traer
un desarrollo de tal magnitud, ya que todo esto traería problemas judiciales, como ordenanzas
nacionales e internacionales, si es que se desarrolla la tecnología de tal capacidad ¿La inteligencia
Artificial sería capaz de sentir, decidir, entre otras grandes interrogantes.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 3

DESARROLLO Y ARGUMENTOS

Con respecto a las incógnitas planteadas anteriormente y junto con la información recadada se
darán respuestas a las mismas como: ¿Puede la IA decidir acerca de la donación de órganos hacia
una persona joven o hacia una persona mayor de edad?”, considero que es un tema un tanto
complejo de acuerdo la programación de la misma, ya que nosotros como ingenieros futuros y
los ya graduados somos y seremos los encargados de crear un futuro con facilidades para las
personas, pienso que el desarrollo de IA es imprescindible en el desarrollo de nuevas tecnologías,
no solo tendríamos “maquinas” sino compañeros q podrían acompañarnos en el desarrollo de
avances científicos y tecnológicos.

En la bibliografía [8] a cogí este nuevo archivo ya que nos ayuda a responder preguntas o
incógnitas como: “¿debería un robot poder identificar y atacar personas sin supervisión
humana?”, los estudios nos indican que los límites tecnológicos se establecen dinámicamente
junto a los avances teóricos de la ciencia, es decir desde mi perspectiva los límites de poder darle
la capacidad de decidir a una “máquina” estaría limitado por nosotros mismos, ya que en un
software se le tendría que colocar las diferentes posibilidades de estudio en diferentes situaciones
y con algún tipo de algoritmo la inteligencia artificial llegar a desarrollar esa capacidad de
“decidir” por sí mismo, en pocas palabras se tendría q crear un nuevo código ético para poder
hacer que una máquina decida por encima o al mismo nivel del entendimiento humano.

En la bibliografía [6] añadí esta revista ya que nos da a conocer diferentes puntos de vista de
especialista en los cuales estamos de acuerdo con algunos y en desacuerdo con otros, pero la
información brindada nos da una mejor idea de cómo es que se posiciona el rol de la ética en el
desarrollo de Inteligencia Artificial.

Es conveniente hacer una definición del concepto de inteligencia. El término inteligencia

proviene del latín “inteligere”, y se puede definir como “la facultad de comprender las
relaciones entre los hechos y las cosas } ^ {[2]¿ Podemos afirmar, en consecuencia, que la
comprensión y la capacidad de comunicación de lo comprendido son los rasgos básicos de la
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 4

inteligencia. Así, una persona con más inteligencia que otra es capaz de relacionar más
eficientemente los conocimientos que posee para resolver un problema.

Son muchos los indicios que apuntan a que la IA estará presente en numerosos ámbitos de
nuestras vidas (Comisión Europea, 2018). A la espera de futuros avances y desarrollos, son ya
bastante numerosos los beneficios que las aplicaciones y sistemas inteligentes nos están
proporcionando. Los sistemas de reconocimiento de imagen se están empleando para identificar
posibles anomalías en las radiografías. “Esta tecnología ha demostrado ser, en concreto, entre un
62% y un 97% más eficaz que un panel de radiólogos a la hora de identificar nódulos en los
pulmones (Koo et al., 2012¿ . } ^ {[3]¿

En lo personal me parece fascinante como es que los videojuegos y/o películas transmiten un
futuro con inteligencias artificiales muy desarrolladas y como es que se les puede colocar “un
lugar en la sociedad” como parte de la misma en conjunto con la humanidad.

Partir de considerar las capacidades humanas como un criterio válido para valorar la IA puede
suponer un problema. Una máquina puede llegar a realizar una tarea en milisegundos, y una
persona no sería capaz de realizar una tarea parecida en tan poco tiempo; por eso, podríamos
pensar que la máquina parece dar muestras de inteligencia. Episodios de ese tipo van a ocurrir en
las próximas décadas en cientos de ámbitos, incluso en muchos ya se han producido, por lo que
utilizar el método comparativo entre la inteligencia humana y la IA es algo que puede conducir al
absurdo, ya que la inteligencia humana siempre saldría perdiendo. “Esto nos muestra, una vez
más, que la tarea de aportar una definición concreta de la IA no es nada fácil. } ^ {[4] ¿

Muchos autores restringen el término “inteligencia artificial” a un conjunto limitado de tipos de

aplicaciones informáticas. Esto se debe a diversas causas: razones históricas, modas intelectuales;
prejuicios, sutilezas técnicas, ventajas comerciales, el estado actual de la tecnología, o simple
ignorancia. Los argumentos más respetables que se manejan para hacer esta distinción son de dos
tipos:
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 5

-La naturaleza del problema o tarea que se desea automatizar. Algunos ejemplos son la visión
artificial, el aprendizaje, algunos problemas complejos de control, el diagnóstico a partir de
síntomas, el diseño
“creativo”, y el procesamiento de lenguaje natural.

- La técnica (o tecnología) empleada. Por ejemplo, algunos tipos de lenguajes de programación,

la búsqueda heurística, las redes neuronales, la lógica borrosa, los sistemas expertos, y el
reconocimiento de patrones.

¿Pueden las máquinas ser inteligentes, o bien sólo parecerlo? Ésta es una cuestión que puede
suscitar discusiones interminables (y muy entretenidas), pero es irrelevante desde el punto de
vista práctico de la ingeniería. Si un sistema funciona como si fuera inteligente, ¿qué importa si
realmente lo es? Otra cuestión bien distinta es la responsabilidad. Una máquina no es libre, y por
tanto no es responsable de sus decisiones ni de sus actos. Libertad, responsabilidad y conciencia
son características propias de la condición humana, y estrechamente relacionada entre sí. Se
considera aquí que las decisiones problemáticas desde un punto de vista ético son sólo aquellas
que puedan perjudicar directa o indirectamente a las personas. Por lo tanto, se debe cuestionar si
el desarrollo y explotación de un sistema inteligente puede afectar a la vida, la salud (lo que
incluye el medio ambiente), la libertad, la intimidad, el puesto de trabajo o la dignidad de alguien,
y en general a su bienestar físico y mental.

A diferencia de otras especialidades de ingeniería, la materia prima de la inteligencia artificial es

la información, en la que se materializa algo más abstracto, que es el conocimiento. Hay cuatro
funciones básicas que se realizan en cualquier proceso o sistema complejo: almacenamiento,
transporte, proceso y control. En función de estas cuatro tareas básicas, identificamos los
siguientes tipos de aplicaciones informáticas:
-Gestión de información. La información se almacena físicamente en las memorias, y a más alto
nivel en las bases de datos. En estas aplicaciones, la función principal es el almacenamiento y
recuperación de información.
-Comunicación. La información se transporta mediante sistemas y redes de comunicaciones. En
estas aplicaciones, el transporte es la función más importante.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 6

-Control. El control de los sistemas consiste en la sincronización de las tareas que realiza cada
uno de los subsistemas para garantizar la consecución de una tarea común más compleja. En estas
aplicaciones, la función de control es dominante.
- Razonamiento automático. El proceso o transformación de información corre a cargo de
procesadores (a nivel físico) y sistemas de cálculo automático en general. En este tipo de
sistemas, la función de proceso de información es la fundamental.

El problema ético más inmediato en un sistema de razonamiento automático es el mismo que en

otros tipos de sistemas: hasta qué punto el objetivo fundamental de la aplicación es ético. Ya se
ha comentado que hay áreas de trabajo éticamente delicadas, como el armamento, la genética o
ciertos tipos de aplicaciones industriales. En las aplicaciones de toma de decisiones, la definición
y forma de uso de la herramienta depende en gran medida de la labor del ingeniero de
especificación y diseño, frente a otros tipos de proyecto controlados más rígidamente por el
cliente. Existe la posibilidad de definir restricciones con flexibilidad, de hacer explícitos los
criterios conflictivos y de mostrar las posibilidades reales de la herramienta como ayuda, y no
como elemento frío de decisión. Los objetivos finales de la aplicación se pueden modificar
parcialmente durante el proyecto, y en algunos casos esta influencia puede considerarse un deber
desde el punto de vista ético. Una cuestión más general es hasta qué punto debe confiarse a una
máquina la toma de decisiones, cuando nunca puede ser responsable de las mismas. Antes de
tratar este tema, vamos a excluir de la discusión una gran cantidad de aplicaciones: todas aquellas
en las que la solución de un problema es única por naturaleza. Esto puede ocurrir porque las
restricciones permitan sólo una solución o porque no existen realmente atributos conflictivos
entre sí

Son muchos los indicios que apuntan a que la IA estará presente en numerosos ámbitos de
nuestras vidas (Comisión Europea, 2018a). A la espera de futuros avances y desarrollos, son ya
bastante numerosos los beneficios que las aplicaciones y sistemas inteligentes nos están
proporcionando. La IA está permitiendo también a las empresas conocer mejor a sus clientes y
desarrollar nuevas estrategias de marketing y comunicación. El banco suizo SEB emplea un
asistente virtual llamado Aida para atender las llamadas de los clientes. El asistente es capaz de
interactuar con ellos, de acceder a toda su información y de gestionar peticiones como abrir una
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 7

cuenta o realizar una transferencia (Wilson y Daugherty, 2018), Con base en los datos
almacenados, algunas compañías están utilizando asistentes inteligentes que, en función del perfil
y los datos almacenados de cada cliente, aconsejan un determinado producto o servicio
(Rosenberg, 2018). Asistentes virtuales como Siri, Alexa o Google Home ofrecen al usuario la
posibilidad de realizar infinidad de tareas mediante un comando de voz: desde hacer la compra
desde casa hasta organizar la agenda o enviar un correo electrónico.

Junto con las ventajas que todas estas aplicaciones traen consigo, es bueno advertir también los
riesgos que el uso de la IA lleva aparejados. Para las mismas aplicaciones mencionadas arriba,
existen múltiples escenarios en los que el empleo de la IA da lugar a situaciones éticamente
problemáticas. Algunos de estos riesgos son comunes al uso de otros tipos de tecnología,
mientras que otros constituyen riesgos específicos del campo de la IA.

-Manipulación, seguridad y vulnerabilidad: al igual que otros sistemas informáticos o

aplicaciones tecnológicas, la IA se compone de elementos de software y hardware susceptibles de
funcionar erróneamente. A su vez, muchas de las aplicaciones provistas de IA operan mediante
algoritmos basados en modelos estadísticos y grandes cantidades de información, lo que también
puede llevar a decisiones sesgadas o conclusiones incompletas. Esta tecnología, además, puede
ser manipulada para distintos fines, como manipular unas elecciones (Polonski, 2017) o
modificar el precio de distintos productos y servicios (OCDE, 2017).
- Transformación de las relaciones humanas: existe ya un consenso en torno al perjuicio que el
uso prolongado de pantallas, dispositivos móviles y redes sociales produce sobre nuestras
habilidades cognitivas (Greenemeier, 2011), nuestra estabilidad emocional (Heid, 2018) y nuestra
salud física (Goldhill, 2015). La proliferación de dispositivos dotados de IA en los que delegar
muchas de nuestras interacciones y procesos sociales Toma de decisiones, comunicación,
planificación podría derivar en una pérdida significativa de habilidades personales (Groth,
Nitzberg y Esposito, 2018).
- Erosión de la sociedad civil: episodios recientes como el de Cambridge Analytica han
demostrado que los espacios de diálogo abiertos por los nuevos medios tecnológicos esconden,
en muchos casos, intereses políticos y económicos concretos. De forma similar, existe el riesgo
de que la introducción de sistemas inteligentes
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 8

CONCLUSIONES

En este trabajo hemos realizado una pequeña “introducción” acerca del gran mundo de la IA
(Inteligencia Artificial), resaltando aquellos elementos técnicos relevantes en el camp o de la
moralidad artificial, por ejemplo, los problemas de decisión en conflictos, confiar en aquello que
pueda otorgarnos como respuesta frente a diferentes situaciones que ya mostramos con
anterioridad.

Como se menciona en este trabajo, el problema de descripción de valores no se resuelve en los

diversos documentos que tratan explícitamente este tema como las directrices sobre Inteligencia
Artificial Ética propuesto por el grupo de expertos en IA.

Hemos visto que tanto el vacío entre el “ser” y el “deber ser” como el problema de la definición
de los valores están íntimamente ligados a la falacia naturalista. En la última sección hemos
analizado este tema en particular, sosteniendo que muchas de las discusiones que actualmente se
dan en el campo de la moralidad artificial se enraízan en la tensión existente entre diferentes
concepciones metaéticas subyacentes. En este trabajo hemos optado explícitamente por un
tratamiento del problema desde el punto de vista realista naturalista.

Otros campos que no hemos tratado explícitamente o únicamente de forma tangencial y que
merecería mucho la pena pensar son el concepto mismo de autonomía humana cuando
confrontamos una tecnología cada vez más autónoma y el concepto mismo de evolución
tecnológica. En este campo nos podríamos servir de pensadores como Langdon Winner o
Wendell Wallach. Aunque considerado por muchos un algo remotamente probable o imposible
de predecir, no podemos concluir este trabajo sin mencionar al elefante en la habitación:
Inteligencia General Artificial (IGA) y la súper-inteligencia, y su efecto en la humanidad con
situaciones tan distópicas como las descritas en ciencia ficción.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 9

REFERENCIAS BIBLIOGRAFICAS DE INTERES

 [1] F. Miró Linares, “Inteligencia Artificial y Justicia Penal: Más allá de los resultados
Lesivos causados por Robots”, Revista de Derecho y Criminología, vol. 2, no. 20, pp. 87-
130, Julio 2018
 [2] D.A. Pascual, “Inteligencia Artificial: Un Panorama de Algunos de los Desafíos Éticos
y Jurídicos”, Universidad de Girona, Ensayo, Informe no. 4, marzo 2017.
 [3] S. Marín García, “Ética e inteligencia artificial”, Cuadernos de la Cátedra CaixaBank
de la Responsabilidad Social Corporativa, vol. 1, no. 42, pp. 1-30, septiembre 2019.
 [4] A.L. Terrones Rodríguez, “Inteligencia artificial y ética de la responsabilidad”,
Cuestiones de la Filosofía, Pontifica Universidad Católica del Ecuador, vol. 4, no. 22, pp.
141-170, junio 2018.
 [5] E. García Cuesta, “Inteligencia Artificial y Ciberseguridad: aplicaciones y ética”,
Data Science Lab, vol. 1, no. 1, pp. 1-43, 2015.
 [6] Anónimo, (2018, septiembre 28). El rol de la ética en la Inteligencia Artificial (1ra
ed.) [Online]. Visite: https://www.gmv.com
 [7] J.I del Valle Martínez, “Inteligencia Artificial, Ética”, presentado en Bruselas,
Convocatoria, Colombia, Bogotá, 2019.
 [8] F. de Cuadra García, “Límites éticos de la inteligencia artificial”, Revista
Hispanoamericana de Cultura “Razón y Fe”, vol. 1, no.1, pp. 1-6, mayo 2011.
 [9] G. Pimentel Ramírez, “La inteligencia Artificial y su Influencia en la Eficiencia Del
Comercio Internacional,2020” M.S tesis, Universidad San Ignacio de Loyola, Perú, Lima,
2020.
 [10] Anónimo, “Inteligencia Artificial: Pasado, presente y futuro.”, Vector, vol. 1, pp. 6-
77, febrero 2020.