Aspectos éticos y sociales en los sistemas de información

Kenneth C. Laudon y Jane P. Laudon

Grupo 1
Laura Valentina Ceballos Aguilar
Juan Andrés Moreno Sánchez
David Julian Bustos Cortes

Universidad Nacional de Colombia

Ingeniería, Departamento de Sistemas e Industrial
Bogotá, Colombia
10/11/2020
 Laura Valentina Ceballos Aguilar

Pregunta N° 1:

En el libro ‘Armas de destrucción matemática’, la autora Cathy O'Neil habla

sobre cómo en esta edad del algoritmo, las decisiones que afectan nuestra
vida no están basadas en otra personas sino en modelos matemáticos de la
información [1].

Se supone, estos modelos deberían permitir llegar a tomar decisiones más

apropiadas y equitativas, de tal manera que todas las personas sean iguales
en todo aspecto. Sin embargo, O' Neil cuenta como estos modelos hoy en día
no se encuentran regulados y poseen sesgos en ciertos tipos de aspectos. Es
por esto que, en vez de permitir una justa toma de decisiones, refuerzan la
discriminación.

Un ejemplo de ello resulta en el caso de un estudiante que no puede obtener

un préstamo porque los datos consideran inseguro esta decisión, pero a su
vez no considera que está misma educación podría sacarlo de la pobreza. Es
por ello que el libro llega a la conclusión de que: " Los modelos apuntan a los
afortunados y castigan a los oprimidos" [2].

Bajo el anterior contexto, es casi obvio que la ética no está siendo tomada en
cuenta para el diseño de estos modelos, pero, ¿Cree que realmente traería
ventajas a nivel de negocios generar modelos imparciales en donde todos
seamos iguales?

Pregunta N° 2:

En diciembre 2, 2015, un ataque en la ciudad de San Bernardino, California,

en el que murieron 14 estadounidenses y 22 resultaron heridos fue
catalogado como el ataque más mortal en Estados Unidos desde septiembre
11, 2001. Este consistió en un tiroteo masivo y un intento de bombardeo
ocasionados por un hombre y una mujer, Syed Rizwan Farook y Tashfeen
Malik. El hecho obligó a las autoridades a realizar la apertura de un proceso
de investigación debido a que se le denominó como un ataque terrorista y se
requería conocer más información.

Con fines de obtener la mayor cantidad de información posible, el FBI solicitó

acceso a la información de los teléfonos iPhone de los autores del crimen y
más aún solicitó la creación de una funcionalidad en el sistema operativo
para que estos puedan ingresar a cualquier dispositivo con fines
investigativos.

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 1
 Ante la solicitud, Apple se negó a ofrecer cualquier tipo de información ya que
según la compañía, esto representa una amenaza para la seguridad de sus
clientes y un riesgo de que se implemente en otros dispositivos [3][4].

¿Bajo el anterior contexto, está usted de acuerdo con la respuesta de la

compañía Apple, aun sabiendo que se tiene comprometida la justicia y
reparación de víctimas que fueron asesinadas y que esta información podría
esclarecer los hechos?

Pregunta N° 3:

La revelación de más de 10 gigas de información privada de usuarios de la

página de citas para personas infieles Ashley Madison, ha sido controversial
hasta hoy día por otorgar información de número de tarjetas de crédito,
contraseñas, conversaciones privadas, etc; pues estos hackers se han
puesto en la posición de guardianes del bien y del mal imponiendo sus
nociones éticas a terceros, nociones que han sido recibidas por algunos y
rechazadas por otros.

El principio que enarbolan estos hackers trata sobre que la privacidad es un

espectro cuyas gradaciones varían según el tipo de persona que seas. A su
vez se justifican mediante la vigilancia masiva que hace referencia a qué ‘si
tienes algo que ocultar, no deberías estar haciéndolo’.[5]

¿Hasta qué punto llegarían a tener razón los hackers?, ¿Realmente se

justifica el hecho suponiendo que de toda la información revelada se haya
encontrado datos sobre una red de pornografía infantil?

Pregunta N° 4:

En las recientes protestas que ocurrieron en Colombia el pasado mayo del

presente año, en donde alrededor de 19 personas civiles fueron asesinadas y
muchas otras resultaron heridas a causa del uso de fuerza mayor por parte
de la policía y el ejército, la organización de anonymous conocida por realizar
ataque cibernéticos a gobiernos, corporaciones, etc, se hizo presente ante el
hecho y liberó información personal de la página del ejército nacional dando a
conocer correos y contraseñas de 168 militares, esto con el fin de dar apoyo
a los manifestantes. Ahora bien, para los civiles que apoyaban estas
protestas, este fue un acto heroíco y de justicia, pero no tomaron en cuenta
que dentro de todos los datos liberados por el grupo existían individuos
ajenos a los hechos ocurridos [6].

Si a un familiar suyo el cual pertenece al ejército nacional y no ha cometido

ningún tipo de abuso de poder con los manifestantes le llegarán a liberar

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 2
 información personal e íntima afectando la seguridad de él y de su familia,
¿Cuál sería su posición ante los actos de Anonymous?, ¿Valdría la pena
liberar información que brinde justicia ante los actos violentos aun cuando la
integridad y seguridad de las personas íntegras se pueda ver degradada?

David Julián Bustos Cortes

Pregunta N° 1:

Tras 27 años de la creación de Amazon, la empresa se posiciona como líder

mundial del comercio electrónico, acaparando mercados como los son los
libros físicos y electrónicos, los kindles, los servicios y dispositivos de
streaming, entre otros. Es tal el crecimiento, que el ranking global Kantar
BrandZ™ posiciona a Amazon como la empresa de mayor crecimiento
mundial en el último año, incrementando su valor en un 64% y obteniendo
una valoración de US $683.852 millones [7].

La sede principal de Amazon se ubica en Seattle. La empresa ha generado

impacto en muchos de los sectores socioeconómicos de la ciudad. Más allá
de los edificios, la población ha crecido en un 40% desde su llegada y al
menos unas 20.000 personas se mudan cada año atraídas por las
oportunidades que esta ofrece. El sector de las tecnologías ha creado
puestos de trabajo con salarios promedios de 86.000 euros anuales y entre el
2011 y el 2017 la población con ingresos mayores a los 200.000 euros
anuales incrementó hasta en un 50% [8].

Sin embargo, la realidad de Seattle es diferente durante la noche. El aumento

en los salarios dentro del sector de las tecnologías ha contribuido a que el
valor de las propiedades aumente hasta en un 70% en los últimos 5 años,
haciendo que para una parte significativa de la población sea imposible
conseguir un techo bajo el cual dormir. Para el 2018, la ciudad contaba con
un estimado de 11.000 personas sin hogar, el mayor número de todo el país,
por encima de ciudades como Nueva York y Los Ángeles. Es tal el costo de la
vivienda, que se estima que el 30% de las personas sin hogar cuentan con
trabajo estable [9].

A mediados del 2018, el ayuntamiento de Seattle propuso la creación de un

impuesto a grandes empresas como Amazon y Starbucks, con el objetivo de
recolectar 43 millones de euros al año para la financiación de viviendas
sociales. Este consistía en el pago de 235 dólares anuales por cada
empleado que contenga la empresa, y aunque la propuesta obtuvo el apoyo
unánime del concejo municipal, un mes después la campaña de desprestigio
liderada por Amazon, que obtuvo el apoyo de simpatizantes, logró tumbar la
iniciativa. Estos argumentaron que no se trataba de recolectar dinero desde

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 3
 las grandes empresas, sino que consistía en un impuesto al trabajador, que
era ilegal y que el dinero se perdería en contrataciones y malos manejos por
parte de la administración [8].

Para finales del mismo año, Jeff Bezos, creador y gerente de la compañía,
anunció la creación de un fondo de US $2.000 millones para obras de
caridad, como lo son la construcción de viviendas subsidiadas [9].

¿Qué posición tiene frente al accionar de Jeff Bezos?, ¿Considera que se

deben apoyar este tipo de medidas, o está en contra de ellas a pesar de que
supongan una solución contundente y más eficiente que las tomadas por el
ayuntamiento de Seattle?

¿Qué dimensión moral puede verse afectada en un futuro por las decisiones
de la compañía?

Pregunta N° 2:

Las empresas que invierten en campañas de marketing digital necesitan ver

retribuida su inversión en el número de ventas y de clientes al que logran
llegar. Para lograr esto, las empresas usan mecanismos como el Behavioural
Targeting, que realiza un seguimiento a los usuarios para determinar perfiles
afines a los productos que quieren vender. Estas campañas rastrean la
navegación web con ayuda de las conocidas cookies, que consisten en
archivos de texto que se almacenan en el servidor y que permiten al
anunciante medir el tiempo de exposición que ha tenido un individuo a la
imagen del producto [10].

Todo esto implica un acceso considerable a los datos del usuario. Que,
aunque puede estar sujeta a legislación para la protección de datos, puede
fácilmente caer en manos equivocadas y significar una violación a nuestro
derecho de privacidad. De esta manera, se abre el debate. Por un lado,
existen iniciativas que pretenden erradicar las cookies con fines publicitarios,
pero también están quienes las defienden, aludiendo que existen múltiples
herramientas que permiten bloquearlas y, por lo tanto, quien las permiten es
porque de alguna u otra manera las acepta [10].

El 50% de los usuarios eliminan las cookies según el estudio ComScore

White Paper. Mientras que el Insites Research IAB Europe MCDC Studiok
señala que el 56% de los usuarios afirman que internet sería un lugar más
divertido si la publicidad fuera más ajustada a los intereses de la gente [10].

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 4
 ¿Qué posición tiene frente al uso de cookies por parte de las campañas de
marketing de las empresas, está de acuerdo con que estas realicen un
seguimiento a su navegación?, ¿Son éticas este tipo de herramientas?

Pregunta N° 3:

COMPAS es un algoritmo de inteligencia artificial usado desde 1998 por los

juzgados de Estados Unidos para ayudar a los jueces a predecir el nivel de
reincidencia criminal de los reos. Este algoritmo distribuido por la empresa
Northpointe analiza 137 parámetros del individuo sobre los cuales se basa
para dar su veredicto. Sin embargo, desde su lanzamiento se conoce de la
existencia de un sesgo racista que lo hace identificar falsos positivos y
negativos, haciendo que el color de piel de la persona sea un factor
determinante en la decisión del software [11].

Otro ejemplo es el caso de la contratación de personal en la empresa de

Amazon. Los especialistas identificaron un sesgo que priorizaba perfiles que
tenían expresiones usadas comúnmente por hombres y a la vez discrimina
aquellos que contenían la palabra “mujer” en su currículo [12].

Omar Flores, doctor en Ciencias de la computación de la universidad estatal

de Utah, Estados Unidos, afirma que estos modelos de aprendizaje no
pueden ser objetivos precisamente porque son programados y diseñados por
seres humanos [13]. ¿Cree usted que en algún momento seremos capaces
de diseñar modelos de Inteligencia artificial que sepan aislar datos sensibles
buscando la imparcialidad total?, ¿de considerar que nunca llegaremos a ese
punto, cree viable seguir usando este tipo de modelos para casos como la
contratación de empleados y la identificación de perfiles criminales?

Pregunta N° 4:

Whatsapp, empresa filial de Facebook desde el 2014, anunció en el 2016 que

compartiría datos con la red social, con el objetivo de coordinar ambos
servicios y hacer de la experiencia de usuario algo más enriquecido [13].

La empresa aseguró que únicamente se proporcionarían los números de

teléfono de cada individuo y los tiempos de conexión a la aplicación de
mensajería. Según ellos, esto traerá una mejora en la eficiencia publicitaria, y
ayudará a la red social a proporcionar mejores sugerencias de amigos,
evitando también abusos y mensajes no deseados en Whatsapp [13].

Por otro lado, dentro de la ley se contempla el derecho al Habeas data, que
habla sobre posibilidad de conocer, actualizar y rectificar la información que
los bancos de información almacenan sobre cada individuo. Además, de

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 5
 limitar la divulgación, publicación, o compartición de esta información con
otras instituciones o personas ajenas. [14].

Considerando que las políticas de Whatsapp han cambiado a las inicialmente

establecidas con los usuarios ¿Considera ético este intercambio de
información, teniendo en cuenta que la sociedad actual tiene dependencia
hacía los servicios ofrecidos por ambas plataformas? ¿Se trata de un caso de
violación al derecho del Habeas data o considera que Facebook está en todo
su derecho de redefinir sus políticas de manejo de datos, dejando a
consideración de los usuarios el seguir usando su servicio?

Juan Andrés Moreno Sánchez

Pregunta N°1:

23andMe es una conocida empresa, lanzada en 2006, que se hizo

fuertemente popular por vender pruebas para determinar la ascendencia
genética de los consumidores y el riesgo de desarrollar ciertas
enfermedades, utilizando muestras de saliva enviadas por correo.

Con el tiempo, se lograron reducir los precios lo suficiente como para que los
kits fueran ampliamente accesibles, lo que permitiría a 23andMe construir
una base de datos lo suficientemente grande como para identificar nuevos
vínculos entre enfermedades y genes particulares.

Más tarde, se descubriría que más allá de vender estas pruebas, toda esta
investigación impulsó la creación de medicamentos, algunos contra el cáncer,
que la empresa podría adaptar a diferentes perfiles genéticos, convirtiendo a
23andMe un nuevo tipo de negocio de atención médica. [15]

Si usted hubiese sido consumidor del producto de esta empresa, ¿vería bien
la nueva medida? ¿Cree que su ADN podría ser un aporte a los estudios y al
avance de la medicina o sentiría temor por la privacidad de su propio ADN?

Pregunta N°2:

Hace poco Facebook anunció la llegada de Meta, una nueva empresa matriz
que reúne las ya conocidas aplicaciones del anterior universo de Facebook y
trae consigo un nuevo conjunto de proyectos enfocados en el desarrollo de
un entorno virtual donde las personas puedan interactuar.

El entorno de realidad virtual del metaverso sería capaz de recopilar datos

biométricos, y según cómo esté diseñado, estos datos podrían incluir
movimientos oculares, seguimiento corporal, escaneos faciales, huellas de
voz, presión arterial, frecuencia cardíaca, detalles sobre el entorno del

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 6
 usuario y mucho más. Esa es una cantidad asombrosa de información
confidencial en manos de una empresa que muestra una y otra vez que no se
le pueden confiar nuestros datos personales. [16]

Suponiendo que por sus altas capacidades en el ámbito de la ingeniería

usted tiene la posibilidad de trabajar para esta enorme compañía en el
proyecto del metaverso, teniendo presente los antecedentes de la compañía,
los prejuicios y riesgos en el contexto de seguridad y privacidad que tiene
esta tecnología, ¿Aceptaría el empleo? ¿Usaría su conocimiento para apoyar
el desarrollo de este invento teniendo en cuenta las consecuencias?

Pregunta N°3:

Los deepfakes son medios sintéticos en los que una persona en una imagen
o video existente se reemplaza con la imagen de otra persona. Si bien el acto
de falsificar contenido no es nuevo, los deepfakes aprovechan técnicas
poderosas del aprendizaje automático y la inteligencia artificial para
manipular o generar contenido visual y de audio con un alto potencial de
engaño. Los principales métodos de aprendizaje automático utilizados para
crear deepfakes se basan en el aprendizaje profundo e implican el
entrenamiento de arquitecturas de redes neuronales generadoras. Los
deepfakes han atraído una gran atención por su uso en videos pornográficos
de celebridades, noticias falsas, engaños y fraude financiero. [17]

El nivel de exactitud y precisión de los deepfakes, los cuales mejoran

constantemente a un ritmo acelerado, hace que cada vez sea mucho más
difícil diferenciar un vídeo, una imagen o un audio falso de uno real. Además,
cabe notar que mientras difundir información falsa es muy sencillo,
comprobar y autenticar la información verdadera es bastante más
complicado.

Basado en lo anterior, ¿cree que quepa la posibilidad de que en un futuro sea

indistinguible la información falsa de la real? ¿Cómo cree que estas
tecnologías nos pueden llegar a afectar?

Pregunta N°4:

El escándalo de las emisiones de Volkswagen (VW), comenzó en septiembre

de 2015, cuando la Agencia de Protección Ambiental de Estados Unidos
(EPA) anunció que creía que VW había hecho trampa en las pruebas de
emisiones.

Resultó que la compañía había estado adaptando lo que algunos

comentaristas de la industria describieron como «dispositivos de
manipulación» a sus coches diésel, que incluían un software que detecta
cuando los coches se sometían a pruebas de laboratorio y activa los

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 7
 controles para reducir las emisiones de nitrógeno. Los automóviles parecen
cumplir las normas de la agencia, pero en algunos casos, en realidad emiten
hasta 40 veces el límite de dióxido de nitrógeno cuando circulan por la
carretera. [18]

¿Cree que si hubiese trabajado en tal proyecto sería capaz de renunciar a su

puesto, teniendo en cuenta el daño ambiental causado? ¿Hasta qué punto
cree que las empresas pueden ocultar información para su propio beneficio?

Pregunta N°5:

En el “informe de contenido ampliamente visto” de Facebook, publicado la

última semana de agosto del presente año, se notó algo posiblemente tan
condenatorio como la propagación de información errónea sobre el
COVID-19 o el aumento de la duda sobre las vacunas: casi todas las
publicaciones más vistas en Facebook durante el último trimestre fueron
efectivamente plagiadas de otros lugares.

El informe de Facebook detalla las 20 publicaciones más vistas en la red

durante los últimos tres meses. Una de las publicaciones se eliminó antes de
que Facebook la publicara. Sin embargo, de los 19 restantes, solo cuatro
parecen haber sido originales. Los 15 restantes se habían publicado primero
en al menos otro lugar y luego se volvieron a cargar en Facebook, en algunos
casos con pequeños cambios. [19]

Hemos visto que existen diferentes herramientas que se enfocan en evitar

plagios para las diferentes publicaciones, artículos científicos, etc. Estrategias
para respetar los derechos de autor en el ámbito de la música, entre otras
cosas. Sin embargo, una red social tan poderosa parece pasar desapercibido
que su contenido más visto es plagiado en su mayoría. ¿Cree usted que es
posible hoy en día conocer al verdadero autor intelectual de mucho del
contenido que consumimos? ¿Por qué considera que no ha sido posible
frenar este tipo de situaciones incluso con el avance tecnológico de hoy en
día?

Bibliografía

Laura Valentina Ceballos Aguilar:

[1] Insomne, L., 2021. Armas de destrucción matemática (PDF). Por Cathy O’Neil. [online]
La pupila insomne. Available at:
https://lapupilainsomne.wordpress.com/2020/10/29/armas-de-destruccion-matematica-p
df-por-cathy-oneil/

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 8
 [2] Youtube.com. 2021. [online] Available at:
https://www.youtube.com/watch?v=ahqUtAHxhSg

[3] C. and RODRIGUEZ, E., 2021. ¿Por qué Apple niega al FBI el acceso al iPhone de un
terrorista?. [online] ELMUNDO. Available at:
https://www.elmundo.es/tecnologia/2016/02/18/56c60701e2704ec6508b4572.html

[4] Emergencia en vivo. (2016,Abril 15).El ataque terrorista de San Bernardino, California: la
respuesta de dos departamentos de emergencia [online]. Available at:
https://www.emergency-live.com/es/historias/el-ataque-terrorista-de-san-bernardino-calif
ornia-respuesta-de-dos-departamentos-de-emergencia/

[5] Martín A. (2015, Octubre 20) criminales están extorsionando a usuario de Ashely
Madison. [Online] Available at:
https://www.larepublica.co/empresas/el-sitio-web-de-citas-ashley-madison-hace-su-reap
aricion-en-colombia-2558266

[6] Made for minds. (2021, mayo,5). Colombia: Anonymous se atribuye el “hackeo” de la
página del ejército [Online]. Disponible en:
https://www.dw.com/es/colombia-anonymous-se-atribuye-hackeo-de-la-p%C3%A1gina-
del-ej%C3%A9rcito/a-57436738

David Julian Bustos Cortes:

[7] Valora Analitik. (2021, septiembre 9). Amazon , el retail de mayor crecimiento en la
pandemia, según estudio [Online]. Disponible en:
https://www.valoraanalitik.com/2021/09/16/amazon-el-retail-de-mayor-crecimiento-en-pa
ndemia-segun-estudio/

[8] Chris McGreal. (2018, Julio 8). ¿Bezos tiene acorralada a la ciudad de Seattle? Este es
el coste de ser la sede de Amazon [Online]. Disponible en:
https://www.eldiario.es/internacional/theguardian/bezos-acorralada-ciudad-seattle-amaz
on_1_2037217.html

[9] Portafolio. (2018, septiembre 13). Jeff Bezos creó fondo de US $2.000 millones para
obras de caridad. [Online]. Disponible en:
https://www.portafolio.co/tendencias/jeff-bezos-creo-fondo-de-us-2-000-millones-para-o
bras-de-caridad-521129

[10] A. C. Martinez, “Ética en publicidad Online”, Departamento de Comunicación y

Psicología Social, Universidad de Alicante. [Online] Disponible en:
https://rua.ua.es/dspace/bitstream/10045/16658/1/%C3%89TICA%20EN%20PUBLICID
AD%20ONLINE.pdf.

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 9
 [11] J. Salas. (2018, Enero 19). El algoritmo que “adivina” los delitos falla tanto como un
humano. [Online]. Disponible en:
https://elpais.com/elpais/2018/01/17/ciencia/1516194073_122982.html

[12] S. Gozzer. (2018, Noviembre 8). Porque la inteligencia artificial puede ser racista y
machista y cómo puede evitarse. [Online]. Disponible en:
https://www.bbc.com/mundo/noticias-america-latina-45980171

[13] Interlatin, Colombia (2016, Agosto 25). Whatsapp compartirá tus datos con Facebook.
[Online]. Disponible en:
https://www.colombia.com/tecnologia/redes/sdi/142193/whatsapp-compartira-tus
-datos-a-facebook

[14] Superintendencia de industria y comercio. Manejo de información personal, “Habeas

data” [Online]. Disponible en:
https://www.sic.gov.co/manejo-de-informacion-personal

Juan Andrés Moreno Sánchez:

[15] “All Those 23andMe Spit Tests Were Part of a Bigger Plan,” Bloomberg.com. [Online].
Disponible en:

https://www.bloomberg.com/news/features/2021-11-04/23andme-to-use-dna-tests-to-ma
ke-cancer-drugs

[16] Heilweil, R., 2021. Facebook is backing away from facial recognition. Meta isn't. Vox
[Online].
Disponible en: https://www.vox.com/recode/22761598/facebook-facial-recognition-meta

[17] Anon, 2021. Prepare, don't panic: Synthetic media and deep fakes. WITNESS Media
Lab. Disponible en: https://lab.witness.org/projects/synthetic-media-and-deep-fakes/

[18] Anon, Los 10 mayores Escándalos Empresariales y su Efecto en los precios de las
acciones. IG. Disponible en:
https://www.ig.com/es/estrategias-de-trading/los-10-mayores-escandalos-empresariales
-y-su-efecto-en-los-preci-190403

[19] Newton, C., 2021. The most popular posts on Facebook are plagiarized. The Verge.
Disponible:
https://www.theverge.com/2021/8/27/22644126/the-most-popular-posts-on-facebook-are
-plagiarized [Accessed November 9, 2021].

Aspectos éticos y sociales en los sistemas de información - Kenneth C. Laudon y Jane P. Laudon (2016) 10