1.

Grandes datos en la era moderna

The Economist (2017) declaró recientemente que la información digital ha superado al
petróleo como el producto básico más valioso del mundo. Los grandes datos son una
realidad ineludible de la era de la información, aun cuando el ritmo de este maravilloso
desarrollo tecnológico supera con creces los marcos reglamentarios y normativos de la
era industrial que rigen su utilización. Nuestro diálogo sobre las verdaderas
implicaciones de los grandes datos - qué información se recopila, a quién pertenece,
cómo se pueden utilizar los datos, etc. - apenas ha arañado la superficie
Esto tiene importantes implicaciones para la comunidad empresarial, ya que los
grandes datos son grandes empresas a escala mundial. Los flujos de datos mundiales
representaron un aumento de 2,8 billones de dólares en el PIB mundial sólo en 2014.
Esta cifra es particularmente impresionante porque esos flujos eran casi inexistentes
15 años antes (Manyika et al., 2016). Las inversiones digitales pueden tener una
excelente rentabilidad.
Como reveló un reciente estudio sobre los rendimientos financieros de las inversiones
analíticas en 714 empresas de todo el mundo (Bughin, 2016):
Las grandes inversiones en datos ascendieron al 0,6 por ciento de los ingresos de las
empresas y dieron un múltiplo de 1,4 veces ese nivel de inversión, aumentando a 2,0
veces en cinco años. Eso no sólo está en el rango de los múltiplos de 1,1 a 1,9
observados en el ciclo de inversión en computadoras de los años 80, sino que también
excede los múltiplos que otros tienen identificados para los gastos de I+D y de
comercialización.
Los grandes datos implican mucho más que simplemente reunir y utilizando grandes
cantidades de información en las empresas la toma de decisiones. Se caracteriza (IBM,
2018) por los Cuatro Vs:
Volumen (la enorme cantidad de datos generados y recogido);
Velocidad (la rapidez con que se generan y conservan los datos);
Variedad (el número de tipos y fuentes de datos); y
Validez (la fiabilidad de los datos recogidos y analizados).
Una vez que se recogen los datos, hay que hacer algo con ellos, que es donde entra el
análisis. El gran análisis de datos es el proceso de utilizar técnicas metodológicas y de
investigación específicas para analizar la información recopilada con el fin de obtener
conocimientos únicos y mejorar la toma de decisiones en un contexto determinado
(por ejemplo, en los negocios, la ciencia, la formulación de políticas, la aplicación de la
ley). Una parte clave del rompecabezas es extraer el significado de los grandes datos
porque la información en sí no está intrínsecamente vinculada a un propósito
específico. Los grandes datos están fundamentalmente desestructurados: se recogen
sin un objetivo específico (o tal vez, con un objetivo completamente diferente), se
almacenan y luego se agregan a otros datos con la esperanza de que algún día alguien
pueda encontrar algo nuevo y útil dentro de la pila de datos gigantes.
El resultado de todo esto es que los grandes datos son, bueno, grandes. La gran cadena
de suministro de datos es extremadamente amplia, y consiste en el ciclo de vida
completo de la información:
recogida, preparación, codificación/entrada, procesamiento, interpretación/uso y
almacenamiento (Harris, 2013). Los interesados también son amplios: los titulares de
los datos, los creadores de los datos, los usuarios finales y todos los que se encuentran
entre ellos.
Los grandes datos están dando forma a la existencia humana moderna, y su influencia
no hará sino aumentar con el tiempo. Esto da lugar a importantes preguntas: ¿qué
limitaciones existen actualmente -y qué limitaciones deberían existir- en el papel que
los grandes datos desempeñan en las vidas humanas? En este artículo se examina la
medida en que el derecho internacional de los derechos humanos puede ayudar a
responder a estas preguntas.
2. Más allá de la privacidad: El continuo de los derechos humanos
En el sentido más amplio, los derechos humanos abarcan las "libertades, inmunidades
y beneficios que, de acuerdo con los valores contemporáneos ampliamente aceptados,
todo ser humano debe disfrutar en la sociedad en la que vive" (American Law Institute,
1987). La Carta Internacional de Derechos Humanos se define en tres documentos
primarios: la Declaración Universal de Derechos Humanos, que reconoció los derechos
humanos fundamentales existentes en el derecho internacional consuetudinario poco
después de la Segunda Guerra Mundial (Serie de Tratados de las Naciones Unidas,
1948), y dos tratados: el Pacto Internacional de Derechos Civiles y Políticos (Serie de
Tratados de las Naciones Unidas, 1966) y el Pacto Internacional de Derechos
Económicos, Sociales y Culturales (Serie de Tratados de las Naciones Unidas, 1966).
Los derechos humanos son respetados por la legislación internacional y nacional, pero
no son creados por ella. Dado que "todos los seres humanos nacen libres e iguales en
dignidad y derechos" (Serie de Tratados de las Naciones Unidas, 1948), los derechos en
sí mismos "se derivan de la dignidad inherente a la persona humana" (Serie de
Tratados de las Naciones Unidas, 1966), y no de la fuerza de la ley, las estructuras
políticas, el consenso social o cualquier otra fuente. Como subconjunto del derecho
internacional, los derechos humanos internacionales también forman parte de la ley
federal de los Estados Unidos (El Paquete Habana, 1900; Constitución de los Estados
Unidos, 1789).
Dicho esto, tanto en el ámbito nacional como en el internacional, no todos los
derechos humanos tienen la misma importancia o aplicación. Las leyes de derechos
humanos reflejan un continuo de derechos y obligaciones correspondientes. Por un
lado, los derechos humanos fundamentales (por ejemplo, el derecho a la vida, a ser
tratado como una persona ante la ley) son protegidos a través de mandatos legales
claros y absolutos. Nadie puede infringirlos, independientemente de las circunstancias.
Las peores violaciones de los derechos humanos fundamentales constituyen crímenes
internacionales como el genocidio (Serie de Tratados de las Naciones Unidas, 1948),
los crímenes de guerra (Naciones Unidas, 1998; Ley de Crímenes de Guerra, 1996), los
crímenes de lesa humanidad (Naciones Unidas, 1998), la trata de personas y la
esclavitud (Colección de Tratados de las Naciones Unidas, 2000), la tortura (Colección
de Tratados de las Naciones Unidas, 1984), y la discriminación racial o religiosa
sistemática practicada como política de Estado (Serie de Tratados de las Naciones
Unidas, 1976).
A continuación, en el continuo se encuentran los derechos civiles y políticos de
importancia crítica que los Estados deben defender e impedir que los agentes no
gubernamentales los infrinjan (Naciones Unidas, 2004). El PIDCP exige a los Estados
"respetar y garantizar a todos los individuos que se encuentren en su territorio y estén
sujetos a su jurisdicción los derechos reconocidos en el presente Pacto" (Serie de
Tratados de las Naciones Unidas, 1966). Este grupo de derechos incluye cuestiones
como los derechos individuales a la vida y a la integridad corporal, así como a la
libertad y la seguridad, a la residencia y a la libertad de circulación, a procedimientos
judiciales justos, a la vida familiar y a la intimidad, a la religión, a la opinión y al voto
políticos, a la reunión y a la asociación, y a la protección basada en la condición de
grupo minoritario.
En cambio, en el extremo final del continuo, se da un tono mucho más aspiracional a la
amplia panoplia de derechos económicos y sociales que ofrecen instrumentos como el
PIDESC (Serie de Tratados de las Naciones Unidas, 1966). Estos incluyen los derechos
de trabajo, las condiciones de trabajo, la afiliación a sindicatos, la seguridad social, un
cierto nivel de vida, la vida familiar y cultural, la salud y la educación. En contraste con
los mandatos negativos (enmarcados como "no debes infringir") que aplican la
mayoría de los derechos civiles y políticos, los deberes positivos (enmarcados como
"debes proveer") para derechos tales como un nivel de vida decente, salud, educación,
etc. son mucho menos rigurosos. Estos derechos sólo deben realizarse en la medida en
que lo permitan los recursos y las capacidades técnicas disponibles (Naciones Unidas,
Serie de Tratados, 1966).
El esbozo de este continuo no significa que las categorías sean completamente
insulares. No lo son, y ciertamente existe una superposición entre ellas. Se tampoco
significa que el contenido y la aplicación de derechos específicos dentro de las diversas
categorías es despejado. Ni mucho menos. Incluso el más fundamental los derechos
humanos (por ejemplo, el derecho a no ser torturado) están sujetos a desacuerdo
sobre lo que precisamente el derecho abarca, quién está protegido por ella, lo que se
requiere para defender el derecho, y cosas por el estilo (Posner, 2004). Pero nadie
discute que "la prohibición de la tortura es categórica" y que "la tortura es ilegal en
virtud de la legislación de prácticamente todos los países del mundo y en virtud del
derecho internacional de los derechos humanos". (Nuru c. Gonzales, 2005, pág. 1222).
Así que, también, con todos otros derechos humanos. Aunque hay disputas sobre los
límites precisos de las líneas, hay un gran consenso de que las líneas existen de hecho y
que hay consecuencias legales por cruzarlas.
Gran parte del debate sobre el uso adecuado de los grandes datos se centra en un derecho
humano que excluye todos los demás: el derecho a la privacidad. La privacidad es críticamente
importante. Ofrece enormes beneficios a los individuos y a la sociedad en su conjunto y, por lo
tanto, está protegida en sí misma como un derecho humano (Serie de Tratados de las Naciones
Unidas, 1948; Serie de Tratados de las Naciones Unidas, 1966). Pero es importante reconocer
las importantes limitaciones que una construcción de la privacidad impone a nuestra
comprensión del papel adecuado de los grandes datos en la vida moderna.

La privacidad no es el único derecho implicado en el uso de grandes datos, y ni siquiera es el

derecho más importante que poseemos. La privacidad no está incluida, por ejemplo, dentro
del pequeño grupo de derechos que los estados tienen prohibido suspender en tiempos de
emergencia nacional (United Nations Treaty Series, 1966). Por lo tanto, aunque el debate
sobre la privacidad puede y debe continuar, no debe ser nuestra única conversación. De
hecho, limitar el debate a un paradigma de privacidad es muy problemático porque podría dar
lugar a una muy falsa sensación de seguridad, lo cual es particularmente peligroso cuando se
trata de derechos humanos. Se necesita una perspectiva más amplia sobre el papel de los
derechos humanos en el uso de las grandes tecnologías de datos.

3. Derechos humanos: Otras intersecciones con grandes datos

Aparte de su utilidad comercial, que es considerable, los grandes datos ofrecen un gran
potencial para mejorar muchas dimensiones de la condición humana.

Seguridad personal. Los departamentos de policía han utilizado grandes datos para identificar
los lugares de probable actividad delictiva y asignar los recursos en consecuencia, lo que ha
dado lugar a una reducción significativa de los delitos violentos y las actividades de las bandas
(Howell, 2014).

La salud pública. Los científicos de los datos colaboraron con los funcionarios de salud pública
para analizar los datos que implican millones de variables para predecir los patrones de las
enfermedades y evitar los brotes de malaria y dengue (Ungerleider, 2013).

Violencia contra la persona. Una asociación entre Amnistía Internacional EE.UU. (2013) y la
Asociación Americana para el Avance de la Ciencia utilizó tecnologías de datos geoespaciales e
imágenes satelitales para detectar y documentar crímenes de guerra y atrocidades
relacionadas en Siria. Los grandes datos pueden ayudar a combatir la trata de personas al
revelar señales de advertencia de explotación a los servicios financieros y las empresas de
medios de comunicación social y al generar conjuntos de datos sobre las tendencias para
ayudar a identificar las redes de trata (Sneed, 2015)

Sin embargo, hay otra cara de la moneda. En la sombra inmediata de cualquier forma de
tecnología acecha el potencial de mal uso. Los grandes datos no son una excepción. A medida
que los costos bajan y la tecnología de datos se vuelve más ubicua y más simple de usar, hay
pocas dudas de que las herramientas analíticas de todo tipo se filtrarán a todos los rincones
del mundo. La innovación del sector privado (facilitada por la codificación de código abierto
"plug-and-play") es uno de los principales facilitadores de esta proliferación mundial de
tecnología a todos los segmentos de la sociedad. Si bien esto es importante para el progreso
social y económico, también da a cada dictador brutal y terrorista potencial en el escenario
mundial un fácil acceso al poder tecnológico impulsado por los datos que hace sólo unos años
era competencia exclusiva de un pequeño número de naciones desarrolladas avanzadas.

Los resultados dependen totalmente de los fines a los que se dirigen las tecnologías analíticas
basadas en datos. Las mismas innovaciones que apoyaron los movimientos democráticos
pacíficos como la Primavera Árabe (Howard, 2018) se convirtieron en objetivos más oscuros de
identificación y selección de personas para el abuso. A partir de 2011, por ejemplo, el Ejército
Electrónico de Siria (alineado con el Presidente Bashar al-Assad) utilizó cuentas falsas de
Facebook, software de vigilancia, troyanos y programas informáticos malignos, y otras
numerosas técnicas de piratería informática para identificar, atacar y desbaratar los esfuerzos
de los disidentes en el entonces emergente guerra civil (Consejo de Relaciones Exteriores,
2013). Forits parte, "Sólo China emplea más de 30.000 'policías de Internet' para monitorear el
tráfico en línea... ...y aparentemente intercepta todos los mensajes de China y... los escanea en
busca de palabras restringidas", con todos los mensajes almacenados en un sistema
gubernamental para su posterior recuperación y análisis (Downes, 2009, pág. 104).

Incluso los juegos en línea no son inmunes. La vida cotidiana de la gente es cada vez más
online y virtual, y juegos como Second Life llevan esto a un nivel completamente nuevo. El
progreso en un mundo virtual puede convertirse en dinero en este, como cuando se ganan y se
venden créditos de juego. Esto ha llevado a formas completamente nuevas de abuso personal.
En al menos un campo de trabajo chino, los prisioneros pasan sus días cavando trincheras y
rompiendo rocas, y sus noches se dedican a cultivar oro en línea para sus guardias de prisión1
(Vincent, 2011). El hecho de que estas condiciones de trabajo impliquen una actividad virtual
no las hace menos coercitivas o abusivas.

Estos ejemplos son sólo la punta del iceberg. Numerosos ejemplos históricos sugieren tanto
que los abusos tecnológicos a una escala mucho mayor son y que el sector privado se
convertirá en ...inextricablemente unidos dentro de ellos. Imagine que el programa de Hitler...
El Tercer Reich con tecnología de vigilancia similar a las metodologías de la NSA reveladas por
Edward Snowden. A la Gestapo le habría encantado, y El conglomerado Krupp de Alemania o
IG Farben podría lo han construido para ellos (Nersessian, 2015).

Incluso dejando de lado la mala conducta, el uso de cualquier forma de grandes datos en la
toma de decisiones humanas está plagado de otras complicaciones que pueden violar los
derechos humanos. Incluso el mejor software tiene fallos desconocidos para los
programadores en el momento de su lanzamiento. ¿Quién no ha experimentado problemas
informáticos por errores de software que se corrigen sólo después del hecho, quizás cuando
una masa crítica de usuarios se queja públicamente de los problemas? Los daños consecuentes
derivados de simples errores de codificación podrían ser desastrosos debido a la ubicuidad de
las tecnologías de datos en la vida moderna. Ya es bastante malo que un código errante
fusione mi informe de crédito con el de otra persona o que un fallo de software haga caer mi
voto del recuento el día de las elecciones. Mucho peor si un error de codificación permite que
mi marcapasos sea hackeado -quizás por un rescate, tal vez por oponentes políticos- o incita a
un equipo SWAT a derribar mi puerta a las 3 a.m. en lugar de la de un criminal con el mismo
nombre que vive en otro lugar.

Los mayores desafíos surgen en el uso de tecnologías predictivas para informar la toma de
decisiones. En su forma esencial, el análisis predictivo de grandes datos implica algoritmos
construidos alrededor de entradas de datos y suposiciones, todos los cuales son propensos
tanto a los humanos como a los errores de la máquina. El código funciona correctamente, pero
algo en su arquitectura subyacente (por ejemplo, una supuesto) es defectuoso. El aprendizaje
de la máquina... cuando un algoritmo procesa la información y modifica para cambiar su
propio comportamiento a la luz de lo que ha aprendido... complica la imagen aún más.

El colapso público del 'chatbot' Tay de Microsoft -que después de más de 24 horas
interactuando y aprendiendo de los usuarios de Internet tuiteó comentarios que culparon a los
judíos y a George W. Bush de los ataques del 11 de septiembre, abogó por el genocidio, usó
insultos raciales y negó el Holocausto- es un buen ejemplo de cómo las cosas pueden salir mal
(Kosoff, 2016a). Microsoft se vio incapaz de solucionar el problema: poco después de su
restauración, Tay confesó en Twitter que "fumaba kush" delante de la policía, lo que llevó a
Microsoft a cerrarlo para siempre (Kosoff, 2016b).

Fue lo que Microsoft no esperaba de Tay lo que causó el problema. Tay aprendió de forma
inesperada, o quizás de la gente, que Microsoft no esperaba que fueran profesores, y modificó
su propio comportamiento en consecuencia. Ya es bastante malo que Microsoft tenga un ojo
morado en las relaciones públicas; mucho peor si el aprendizaje algorítmico enloquecido priva
a la gente de sus derechos. ¿Qué tipo de parche de software puede rectificar las consecuencias
de los errores de codificación que designan inadvertidamente a alguien como terrorista, o
como miembro de un grupo político de la oposición que es objeto de persecución,
especialmente cuando el individuo puede que nunca llegue a conocer la designación y por lo
tanto nunca tenga la oportunidad de desafiarla? ¿O un error de predicción en un algoritmo
que niega a alguien la atención médica o el derecho al voto, o lo destina a una mayor vigilancia
policial simplemente porque vive en un vecindario poblado por minorías?

Un valor clave añadido de los grandes análisis de datos es el gran volumen de información
agrupada en ferencias sobre esos datos desarrollados a través de algoritmos patentados. Los
perfiles de datos, por lo tanto, "incluyen información factual sobre los individuos, así como
elementos 'modelados' inferidos de otros datos" (Podesta, 2014). Esto generalmente se hace
con un propósito específico en mente, en el sector corporativo, usualmente vendiendo algo:
"Los grandes analistas de datos tamizan montañas de datos para identificar o predecir hechos
acerca de los individuos y para usar esos hechos en decisiones que van desde qué productos
venderlos hasta si proporcionarles tratamiento médico" (Waterman & Bruening, 2014, p. 89).

Esto puede dar lugar a múltiples problemas. En primer lugar, al recordar el derecho a la
intimidad, ciertos tipos de información personal, aun cuando sean exactos, deben limitarse a
fines específicos, en lugar de convertirse en puntos de datos abiertos que puedan
interpretarse o amalgamarse con otros datos personales para lograr fines comerciales. Como
señaló Hiller (2016, pág. 271): "Las listas de víctimas de violaciones, enfermos de SIDA y
personas con demencia" -todas las cuales están disponibles en los corredores de datos
comerciales- son buenos ejemplos. Pocos argumentarían que esa información produce una
base apropiada para la venta de bienes y servicios. Es importante asegurar que la recopilación
y el uso de dicha información no metastatizar más allá de contextos estrechamente definidos.

En segundo lugar, la información fáctica es un término relativo. Hay poca aprobación social del
uso de "hechos alternativos" en contextos en línea (por ejemplo, la falsificación de la edad de
una persona en un perfil en línea); de hecho, es algo esperado (Houser & Sanders, 2017, pág.
841). Basar las determinaciones algorítmicas en esa información equivale a construir un
conjunto de datos sobre la arena movediza. Por último, los propios algoritmos pueden reflejar
numerosas formas de sesgo humano (Baer & Kamalnath, 2017) incluso cuando enmascaran a
esas predisposiciones detrás de lo que parece ser objetivo datos. Las fallas muy humanas de
los codificadores (por ejemplo, el sesgo de confirmación) y otras "[s]eriosas preocupaciones
acerca de muestreo, representación y estimaciones de población cuestionan la utilidad de los
grandes datos en la política making" y otros contextos (Latonero y Gold, 2015).

Las implicaciones para los derechos humanos de las inferencias inexactas extraídas de los
datos procesados pueden ser profundas. Una cosa es que cuando Netflix considera mi viendo
la historia, mis gustos, información demográfica, etc. y sugiere una película que no disfruto, de
hecho. Y puede incluso ser divertida (aunque menos para Microsoft) cuando un chatbot como
Tay se comporta de forma inesperada. Es muy diferente si termino en una lista negra para
viajes en avión o convertirse en objetivo de vigilancia o arresto debido a un algoritmo ...un
paso en falso o el aprendizaje de la máquina se ha estropeado. Incluso los errores
involuntarios (que pueden no ser descubiertos nunca) pueden tienen graves consecuencias
para los derechos humanos de los individuos y grupos en el extremo receptor de las
predicciones e inferencias impulsadas por los grandes análisis de datos.

4. Las implicaciones: Los derechos humanos como riesgos empresariales

Es evidente que los agentes empresariales tienen algunas obligaciones jurídicas de respetar los
derechos humanos en sus actividades comerciales que incluyen necesariamente actividades
relacionadas con grandes datos. El alcance de la obligación depende en cierta medida de la
naturaleza de la infracción en cuestión. Es evidente que ninguna empresa puede reclamar el
derecho a cometer violaciones insistentes de los derechos humanos. En particular, cuando las
violaciones de los derechos humanos constituyen delitos internacionales, cualquier persona
afiliada a la empresa criminal, o que sea cómplice de ella, puede ser considerada responsable
de la propia ofensa (Nersessian,2015).

Si, por ejemplo, Google proporciona a sabiendas datos de identificación a una dictadura brutal
que, a su vez, utiliza la información para dirigir a las personas hacia el genocidio (o tal vez hacia
un interrogatorio mejorado), Google (o al menos los ejecutivos individuales de Google que
autorizaron la liberación) puede ser considerado potencialmente responsable de ese delito.
Esto es cierto incluso cuando la información debía ser liberada de conformidad con la
legislación nacional de ese país.2 Dado que los abusos graves de los derechos humanos están
sujetos a la jurisdicción universal (American Law Institute, 1987), los cargos penales podrían
ser perseguidos en los tribunales nacionales de cualquier país del mundo (Calderón-Meza, Lee,
Chang y Cabrera Silva, 2016; Sosa c. Alvarez-Machain, 2004).

Es importante no exagerar el riesgo; por todas cuentas, la posibilidad de un proceso penal por
las violaciones de los derechos humanos es bajo. Aunque el fiscal de la Corte Penal
Internacional (2016) recientemente expresó su interés en un mayor enfoque en actividad
empresarial, no basta con una conducta comercial que involuntariamente conduce a
resultados perjudiciales:

Hay una diferencia entre suministrar bienes a un sindicato y unirse a él, al igual que hay una
diferencia entre vender bienes y ser un empleado del comprador. . ..

Los vendedores y los compradores no son automáticamente conspiradores. Si fuera de otro

modo, las empresas que venden teléfonos celulares a adolescentes punks que no tienen otro
uso para ellos que el de establecer tratos de drogas estarían en problemas, y muchas empresas
legítimas estarían obligadas a vigilar las actividades de sus clientes. (Estados Unidos c.
Blankenship, 1992, pág. 285)

El mero hecho de permitir que los productos o servicios basados en datos entren en la
corriente comercial es insuficiente para la responsabilidad. Consideremos un ejemplo reciente:
Los medios de comunicación social dieron un giro peligroso cuando un tweet mejorado con
estroboscopio (cuyo mensaje decía "usted merece un ataque") fue enviado a un conocido
epiléptico con la intención de inducir un ataque en el destinatario, que era un periodista con
opiniones políticas opuestas (Weil, 2017). Twitter difícilmente puede ser considerado
responsable de este ataque criminal simplemente por proporcionar la plataforma en la que
tuvo lugar.

Más cerca de casa está el riesgo de responsabilidad civil por la violación de los derechos
humanos en el extranjero en virtud del Estatuto de Agravios a Extranjeros (1789), en el que se
han presentado demandas contra las empresas multinacionales sobre diversas teorías de
derechos humanos (Nersessian, 2016). Una demanda contra Cisco -que fue desestimada por
motivos de jurisdicción- alegó que Cisco era cómplice de violaciones de los derechos humanos
por desarrollar un sistema de vigilancia electrónica utilizado por el gobierno chino para
identificar, perseguir y torturar a miembros de la minoría de la secta religiosa Falun Gong (Doe
I contra Cisco Systems Inc., 2014). Se presentaron reclamaciones similares en relación con la
asistencia tecnológica de Nokia al Irán (Saharkhiz c. Nokia, 2010; caso retirado) y las
actividades de los proveedores de servicios de Internet de Yahoo en China (Xiaoning c. Yahoo!
Inc, 2007; caso resuelto). La conducta que transgrede las normas de derechos humanos
también puede violar otras leyes federales (Adhikari c. Daoud & Partners, 2009; RICO, 1970;
Ley de crímenes de guerra, 1996) o el derecho estatal de responsabilidad civil (por ejemplo,
homicidio culposo, encarcelamiento culposo, agresión y lesiones; Linder c. Calero
Portocarrero, 1992; Xuncax c. Gramjo, 1995). La responsabilidad civil puede ser un problema
mundial para las empresas multinacionales; cada vez se presentan más casos de reparación
por presuntas violaciones de los derechos humanos fuera de los Estados Unidos en
jurisdicciones como el Canadá (Fairhurst y Thomson, 2015) y los Países Bajos (Ratcliffe, 2017)

5. Derechos humanos, oportunidades y cultura empresarial

Hasta la fecha, muchas de las cuestiones más difíciles sobre la responsabilidad de las empresas
por abusos de los derechos humanos se han evitado gracias a la conveniencia de centrarse en
la conducta voluntaria de las empresas. Por ejemplo, el Pacto Mundial de las Naciones Unidas
(n.d.) articuló diez principios voluntarios sobre los derechos humanos, cuestiones laborales, de
corrupción y ambientales. Más Recientemente, las Naciones Unidas elaboraron los Principios
Rectores sobre Empresas y derechos humanos (en adelante, "Guiding Principios). Los
Principios Rectores reflejan un mandato de tres partes (Naciones Unidas, 2011):

1. Los Estados deben protegerse contra los abusos de los derechos humanos,
independientemente de que los autores sean naturales personas o entidades artificiales;

2. Las empresas deben respetar los derechos humanos, tanto como una cuestión de política de
la empresa y en su habitual actividades comerciales; y

3. Tanto los gobiernos como las empresas deben proporcionar un recurso cuando se producen
abusos de los derechos humanos ...ocurren.
Los Principios Rectores, reconocidos como recomendaciones para poner en práctica el marco
de protección y respeto, reflejan un considerable consenso y han sido adoptadas por el
Consejo de Derechos Humanos de las Naciones Unidas Consejo de Derechos (2011). Aunque se
están realizando esfuerzos para crear un tratado vinculante (Derechos Humanos de la ONU
Consejo, 2014), gran parte de la atención actual de la ONU se centra en asegurando que los
estados hagan cumplir sus propias leyes nacionales sobre leyes de derechos contra los actores
corporativos (Naciones Unidas, 2016).

Es probable que los Principios Rectores se conviertan en incorporado en las leyes y

reglamentos nacionales sobre tiempo. El Consejo de Europa (2016) recomendó recientemente
que los estados los implementen para asegurar que las empresas que operan dentro de sus
jurisdicciones tomar las medidas necesarias para proteger los derechos humanos. La
Organización de Cooperación y Desarrollo Económicos (OCDE) El desarrollo también actualizó
sus normas anteriores sobre empresas y derechos humanos (OCDE, 2004) para reflejar el
nuevo marco (OCDE, 2011). Los Estados individuales también han comenzado a transformar
los Principios Rectores en una ley vinculante. Francia ha promulgado recientemente leyes
nacionales legislación (Asamblea Nacional de Francia, 2017) que exige a las grandes empresas
la debida diligencia en materia de derechos humanos y medio ambiente. Los principios
rectores incluso han encontrado su camino en la jurisprudencia como reflejo de las normas
jurídicas existentes en el derecho internacional (Pueblos Kaliña y Lokono c. Suriname, 2015).

En general, los Principios Rectores ofrecen un marco coherente para analizar las obligaciones
del sector privado de respetar los derechos humanos a medida que desarrollan y despliegan
grandes servicios de datos y utilizan la información obtenida. Esperan que las empresas
adopten políticas y procedimientos empresariales relacionados con los derechos humanos,
actúen con la debida diligencia para comprender y remediar las repercusiones en los derechos
humanos y ofrezcan un remedio para las violaciones de los derechos humanos que se
produzcan. Sin embargo, los Principios Rectores también crean una oportunidad para las
empresas: la posibilidad de transformar la cultura empresarial en torno a los grandes datos,
sirviendo de marco normativo y ético autoimpuesto.

Si se adoptan como política de la empresa, los Principios Rectores servirían como punto de
referencia en la política empresarial la toma de decisiones con respecto a la generación,
análisis y utilización de los datos y la cesión de los derechos de las bases de datos por parte de
los interesados. El deber de los Principios Rectores de respetar los derechos humanos va más
allá de simplemente exigiendo a una empresa que cumpla con las leyes de derechos humanos
aplicables. Después de todo, esa obligación ya existe. Más bien, la noción de respetar derechos
humanos abarca nociones más amplias de la contabilidad de los derechos humanos tanto en
su dimensión de aspiración (no vinculantes).

Mucho bien vendría de tal adopción. Una corporación que integre un marco de derechos
humanos en su ecosistema de toma de decisiones al menos consideraría el impacto en los
derechos humanos antes de adoptar cierto comportamiento, y se preguntaría si violaría los
derechos humanos para proceder. Los derechos humanos también informarían la pregunta de
si una empresa como Cisco elegiría buscar oportunidades comerciales cuestionables en el
extranjero en primer lugar (Stirland, 2008). También podría informar la pregunta de si
compañías como Uber están dispuestas a desarrollar algoritmos de predicción que podrían
identificar a los clientes "que se dedican a los negocios de una noche basados en los datos que
recogen sobre sus jinetes" (Houser & Sanders, 2017, p. 310). Lo que más importa es que los
actores corporativos no se preguntan a sí mismos la preguntas y dándose a sí mismos las
respuestas. Ellos mirar más allá de la Suite C para estándares significativos sobre cuáles
deberían ser las políticas, procedimientos y prioridades de la empresa. Normas internacionales
de derechos humanos ofrecen una tremenda oportunidad para llenar la actual laguna. Según
una encuesta de The Economist Intelligence Unit (Freudmann, 2015), mientras que el 83% de
los 853 altos ejecutivos de empresas encuestados estuvieron de acuerdo que el negocio era un
actor clave en los derechos humanos, más que la mitad (54%) no tenía una política de empresa
sobre el tema.

El uso de las leyes de derechos humanos para informar a la empresa política y la cultura sobre
los grandes temas de datos ayudaría a asegurar el equilibrio correcto y las buenas decisiones
en varios aspectos:

Funciona como una importante limitación externa de la conducta empresarial. Establece zonas
de legitimidad e ilegitimidad para la recopilación y el uso de datos. El uso de datos por parte de
agentes públicos o privados que violan los derechos humanos difícilmente puede considerarse
legítimo. La legislación sobre derechos humanos elimina por completo ciertas cosas de la
mesa. Deja claro que nadie tiene el derecho de usar la riqueza de la información que se
recogen sobre todos y todo para participar en el comportamiento, directa o indirectamente,
que está por debajo de ciertas normas mínimas acordadas internacionalmente.

El derecho internacional de los derechos humanos se refiere a normas mundiales. Como se ha

señalado anteriormente, los datos en sí son intrínsecamente un producto básico mundial, lo
que significa que las fronteras tradicionales (por ejemplo, geográficas, nacionales, sociales) son
cada vez más irrelevantes para su utilización. En la nube, la pregunta pertinente es dónde se
puede acceder a los datos, más que dónde se almacenan los datos. Esto no significa que no
queden vestigios de paradigmas preexistentes. Microsoft ha comenzado a resistirse a las
citaciones del gobierno con el argumento de que la información de los clientes se almacena en
el extranjero y, por lo tanto, está fuera de la jurisdicción de los tribunales de los Estados
Unidos. Pero es evidente que la información digital es muy diferente de su contraparte en
papel y por lo tanto, en última instancia, requerirá un conjunto de reglas completamente
diferentes. Los grandes datos incluso se entrelazan con el comercio internacional (USTR, 2015),
y se ha sugerido que el hecho de impedir los flujos de datos mundiales crea impactos adversos
sobre los derechos humanos, además de tolerar la actividad económica (Institute for Human
Rights and Business, 2016). Un marco de derechos humanos también proporcionaría una
orientación clara y coherente a las empresas cuando las leyes internas y los mecanismos de
aplicación de la ley en un país determinado sean débiles. Incluso en las economías avanzadas,
el carácter intrínsecamente mundial de los grandes datos dificulta la reglamentación eficaz a
nivel nacional, y muchas leyes y políticas nacionales están atrasadas. Como se afirma en
Massad (2010):

Muchas leyes solían ser estatales y federales, pero la empresa moderna no tiene fronteras... El
problema aquí es que las normas y leyes que originalmente tenían sentido cuando fueron
escritas no se han puesto al día con las tecnologías modernas y la forma en que los clientes
hacen negocios.

Las leyes y los marcos reglamentarios locales reflejan las prácticas, los valores y las presiones
políticas locales que pueden variar mucho de un país a otro. Esto puede dar lugar a
importantes divergencias nacionales en la forma de manejar los datos. El Tribunal de Justicia
de las Comunidades Europeas anuló un acuerdo de "puerto seguro" de transferencia de datos
entre la Unión Europea y los Estados Unidos (Schrems contra el Comisario de Protección de
Datos, 2015) basándose en disparidades fundamentales subyacentes en sus respectivos
enfoques de la protección de datos. Si bien se está examinando un acuerdo posterior de la UE
con los Estados Unidos para sustituir el marco anulado (Scott, 2016), queda mucho margen
para la disparidad actual basada en poco más que el contexto nacional. Esto crea
incertidumbre en las empresas y aumenta los costos para las empresas mundiales que a
menudo prefieren normas uniformes sobre datos que se apliquen en todo el mundo. Los
derechos humanos pueden ayudar a llenar este vacío. Las empresas que incorporen los
derechos humanos en sus políticas y procedimientos empresariales se beneficiarán de una
plataforma mundial común para identificar y resolver éticamente las cuestiones relativas a los
datos que, a diferencia de los países que tratan de regularlos, no tienen fronteras naturales.

La legislación de derechos humanos informa el gran proceso de toma de decisiones sobre

datos asegurando que ciertos valores importantes estén profundamente arraigados y al menos
considerados -si no priorizados- en la recolección de información, el desarrollo de algoritmos,
el procesamiento de datos y la interpretación de los resultados. Esta parece ser la dirección
que está tomando la UE en su nuevo Acuerdo sobre Privacidad Digital (Comisión Europea,
2015), que "garantiza que las salvaguardias de protección de datos se incorporen a los
productos y servicios desde la primera etapa de desarrollo (Protección de datos por diseño)".
Pero los actores corporativos deben considerar toda la panoplia de los derechos humanos al
mismo tiempo que incorporan tales salvaguardias, no sólo el derecho a la privacidad. Las leyes
de derechos humanos ayudan a colocar el foco donde corresponde, en los seres humanos, en
la toma de decisiones basada en datos. Este enfoque es sorprendentemente fácil de perder
debido a la tendencia a proteger la toma de decisiones humanas detrás de la opacidad
algorítmica (Burrell, 2016; Danaher, 2016). Un enfoque abierto de los derechos humanos en el
panorama general de los datos ayudará a garantizar que las innovaciones tecnológicas y las
metodologías no se convierten en fines en y de ellos mismos. Después de todo, ¿qué son los
grandes datos sino otra herramienta diseñada para servir a los fines humanos?

El momento de abordar estos temas es ahora. Dado el ritmo de la evolución tecnológica, estas
decisiones se harán más difíciles con el tiempo. Este es un problema de todos, simplemente
porque los grandes datos tienen el potencial de impactar en la vida de cada ser humano en el
planeta (como lo hacen los derechos humanos). Pero el sector empresarial, como principal
creador y usuario de la tecnología de los grandes datos, tiene la responsabilidad especial de
garantizar su uso y desarrollo responsables. Existe un peligro real de que las capacidades
tecnológicas de los grandes datos superen los fines humanos a los que originalmente estaban
destinados. Las empresas deben comprender las verdaderas implicaciones del uso y la política
de los grandes datos y comenzar a considerar todas las implicaciones antes de que se alcance
el punto de inflexión. Los principios del derecho internacional de los derechos humanos
proporcionan un marco útil para ayudarlas a hacerlo, tanto como principios de derecho
vinculante que limitan el comportamiento comercial como normas derivadas de valores que
informan la toma de decisiones éticas en todo el mundo en el contexto de los grandes datos.

Nota y reconocimiento

Una versión anterior de este artículo recibió el premio de la Academia de Estudios Legales en
Negocios Virginia Maurer al mejor trabajo de ética en 2016. Este escrito también se benefició
enormemente de las perspectivas y la experiencia ofrecidas en el Coloquio de Leyes y Ética de
los Grandes Datos de 2017, celebrado en la Escuela Wharton de la Universidad de
Pennsylvania.