Está en la página 1de 47

Página 1

Computacional
Propaganda
v Proyecto de investigación
UNIVERSIDAD DE
OXFORD

La orden mundial de desinformación


Inventario Global 2019 de Organizado
Manipulación de redes sociales
Samantha Bradshaw. Universidad de Oxford
Philip N. Howard. Universidad de Oxford
RUSIA
¿

R
U
S
S
IA
'
ä ia S j P i S l KAZAKHSTAN MONGOLIA CHINA
. GUATEMALA
1 HONDURAS
3 VENEZUELA
YO-
VENEZUELA
g | - VLnUUCLH
BRASIL
ECUADOR =

BRASIL
d »-4 1 - ^ 1 KAZAJSTÁN
Jg
- BUS «• H.UZBEHSTAN
!>
^ ai TTTIIDI f CVTURKM
KYRGYZSTAN
=Z
^53l™
t JL
Tayikistán

, 3> s - «II SIRAN i


*51
m 1 ® IRÁN |
3 LIBYPI s I SAUDI1! Yo * yo
»Rlz H: ¡ARABIA! yo
METRO
MAU ** = C "3 C />
YEMENITA
^
KENIA:

CHINA'
CHINA
Yo Ü ■
F
yo
=
77
CAMBOYA
-D
=
_ YO
MALASIA ~
BRASIL
ZIMBABUE
SUR
ÁFRICA
AUSTRALIA
AUSTRALI
AUSTRALIA
Página 2
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Resumen Ejecutivo
Computacional
propaganda - la
uso de algoritmos,
automatización, y grande
datos para dar forma al público
la vida se está convirtiendo
un generalizado y
parte ubicua de
la vida cotidiana.
En los últimos tres años, hemos monitoreado el
organización global de manipulación de redes sociales por
gobiernos y partidos políticos. Nuestro informe de 2019
analiza las tendencias de la propaganda computacional
y la evolución de las herramientas, capacidades, estrategias y
recursos

1. Evidencia de manipulación organizada de las redes sociales.


campañas que han tenido lugar en 70 países,
desde 48 países en 2018 y 28 países en
2017. En cada país, hay al menos un político
partido o agencia gubernamental que usa las redes sociales para
dar forma a las actitudes públicas a nivel nacional (Figura 1).

2. Las redes sociales han sido cooptadas por muchos


regímenes autoritarios. En 26 países,
la propaganda computacional se está utilizando como
una herramienta de control de información en tres distintos
formas: suprimir los derechos humanos fundamentales,
desacreditar a los opositores políticos y ahogarse
opiniones disidentes (Figura 2).

3. Un puñado de actores estatales sofisticados usan


propaganda computacional para influencia extranjera
operaciones Facebook y Twitter atribuidos
operaciones de influencia extranjera a siete países
(China, India, Irán, Pakistán, Rusia, Arabia Saudita,
y Venezuela) que han utilizado estas plataformas para
influenciar audiencias globales (Figura 3).

4. China se ha convertido en un jugador importante en el mundo


orden de desinformación Hasta las protestas de 2019 en Hong
Kong, la mayor evidencia de computación china
la propaganda ocurrió en plataformas domésticas tales
como Weibo, WeChat y QQ. Pero el nuevo hallazgo de China
interés en usar agresivamente Facebook, Twitter y
YouTube debería plantear preocupaciones por las democracias

5. A pesar de que hay más redes sociales


plataformas que nunca, Facebook sigue siendo el
plataforma de elección para la manipulación de redes sociales.
En 56 países, encontramos evidencia de
campañas organizadas de propaganda computacional
en Facebook. (Figura 4).
[ yo ]

Página 3
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Contenido
1
77
99
11
17
21
22
23
23
3
55
55
66
10
12
14
dieciséis
18 años
Introducción
Metodología de informe
Forma Organizacional
Estrategias, herramientas y técnicas
Presupuestos organizacionales, comportamientos y capacidad
Conclusión
Referencias
Agradecimientos
Biografías de los autores
ILUSTRACIONES
Figura 1 - El orden mundial de desinformación
Figura 2 - La propaganda computacional como herramienta de información
Controlar
Figura 3 - Operaciones de influencia extranjera en las redes sociales
Figura 4 - Plataformas destacadas para la manipulación de redes sociales
Tabla 1 - Forma organizativa y prevalencia de las redes sociales
Manipulación
Tabla 2 - Tipos de cuentas falsas
Tabla 3 - Mensajes y valencia
Tabla 4 - Estrategias de comunicación
Tabla 5 - Capacidad de Cyber Troop
Este informe puede citarse como: Samantha Bradshaw y Philip N. Howard. (2019) The Global Disinformation Disorder: 2019 Global Inventory of Organized Social Media Manipulation. Hoja de trabajo
2019.2. Oxford, Reino Unido: Proyecto sobre propaganda computacional.
[ii]
Página 4
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Introducción
Alrededor del mundo,
gobierno
los actores están usando
redes sociales para
fabricar
consenso,
automatizar
supresión,
y socavar
confiar en los liberales
orden internacional.
Aunque la propaganda siempre ha sido parte de la política.
discurso, el alcance profundo y amplio de estas campañas
plantear inquietudes críticas de interés público.
Las tropas cibernéticas se definen como gobierno o partido político.
actores encargados de manipular la opinión pública en línea
(Bradshaw y Howard 2017a). Examinamos comparativamente
La organización formal de las tropas cibernéticas en todo el mundo, y
cómo estos actores usan la propaganda computacional para la política
propósitos Esto implica construir un inventario de la evolución
estrategias, herramientas y técnicas de propaganda computacional,
incluyendo el uso de 'bots políticos' para amplificar el discurso de odio o
otras formas de contenido manipulado, la cosecha ilegal de
datos o micro-objetivos, o desplegar un ejército de 'trolls' para intimidar
o acosar a disidentes políticos o periodistas en línea. También rastreamos
la capacidad y los recursos invertidos en el desarrollo de estos
técnicas para construir una imagen de las capacidades de las tropas cibernéticas en torno a
el mundo.
El uso de propaganda computacional para dar forma a las actitudes públicas.
a través de las redes sociales se ha generalizado, extendiéndose mucho más allá
Las acciones de unos pocos malos actores. En un entorno de información
caracterizado por altos volúmenes de información y limitada
niveles de atención y confianza del usuario, las herramientas y técnicas de
La propaganda computacional se está convirtiendo en algo común, y
posiblemente esencial: parte de la campaña digital y pública
diplomacia. Además de construir una imagen comparativa global
de la actividad de las tropas cibernéticas, también esperamos impulsar el desarrollo público y académico
debate sobre cómo definimos y entendemos el cambio
naturaleza de la política en línea y cómo las tecnologías pueden y deben
ser utilizado para mejorar la democracia y la expresión del ser humano
derechos en línea.
En el informe de este año, examinamos la actividad de las tropas cibernéticas en 70
países: Angola, Argentina, Armenia, Australia, Austria,
Azerbaiyán, Bahrein, Bosnia y Herzegovina, Brasil, Camboya,
China, Colombia, Croacia, Cuba, República Checa, Ecuador,
Egipto, Eritrea, Etiopía, Georgia, Alemania, Grecia, Honduras,
Guatemala, Hungría, India, Indonesia, Irán, Israel, Italia,
Kazajstán, Kenia, Kirguistán, Macedonia, Malasia, Malta,
México, Moldavia, Myanmar, Países Bajos, Nigeria, Corea del Norte,
Pakistán, Filipinas, Polonia, Qatar, Rusia, Ruanda, Arabia Saudita
Arabia, Serbia, Sudáfrica, Corea del Sur, España, Sri Lanka,
[1]
Página 5
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
Suecia, Siria, Taiwán, Tayikistán, Tailandia, Túnez, Turquía,
Ucrania, Emiratos Árabes Unidos, Reino Unido, Estados Unidos,
Uzbekistán, Venezuela, Vietnam y Zimbabwe.
Evidencia creciente de propaganda computacional
Alrededor del mundo
Encontramos evidencia de manipulación organizada en las redes sociales
campañas en 70 países, frente a 48 países en 2018 y
28 países en 2017. Parte de este crecimiento proviene de nuevos
participantes que están experimentando con las herramientas y técnicas
de propaganda computacional durante las elecciones o como una nueva herramienta
de control de la información. Sin embargo, periodistas, académicos y
los activistas también están mejor equipados con herramientas digitales y más
vocabulario preciso para identificar, informar y descubrir instancias
de manipulación formalmente organizada de redes sociales. Sobre el
En los últimos tres años hemos podido refinar nuestro idioma.
y términos de búsqueda para identificar instancias de cálculo
propaganda, y encontramos que muchos países han mostrado
elementos de manipulación de redes sociales organizada formalmente para
La última década. Como resultado, sugerimos que el cálculo
La propaganda se ha convertido en una parte ubicua y dominante de la
ecosistema de información digital.
La cooptación de las redes sociales en lo autoritario
Regímenes
En muchos regímenes autoritarios, la propaganda computacional
se ha convertido en una herramienta de control de información estratégicamente
usado en combinación con vigilancia, censura y amenazas
de violencia. Hemos catalogado los tipos de campañas.
países autoritarios han utilizado contra periodistas, políticos
disidentes, y la sociedad en general, y encontró tres distintos
formas en que se usa la propaganda computacional:
(1) suprimir los derechos humanos fundamentales;
(2) desacreditar a la oposición política; y
(3) ahogar la disidencia política.
La cooptación de las tecnologías de los medios sociales proporciona autoritario
regímenes con una poderosa herramienta para dar forma a las discusiones públicas y
difundir propaganda en línea, mientras que simultáneamente vigilan,
censurar y restringir espacios públicos digitales.
Un número limitado de influencia extranjera
Operaciones de actores altamente sofisticados
Las operaciones de influencia extranjera son un área importante de preocupación
pero atribuyendo propaganda computacional a un estado extranjero
Los actores siguen siendo un desafío. Facebook y Twitter: quién

150%
El aumento en
países que usan
social organizado
manipulación de medios
campañas sobre el
los últimos dos años
han comenzado a publicar información limitada sobre influencia
operaciones en sus plataformas: han tomado medidas contra
ciber tropas involucradas en operaciones de influencia extranjera en siete
países: China, India, Irán, Pakistán, Rusia, Arabia Saudita y
Venezuela. Aunque esta medida no captura la extensión
a qué operaciones de influencia extranjera se están llevando a cabo, podemos
con confianza comenzar a construir una imagen de este altamente secreto
fenómeno.
China flexiona su músculo de desinformación
Hasta hace poco, encontramos que China rara vez usaba las redes sociales para
manipular la opinión pública en otros países. La audiencia para
La propaganda computacional se ha centrado principalmente en el ámbito doméstico.
plataformas, como Weibo, WeChat y QQ. Sin embargo, en 2019
el gobierno chino comenzó a emplear las redes sociales globales
plataformas para pintar a los defensores de la democracia de Hong Kong como
radicales violentos sin atractivo popular (Lee Myers y Mozur
2019). Más allá de las plataformas domésticas, el crecimiento
sofisticación y uso de tecnologías de redes sociales globales
demuestra cómo China también está recurriendo a estas tecnologías
como herramienta de poder e influencia geopolítica.
Facebook sigue siendo el número uno
A pesar de que hay más plataformas que nunca, Facebook
sigue siendo la plataforma dominante para la actividad de las tropas cibernéticas. Parte
La razón de esto podría explicarse por su tamaño de mercado:
como una de las plataformas de redes sociales más grandes del mundo, como
así como las posibilidades específicas de la plataforma, como el cierre
comunicación entre familiares y amigos, una fuente de noticias políticas
e información, o la capacidad de formar grupos y páginas. Ya que
2018, hemos recopilado evidencia de una mayor actividad de las tropas cibernéticas
en plataformas para compartir imágenes y videos como Instagram y
Youtube. También hemos recopilado evidencia de tropas cibernéticas.
ejecutando campañas en WhatsApp. Creemos que estas plataformas
crecerá en importancia en los próximos años a medida que más
la gente usa estas tecnologías de redes sociales para fines políticos
comunicación.
[2]
Página 6
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
FIGURA 1 - LA ORDEN DE DESINFORMACIÓN GLOBAL
PAÍSES QUE PARTICIPAN EN LA MANIPULACIÓN DE MEDIOS SOCIALES
8
4 HONDURAS
ECUADOR
Angola
Argentina
Armenia
Ecuador
Australia
Egipto
Austria
Eritrea
Azerbaiyán
Etiopía
Bahrein
Georgia
Bosnia y Herzegovina
Alemania
Brasil
Grecia
Camboya
Guatemala
China
Honduras
Colombia
Hungría
Croacia
India
Cuba
Indonesia
Republica checa
Corrí
Israel
Italia
Kazajstán
Corea del Norte
Kenia
Pakistán
Kirguistán
Filipinas
macedonia
Polonia
Malasia
Katar
Malta
Rusia
Mexico
Ruanda
Moldavia
Arabia Saudita
Myanmar
Serbia
Países Bajos
Sudáfrica
Nigeria
Corea del Sur
[3]
Página 7
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
Sudán
Ucrania
Suecia
Emiratos Árabes Unidos
Siria
Reino Unido
Taiwán
Estados Unidos
Tayikistán
Uzbekistán
Tailandia
Venezuela
Túnez
Vietnam
pavo
Zimbabue
Página 8
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
FIGURA 2 - PROPAGANDA COMPUTACIONAL COMO HERRAMIENTA DE CONTROL DE INFORMACIÓN
PAÍSES AUTORITARIOS QUE DESPLIEGAN LA PROPAGANDA COMPUTACIONAL

( pags

yo
Angola
Azerbaiyán
Bahrein
Camboya
China
Cuba
Egipto
Eritrea
Etiopía

££

Ruanda
Arabia Saudita
Sudán

©©
Corrí
Kazajstán
Corea del Norte

★★
Siria
Tayikistán
Katar
Rusia
Tailandia
pavo
Emiratos Árabes Unidos
Uzbekistán
Venezuela
Vietnam
Zimbabue

FIGURA 3 - OPERACIONES DE INFLUENCIA EXTRANJERA EN MEDIOS SOCIALES


PAÍSES ATRIBUIDOS POR FACEBOOK Y TWITTER POR PARTICIPAR EN OPERACIONES DE INFLUENCIA EXTRANJERA
China
Venezuela
Arabia Saudita
>))
Rusia
Pakistán
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Facebook también ha eliminado las cuentas involucradas en un "comportamiento inauténtico coordinado" que no son
vinculado explícitamente a un gobierno o partido político. Estos retiros incluyen cuentas originarias de: Egipto, Macedonia, Kosovo, Tailandia y los Estados Unidos Árabes.
Emiratos Además, parte de la actividad de las tropas cibernéticas identificadas por Facebook y Twitter se centra en el país, como en el caso de Bangladesh y Honduras, y es
por lo tanto, no se incluye en esta figura sobre operaciones en el extranjero.
REPRIMIR
AHOGAR
[5]
Página 9
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
FIGURA 4 - PLATAFORMAS PROMINENTES PARA LA MANIPULACIÓN DE MEDIOS SOCIALES
PLATAFORMAS DE MEDIOS SOCIALES UTILIZADAS PARA LA ACTIVIDAD DE CYRO TROOP
««
UNA
vy
99
Argentina
Armenia
Australia
Austria
Azerbaiyán
**
©©
metro
w
1
Bahrein
Camboya
China
Colombia
Ecuador
w
<s>
UNA
.■_
Egipto
Eritrea
Alemania
Grecia
Guatemala
metro
yo
yo
India
Indonesia
Corrí
Israel
Italia
U
t
##
H
Kenia
macedonia
Malasia
Mexico
Países Bajos
<
>
t
una
?
W

Nigeria
Pakistán
Filipinas
Polonia
Katar
w
t^
W
r
;
Rusia
Ruanda
Arabia Saudita Sudáfrica
España
<
**
^r
★★
H
Sri Lanka
Sudán
Suecia
Siria
Tailandia
pavo
Arabes unidos
Unido
Estados Unidos Uzbekistán
Emiratos
Reino
<u
-Q
££
mi
A
®
w


Brasil
Columbia
Guatamala
India
Y
Æ -,
(• f
Indonesia
Kenia
Malasia
Mexico
1
1
5T
##
Nigeria
España
Venezuela
Zimbabue
Azerbaiyán
Brasil
Columbia
Ecuador
^
(g
Azerbaiyán
Brazi
Malasia
Rusia Corea del Sur Sri Lanka

î (C Ü o
Siria Unida Árabe Venezuela
Vietnam
Emiratos
Venezuela Zimbabwe
España
O
O
_Q
<V
U
Yo
Italia
O*
Kenia
Kirguistán Macedonia Malasia
Malta
'• *
H
C>
3
Mexico
Moldavia
Myanmar
Nigeria
Pakistán
Filipinas
w
v
yo ,
(*
C
Rusia
Sudáfrica Corea del Sur
España
Sri Lanka
Sudán
eso
~

©©
Taiwán
Tayikistán

©è#I
es

©#
pavo
Arabes unidos
Unido
Estados Unidos Uzbekistán Venezuela
Emiratos
Reino
Vietnam
Zimbabue
[6]
Página 10
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Metodología de informe
La metodología para
este informe consta de
cuatro etapas:
1 . un contenido sistemático
análisis de noticias
artículos que informan sobre
actividad de la ciber tropa;
2 . un secundario
revisión de la literatura de
archivos públicos y
informes cientificos;
3 . país de redacción
estudios de caso; y
4 . consultas de expertos
^ C onsu ,, ^
,
[7]
Página 11
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
Durante los últimos tres años, nuestra metodología de tres etapas ha
nos permitió capturar con éxito una amplia gama de público
documentos que arrojan luz sobre la manipulación organizada
campañas a nivel mundial. Es casi seguro que hay ciber tropa
operaciones que no han sido documentadas públicamente, y nosotros
Ya he visto estos casos crecer con el tiempo. Mientras este informe
de ninguna manera tiene la intención de proporcionar una imagen completa de cómo el estado
los actores están operando en este espacio, podemos comenzar a construir un
imagen juntando información pública. El país-
perfiles específicos y una lista completa de noticias y secundarios
Se pueden encontrar fuentes de literatura en la página de inicio del informe de 2019.
El análisis de contenido es un método de investigación establecido en
comunicación y estudios de medios (Herring 2009). Ha sido
solía ayudar a entender cómo Internet y las redes sociales
interactuar con la acción política, la transformación del régimen y
control digital (Bradshaw y Howard 2018a, 2017b; Edwards,
Howard y Joyce 2013; Joyce, Antonio y Howard 2013;
Strange y col. 2013). Este análisis de contenido cualitativo fue
realizado para comprender la gama de actores estatales que activamente
usar las redes sociales para manipular la opinión pública, así como sus
capacidad, estrategias y recursos. Modelamos nuestro contenido
análisis después del informe del año pasado, utilizando muestreo intencional para
construir una hoja de cálculo codificada de variables específicas que aparecen
en noticias Se seleccionaron las siguientes palabras clave y
utilizado en combinación para nuestra búsqueda: bot; Cambridge Analytica;
desinformación; Facebook; cuenta falsa; guerra de información;
Instagram militar; desinformación; propaganda; psicológico
operaciones; psicópatas redes sociales; Títere de calcetín; Troll; Gorjeo;
WhatsApp Youtube.
Existen dos limitaciones principales para llevar a cabo nuestra evaluación cualitativa.
análisis de contenido: sesgo de los medios y lenguaje. Para ayudar a mitigar
sesgo, utilizamos LexisNexis y los tres principales motores de búsqueda
proveedores - Google, Yahoo! y Bing, que proporcionó visitas a
Una variedad de fuentes de noticias profesionales, locales y de aficionados. A
asegurar que solo se utilizan fuentes de noticias de alta calidad para
construir nuestro conjunto de datos, cada artículo recibió una puntuación de credibilidad utilizando
Una escala de tres puntos. Los artículos clasificados en uno provenían de las principales,
organizaciones de noticias de marca profesional. Artículos clasificados en
dos provenían de organizaciones de noticias profesionales más pequeñas, locales
organizaciones de noticias, o comentarios de expertos y profesionales
blogs Los artículos clasificados en tres provienen de granjas de contenido, o
blogs personales o hiperpartidistas. Estos artículos fueron eliminados
De la muestra.
El idioma era una segunda limitación para llevar a cabo nuestra cualitativa
Análisis de contenido. Para el inventario global de este año, pudimos
para utilizar artículos de noticias y recursos secundarios escritos
en árabe, inglés, francés, alemán, griego, húngaro, italiano,
1
https://monitoring.bbc.co.uk/
Persa, polaco, portugués, ruso y español. Nosotros también
trabajó con la supervisión de la BBC1 que proporcionó un portal adicional
para recopilar y agregar noticias e información de alta calidad
sobre la actividad de las tropas cibernéticas, así como los servicios de traducción de noticias
artículos para Bosnia, Croacia, Georgia, Kazajstán, Kirguistán,
Malasia, Macedonia del Norte, Taiwán, Tayikistán, Turkmenistán,
Uzbekistán Nos basamos en informes en inglés únicamente para:
Armenia, Azerbaiyán, Camboya, China, República Checa, Eritrea,
Etiopía, Hungría, Israel, Moldavia, Myanmar, Países Bajos,
Corea del Norte, Pakistán, Filipinas, Serbia, Corea del Sur, Sri
Lanka, Tailandia, Turquía y Vietnam.
Luego de realizar un análisis de contenido, un equipo de investigación
los asistentes completaron una revisión secundaria de la literatura para proporcionar
Un perfil en profundidad de la actividad de las tropas cibernéticas en un país específico
contexto. Estos estudios de caso se basaron en los datos recopilados en
el análisis de contenido, así como una literatura secundaria en profundidad
revisión, donde los autores de estudios de caso buscaron otros
información de fuente abierta de calidad sobre la actividad de las ciber tropas. Esta
involucrado buscando informes del gobierno, documentos de think tank,
estudios académicos y académicos, e investigaciones realizadas por
organizaciones de la sociedad civil. Un archivo completo de las noticias.
fuentes y literatura secundaria utilizada en este informe pueden ser
encontrado en una base de datos en línea de Zotero. Esperamos que esta biblioteca publica
ayudará a informar futuras investigaciones.
Después de completar un análisis de contenido cualitativo y secundario
revisión de la literatura, asistentes de investigación sintetizaron los hallazgos
en estudios de casos breves de países . Los estudios de caso proporcionan más
información sobre instancias de propaganda computacional que
identificado en el análisis de contenido, así como información detallada
sobre el contexto específico del país y el entorno de los medios en
qué manipulaciones de redes sociales están teniendo lugar. Adicionalmente
para el análisis de contenido y la revisión de literatura secundaria, nosotros
completó un estudio de caso para el 84% de los países, que puede ser
en línea en un suplemento de datos junto con el informe.
Finalmente, el último paso de nuestra metodología de investigación:
consultas con expertos - nos permitieron revisar por pares
estudios de caso, así como obtener comentarios sobre la calidad del inglés
y reportajes de noticias en el idioma local y literatura secundaria
encontramos y discutimos recursos adicionales y citas en
idiomas alternativos con hablantes nativos. Se les preguntó a los expertos
para revisar los estudios de caso redactados por asistentes de investigación, y
(1) verifique la exactitud de la información y los datos; (2) proporcionar
citas adicionales para material de código abierto; y (3) proporcionar
Comentarios generales sobre la fiabilidad de los datos. En los casos de
Polonia, Sri Lanka, Taiwán, Túnez y Ucrania, consultamos
expertos en los datos recopilados del análisis de contenido y
revisión de literatura.
[8]
Pagina 12
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Forma Organizacional
La actividad de las tropas cibernéticas requiere
en muchas organizaciones
formas y actores diversos
están aprovechando las redes sociales
para dar forma a la opinión pública,
establecer agendas políticas, y
propagar ideas.
Mientras que muchos países han visto un aumento en la computación
propaganda en las redes sociales, atribución a un particular
El actor sigue siendo difícil.
En este informe, nos centramos específicamente en las tropas cibernéticas:
o el uso del gobierno o partido político de las redes sociales para
manipular la opinión pública. En 44 países, encontramos evidencia
de una agencia gubernamental que usa propaganda computacional
dar forma a las actitudes del público. Esta categoría de actores incluye
ministerios de comunicación o digitales o campañas dirigidas por militares.
En países considerados 'no libres' según Freedom
House, encontramos evidencia de un ministerio o fallo del gobierno
fiesta usando propaganda computacional para dar forma a actitudes
a nivel nacional En un pequeño número de democracias, encontramos
evidencia de iniciativas gubernamentales o militares. Para esto
informe, contamos las actividades de Joint Threat Research
Intelligence Group (JTRIG) en el Reino Unido, que estableció
grupos de Facebook y videos de YouTube creados que contienen
comunicaciones persuasivas diseñadas para "desacreditar, promover
desconfiar, disuadir, disuadir, retrasar [y] interrumpir "(Greenwald
2015). También contamos actividades en los Estados Unidos, como
como la Agencia de los Estados Unidos para el Desarrollo Internacional
(USAID) programa que creó una red social falsa en Cuba
(Greenwald 2014). A medida que la propaganda computacional se convierte en un
herramienta cada vez más ubicua para la política, la seguridad nacional y
operaciones de inteligencia, esperamos que estos ejemplos conduzcan más lejos
conversaciones sobre lo que es apropiado, democrático y
usos aceptables de estas herramientas por parte de los actores estatales.
Además de las iniciativas gubernamentales o militares, también
miró a los partidos políticos. En 45 de los 70 países, nosotros
analizado, encontramos evidencia de partidos políticos o políticos
postularse para un cargo que ha utilizado las herramientas y técnicas de
propaganda computacional durante las elecciones. Aquí contamos
instancias de políticos acumulando seguidores falsos, como
Mitt Romney en los Estados Unidos (Carroll 2012), Tony Abbott
en Australia (Rolfe 2013) o Geert Wilders en los Países Bajos
(Sangre 2017). También contamos instancias de fiestas que usan
publicidad dirigida a votantes con medios manipulados, como
en India (Gleicher 2019), o casos de micro-focalización ilegal
como el uso de la firma Cambridge Analytica en el Reino Unido Brexit
referéndum por ausencia de voto (Cadwalladr 2017). Finalmente, seguimos
casos contados de partidos políticos que se propagan deliberadamente
o amplificar la desinformación en las redes sociales, como el
Campañas de WhatsApp en Brasil (Río 2018), India (Dwoskin y
Gowen 2018) y Nigeria (Hitchen et al.2019).
Una característica importante de la organización de la manipulación.
campañas es que las tropas cibernéticas a menudo trabajan en conjunto con
industria privada, organizaciones de la sociedad civil, subculturas de Internet,
grupos juveniles, colectivos de hackers, movimientos marginales, sociales
personas influyentes en los medios y voluntarios que apoyan ideológicamente
su causa La distinción entre estos grupos a menudo puede
ser difícil de dibujar, especialmente porque las actividades pueden ser implícitamente
y explícitamente sancionado por el estado. En este informe, buscamos
evidencia de coordinación formal o actividades que son oficialmente
sancionado por el estado, en lugar de campañas que podrían ser
sancionado implícitamente debido a factores como la superposición
ideologías u objetivos En 25 de los 70 países encontramos
evidencia de actores estatales que trabajan con empresas privadas
o empresas de comunicación estratégica que ofrecen computación
La propaganda como servicio. En 30 de los 70 países, nosotros
evidencia encontrada de coordinación formal entre gobiernos
y ciudadanos u organizaciones de la sociedad civil. En algunos casos, como
en Azerbaiyán, Israel, Rusia, Tayikistán, Uzbekistán, estudiante
o grupos de jóvenes son contratados por agencias gubernamentales para usar
propaganda computacional.
[9]
Página 13
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
CUADRO 1 - FORMA ORGANIZATIVA Y PREVALENCIA DE LA MANIPULACIÓN DE MEDIOS SOCIALES
o#
££
^ é1
À Qi
<§ £
1
.1
■ ß .S
££
¿yo?
.£#
cT <p
o -S?
co c:
'S co
S 8>
ùà
Xy
C ta
* ér
££
Pc
a »©
Cj ^ Cr
”| Malta
-
El | ■ -
Mexico
S Moldova
____ Myanmar
Países Bajos
1 | Nigeria
Corea del Norte
metro
IH Pakistan

Filipinas

Polonia
^ Qatar
Rusia
^ ■ 3 Ruanda
Arabia Saudita
§
Serbia
^
Sudáfrica
JJ Corea del Sur
Y
España
'Estados Unidos Sri Lanka
Sudán
J ™ Suecia
Siria
E3
Taiwán
Tayikistán
Tailandia
El | ^ | Túnez
pavo
Ucrania
El |
Emiratos Árabes Unidos

metro
Reino Unido
8S
Estados Unidos

------- Uzbekistán
■ a ™ Venezuela
Vietnam
Zimbabue
//
££
^ é1
Una Ql
<§ £
##
.1
££
■ ÌÈ
<£ â
CO
.&£
Ü JP
o -Sp
Co c
■ s <&
CJQ-
C CO
* ¿una?
££
c- c
0 »a»
CJ ^
-
Angol a
-
««
Argentina
Armenia
¿JS Australia
Austria
Azerbaiyán
Bahrein
El | j ^ | Bosnia y Herzegovina
® Brasil
metro
Camboya
China
Colombia
Croacia
- Cuba
^
Republica checa
j® Ecuador
_ _ Egipto
Eritrea
@ Etiopía
Georgia
Alemania
"= Grecia
tu
Guatemala
Honduras
Hungría

India


Indonesia
Corrí
_ 2 _ Israel
1 1 Italia
metro
Kazajstán
"Fn Kenia
metro
norte
Kirguistán
macedonia
13
Malasia
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Esta tabla informa sobre los tipos de actores políticos que utilizan las operaciones de influencia de las redes sociales, y la cantidad de ejemplos de esos
organizaciones encontradas. Para agencias gubernamentales, partidos políticos, grupos de la sociedad civil y contratistas privados,
= una organización encontrada, ■ = dos organizaciones encontradas, ■ = tres o más
organizaciones encontradas. Dado que es difícil evaluar el número de ciudadanos individuales que utilizan estas herramientas, la evidencia de uso ciudadano se indica mediante ■.

[10]
Página 14
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Estrategias, herramientas y
Tecnicas
Aunque hay
nada necesariamente nuevo
sobre propaganda, el
posibilidades de social
tecnologías de redes
- algoritmos, automatización,
y big data: cambie el
escala, alcance y precisión
de cómo es la información
transmitido en el
era digital.
87%
de países utilizados
Cuentas humanas

00
80%
de países utilizados
Cuentas bot

11%
de países utilizados
Cuentas de Cyborg

UNA
7%
de países utilizados
Hackeado o Robado
cuentas
Tipos de cuenta
Las cuentas falsas son utilizadas por las tropas cibernéticas para difundir computacional
propaganda. En los últimos tres años hemos rastreado el
prevalencia de tres tipos de cuentas falsas: bot, humano y
cyborg Los bots son cuentas altamente automatizadas diseñadas para
imitar el comportamiento humano en línea. A menudo se usan para amplificar
narrativas o ahogar la disidencia política. Encontramos evidencia de
cuentas de bot que se utilizan en 50 de los 70 países. Sin embargo,
incluso más comunes que los bots son las cuentas administradas por humanos,
que no hacen uso de la automatización. En cambio, se involucran en
conversaciones publicando comentarios o tweets, o en privado
mensajería individual a través de plataformas de redes sociales. Humano
se encontraron cuentas operadas en 60 de los 70 países en
El informe de este año. Cuentas de Cyborg, que combinan la automatización.
con curación humana, son otro tipo de cuenta que identificamos.
Este año, hemos agregado cuentas pirateadas o robadas a nuestro
tipología de cuentas falsas. Aunque estas cuentas no son
'falso' per se, las cuentas de alto perfil son estratégicamente utilizadas por
ciber tropas para difundir propaganda progubernamental
o para censurar la libertad de expresión revocando el acceso a la
cuenta por su legítimo propietario. Un pequeño número de actores estatales.
ha comenzado a usar cuentas robadas o pirateadas como parte de su
campañas, destacando la interconectividad de la computación
propaganda con formas más tradicionales de ciberataques.
Finalmente, es importante tener en cuenta que no todas las cuentas se usan en Internet
Las actividades de las tropas son falsas. En algunos países, como Vietnam o
Tayikistán, los actores estatales alientan a las tropas cibernéticas a usar su verdadero
cuentas para difundir propaganda progubernamental, trol político
disidentes o contenido de informes masivos. Como empresas de redes sociales
volverse más agresivo al eliminar cuentas asociadas
Con la actividad de las tropas cibernéticas, la cooptación de cuentas reales podría
convertirse en una estrategia más prominente.
[11]
Página 15
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
TABLA 2 - TIPOS DE CUENTA FALSA
País
Bots
Humano
Cyborg
Hackeado o 1
Robado
1
País
Bots
Humano
Cyborg
Pirateado o
Robado
H a Angola
<ëi>
J Malta
■B

mi
Argentina
<ëi>

Mexico
• ëi>
¿0
Armenia
■S'
$ Moldavia
'H'
Australia
____ Myanmar
'ËI'
UNA
Austria
■B
UNA
Países Bajos
'S'
Azerbaiyán
•pie
UNA
1 1 Nigeria
<ä '
UNA
Bahrein
<ëi>
Corea del Norte

û
Bosnia y
Herzegovina
UNA
m Pakistán
'S'
Filipinas
'S'

® Brasil
'SI
UNA
¿0
**
**
Polonia
'S'
Camboya
'SI
^ Qatar
'S'
China
'SI

**
Rusia
■ ëi '
»»
¿0
û
Colombia
'SI

mm
**
Ruanda

««
**
wm
Arabia Saudita
■ Él '

¿0
Cuba
<É>
**
§ Serbia
'S'
UNA
metro
•UNA
República
<5t
^ Sudáfrica
'S'
UNA
un ecuador
• * Corea del Sur
<ëii
UNA
_ _ Egipto
• ëi>
UNA
««
España
■B

Eritrea
UNA
Sri Lanka
■ ëi '
UNA
¿0
© Etiopía
<2 »
Sudán
UNA
Georgia
'ËI'
UNA
J ™ Suecia
'S'
UNA
Alemania
tì '
¿0
Siria
■ El '
UNA
! 5 == Grecia
'SI
Oh Taiwán
'S'
o Guatemala
'SI
UNA
û
Tayikistán
UNA
Honduras
UNA
Tailandia
«S»
Hungría
'SI
UNA
| j; | Túnez
'E l'

• India
'SI
UNA
pavo
UNA
Indonesia
'SI
UNA
Ucrania
■ ëi '
UNA
Corrí
'SI
UNA
ù
Arabes unidos
Emiratos
<ëii
UNA
$ Israel
• ëi>
<2 *
Unido
Reino
<tì>

¿0
El | El | Italia
tì '
**

unates
metro
Kazajstán
'ËI'
UNA
'S'
¿0
"H" Kenia
<ëi>
UNA
Uzbekistán
û
Kirguistán
UNA
■ a ™ Venezuela
'S'

§ § Macedonia
<ëi>
UNA
Vietnam
UNA
E3
IVIalaysra
■ ëi '
Zimbabue
■ ëi '
UNA
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Esta tabla informa sobre los tipos de cuentas falsas identificadas entre 2010-2019. Para tipos de cuentas falsas de redes sociales: 'A = automatizado
cuentas,
= cuentas humanas, gSiO = cuentas de cyborg, ft = cuentas pirateadas o robadas,
= no se encontraron pruebas
[12]
Página 16
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

lo 71%
rnr / i / iW nm.
propagar a favor del gobierno
ment o pro partido
propaganda

89%
usar computacional
propaganda a
ataque político
oposición

^ 34%
propagación polarizante
mensajes diseñados
para conducir divisiones
dentro de la sociedad
Mensajería y Valencia
Las tropas cibernéticas utilizan una variedad de estrategias de mensajería y valencia
cuando se comunica con los usuarios en línea. Valence describe
cuán atractivo o poco atractivo es un mensaje, evento o cosa. por
En el informe de 2019, hemos ampliado nuestra tipología de mensajería
y estrategias de valencia que las tropas cibernéticas usan cuando participan
conversaciones con usuarios en línea:
(1) difundir propaganda a favor del gobierno o del partido;
(2) atacar a la oposición o organizar campañas de desprestigio;
(3) distraer o desviar conversaciones o críticas lejos de
asuntos importantes;
(4) división de conducción y polarización; y
(5) suprimir la participación a través de ataques personales o
acoso.
[13]
Página 17
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
TABLA 3 - MENSAJERÍA Y VALENCIA
,0
¿C?
##
.CO
//
ir Q4
O
C9
^ Cf
Q
^
Angola
metro
Argentina
■è
V.
Armenia
V.
*X
ES
Australia
■è
=
Austria
Azerbaiyán
■è
*X
metro
Bahrein
■è
X
V.
*X
EJ
Bosnia y
Herzegovina
■è
X
*X
Brasil
■è
X
V.
*X
re
Camboya
■è
metro
China
■è
«K
4x
-
Colombia
■è
X
V.
Croacia
V.
Cuba
■è
X
*X
checo
República
X
«* ■
Ecuador
«K
__
Egipto
■è
^X
metro
Eritrea
^X
Etiopía
■è
metro
Georgia
■è
<X
Alemania
■è
«K
V.
Grecia
*X
Illinois
Guatemala
■è
X
^X
Honduras
■è
=
Hungría
■è
X
V.
^X
metro
India
■è
V.
H
Indonesia
■è
V
Corrí
■è
metro
Israel
■è
Illinois
Italia
v.
K3
Kazajstán
■è
SS
Kenia
■è
X
CJ
Kirguistán
■è
X
*X
macedonia
^X
!■
Malasia
■è
^X
##
J?
•¿yo?
Q
//
mi
//
Si
oo
Q
ir o;
C -J
<4
Y
/ C9
El | Malta
\
^X
El |
Mexico
\
^x
S
Moldavia
\
V.
____ Myanmar
\
V.
^x
Países Bajos
El | El | Nigeria
\
^x
Corea del Norte
\
fC j Pakistán
\
*X
Filipinas
\
^X
Polonia
\
■ Qatar

Rusia

\
^X
^ ■ 3 Ruanda
\
^X
Arabia Saudita
\

V.
^X
§
Serbia

\
*X

Sudáfrica
\
^X
JJ Corea del Sur
\
««
España
\

V
«IB
Sri Lanka
X
V.
^X
Sudán
^X
■ ™ Suecia
Siria
\
^X
E3
Taiwán
Tayikistán
<X
Tailandia

\
^X
KH Túnez

\
pavo

X
^X
Ucrania

\
^X
Arabes unidos
Emiratos

\
^X
Curro ; Unido
3 1 5 Reino

\
V.
Ü
Unido
= = Estados

\
V.
*X
Uzbekistán

\
^X
msam
Venezuela

\
^X
Vietnam

\
^X
&> - Zimbabwe

\
^X
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Esta tabla informa sobre los tipos de mensajes y estrategias de valencia de la actividad de las tropas cibernéticas entre 2010-2019. Para las redes sociales
comentarios:
= apoyo,
atacar a la oposición,
= distraer,
= división de conducción,
= suprimiendo.
= no se encontraron pruebas
[14]
Página 18
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

75%
de países utilizados
desinformación
y medios
manipulación para engañar a los usuarios

68%
de los países usan
patrocinado por el estado
trolling al objetivo
disidentes políticos
la oposición o
periodistas

73%
amplificar mensajes
y contenido por
hashtags de inundación
Estrategias de comunicación
Las tropas cibernéticas utilizan una variedad de estrategias de comunicación. Nosotros
hemos categorizado estas actividades en cuatro categorías:
(1) la creación de desinformación o medios manipulados;
(2) informes masivos de contenido o cuentas;
(3) estrategias basadas en datos;
(4) trolling, doxing u hostigamiento;
(5) amplificación de contenido y medios en línea.
La creación de desinformación o medios manipulados es lo más
estrategia de comunicación común En 52 de los 70 países.
examinamos, las tropas cibernéticas crearon activamente contenido como
memes, videos, sitios web de noticias falsas o medios manipulados en
Para engañar a los usuarios. A veces, el contenido creado por
las tropas cibernéticas están dirigidas a comunidades o segmentos específicos
de usuarios. Mediante el uso de fuentes de datos en línea y fuera de línea sobre
usuarios y pagar anuncios en redes sociales populares
plataformas, algunas tropas cibernéticas apuntan a comunidades específicas con
desinformación o medios manipulados.
El uso de trolling, doxing u hostigamiento es un crecimiento global
desafío y amenaza a los derechos humanos fundamentales. En 2018
identificamos 27 países que utilizaron trolls patrocinados por el estado para
atacar a opositores políticos o activistas a través de las redes sociales. Esta
año, 47 países han utilizado el curricán como parte de su digital
arsenal. Las tropas cibernéticas también censuran el habla y la expresión.
a través de informes masivos de contenido o cuentas. Publicaciones por
activistas, disidentes políticos o periodistas a menudo son denunciados
por una red coordinada de cuentas de tropas cibernéticas para
juego de los sistemas automatizados que utilizan las empresas de medios sociales para
eliminar contenido inapropiado. Trolling y el derribo de
pueden ocurrir cuentas o publicaciones junto con la violencia del mundo real,
que puede tener un efecto profundo y escalofriante en la expresión de
derechos humanos fundamentales
[ 15 ]
Página 19
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
CUADRO 4 - ESTRATEGIAS DE COMUNICACIÓN
//
■è
.Co
Q
s
yo
.¿Ü
<P c:
QQ <o
^5
££
• St * P <b
itJ s
-
Angola
1*
"ir
• argentina
1*
Lijil
("sol")
Armenia
1*
! ».«!
ffflf
"ir
t JS Australia
Austria
1*
liäfil
V
"ir
Azerbaiyán
pie
■ Isti
arriba
V
("®")
Bahrein
V
(«0«)
Bosnia y
Herzegovina
pie
V
"ir
$ Brasil
pie
liUjll
V
Camboya
pie
China
1*
! ». •!
arriba
V
"ir
Colombia
1*
V
Croacia
1*
"ir
~ - Cuba
1*
"ir
checo
República
un ecuador
1*
■ »• ■ • a.
vtiv
V
Egipto
pie
V
"ir
Eritrea
V
© Etiopía
pie
V
r \ r Georgia
1*
V
"ir
Alemania
pie
V
"ir
^ Grecia
pie
V
"ir
o Guatemala
pie
i ».« i
arriba
V
"ir
Honduras
1*
lihfll
"ir
Hungría
pie
V
"ir

India
pie
l.uil
V
"ir
Indonesia
pie
"ir
Corrí
pie
En «ti
w
läfll
V
"ir
$ Israel
1*
lilrfil
El | El | Italia
pie
"ir
m Kazajstán
pie
"ir
-5T Kenia
pie
IÎMÜ
"ir
Kirguistán
gg Macedonia
1*
"ir
[S3
Malasia
1*
lihfll
"ir
//
■5
.£•
.Co
Q
s
yo
, <b
, C q?
<p îr * 6-
CQ co
££
<b
Ä ff
T Ci
El | Malta
pie
El | •• México
1*
■ CSift
VHP
IÏMÜ
V
"ir
■ st Moldova
1*
liftjjl
V
"ir
____ Myanmar
1*
V
"ir
Países Bajos
pie
"ir
El | El | Nigeria
pie
liijil
V
Corea del Norte
H] Pakistán
1*
IÏMÜ
«Ir
Filipinas
pie
V
"ir
Polonia
V
^ Qatar
«Ir
Rusia
pie
!|Ü
salvavidas
V
"ir
Ruanda
V
Arabia Saudita
V
"ir
1
Serbia
1*
V
"ir
Sudáfrica
1*
Ifijfil
V
"ir
♦ J Corea del Sur
"ir
**
España
1*
Sri Lanka
pie
V
"ir
Sudán
Ahlft
VHP
V
Suecia
V
"ir
Siria
1*
V
"ir
E9
Taiwán
IÏMÜ
V
Tayikistán
V
"ir
Tailandia
V
| g | Túnez
1*
"ir
pavo
mu
V
"ir
Ucrania
1*
V
"ir
Arabes unidos
Emiratos
pie
regazo
V
"ir
Unido
Reino
pie
IÏMÜ
"ir
su
Unido
1*
Ifiifll
"ir
Uzbekistán
V
■ una Venezuela
pie
V
"ir
Vietnam
pie
mu
V
"ir
Zimbabue
pie
V
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Esta tabla informa sobre las estrategias de comunicación utilizadas por las tropas cibernéticas. Para estrategias de comunicación: ■ § • = Desinformación y
Medios manipulados, (0 = Informes masivos de contenido / cuentas, ËP = Estrategias basadas en datos,
= Trolling,> || 4 = Amplificación de contenido,
= no se encontraron pruebas
[ dieciséis ]
Página 20
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Presupuestos Organizacionales,
Comportamientos y capacidad
Aunque hay
es público limitado
información sobre el
tamaño y operaciones
de equipos de tropas cibernéticas,
podemos comenzar a
armar una foto
de cuanto dinero
ellos presupuestan, cómo ellos
cooperar, y el
tipos de organización
capacidades y
comportamientos ellos
asumir.
Tamaño del equipo y permanencia
El tamaño y la permanencia de los equipos varían de un país a otro.
En algunos países, los equipos aparecen temporalmente alrededor de las elecciones.
o para dar forma a las actitudes públicas en torno a otras políticas importantes
eventos. En otros, las tropas cibernéticas están integradas en los medios.
y panorama de comunicación con personal a tiempo completo trabajando
para controlar, censurar y dar forma a conversaciones e información
en línea. Algunos equipos están compuestos por un puñado de personas que
Administrar cientos de cuentas falsas. En otros países, como
China, Vietnam o Venezuela: se contratan grandes equipos de personas
por el estado para moldear activamente las opiniones públicas y el discurso policial
a través de canales en línea
Presupuestos y gastos
La propaganda computacional sigue siendo un gran negocio. Nosotros encontramos
grandes cantidades de dinero gastado en 'PR' o estratégico
empresas de comunicación para trabajar en campañas en países como
como Filipinas (Mahtani y Cabato 2019), Guatemala
(Currier y Mackey 2018) y Siria (York 2011). Estas
los contratos pueden variar en tamaño desde gastos más pequeños con boutique
empresas nacionales o regionales, a contratos multimillonarios con
compañías globales como Cambridge Analytica (ver, por ejemplo,
Kazeem 2018). El auge de la industria troll es un área en crecimiento
de interés público y académico, y un área para observar el futuro
investigación y consulta periodística.
Difusión de habilidades y conocimientos
También hay evidencia de conocimiento formal e informal.
difusión que ocurre a través de líneas geográficas. Por ejemplo,
durante las investigaciones sobre la actividad de las tropas cibernéticas en Myanmar,
surgió evidencia de que los oficiales militares fueron entrenados por rusos
agentes sobre cómo usar las redes sociales (Mozur 2018). Similar,
las tropas cibernéticas en Sri Lanka recibieron entrenamiento formal en India (Experto
consulta 2019). Los correos electrónicos filtrados también mostraron evidencia de
Agencia de la red de información en Etiopía enviando miembros del personal
recibir capacitación formal en China (Nunu 2018). Mientras que hay
Hay muchas lagunas en cómo el conocimiento y las habilidades en computación
la propaganda se difunde a nivel mundial, esta también es un área importante
para observar futuras investigaciones y consultas periodísticas. .
[17]

Página 21
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
Capacidad de la tropa cibernética
Al mirar comparativamente los comportamientos, gastos,
herramientas y recursos que emplean las tropas cibernéticas, podemos comenzar a construir
Una imagen comparativa más amplia de la organización global de la sociedad
manipulación de medios. Los contextos nacionales son siempre importantes.
considerar. Sin embargo, sugerimos que también valga la pena generalizar
sobre la experiencia de campañas de desinformación organizadas
a través de los tipos de régimen para desarrollar un amplio y comparativo
comprensión de este fenómeno. Hemos comenzado a desarrollar
Una medida simplista para evaluar comparativamente la capacidad
de equipos de tropas cibernéticas en relación entre sí, teniendo en cuenta
considerando el número de actores gubernamentales involucrados, el
sofisticación de herramientas, el número de campañas, el tamaño y
permanencia de equipos y presupuestos o gastos realizados. Nosotros
describa la capacidad de las tropas cibernéticas en una escala de cuatro puntos:
(1) Los equipos de tropas cibernéticas mínimas están recién formados o equipos
que anteriormente estaban activas pero cuyas actividades actuales son
incierto. Los equipos recién formados tienen recursos mínimos y
solo aplique algunas herramientas de propaganda computacional a un pequeño
Número de plataformas. La actividad mínima de las tropas cibernéticas también incluye
estados donde hemos visto solo uno o dos políticos que
Experimentar con herramientas de propaganda computacional. Estos equipos
operar a nivel nacional, sin operaciones en el extranjero. Mínimo
los equipos incluyen: Angola, Argentina, Armenia, Australia, Croacia,
Ecuador, Grecia, Países Bajos, Corea del Sur, Suecia, Taiwán
y Túnez
(2) La baja capacidad de las tropas cibernéticas involucra pequeños equipos que pueden ser
activo durante las elecciones o referéndums pero detiene la actividad hasta el próximo
TABLA 5 - CAPACIDAD DE LA CUBIERTA CIBERNÉTICA
ciclo electoral. Los equipos de baja capacidad tienden a experimentar solo con
Algunas estrategias, como el uso de bots para amplificar la desinformación.
Estos equipos operan a nivel nacional, sin operaciones en el extranjero.
Los equipos de baja capacidad incluyen: Austria, Colombia, República Checa,
Eritrea, Alemania, Honduras, Hungría, Indonesia, Italia, Kenia,
Macedonia, Moldavia, Nigeria, Corea del Norte, Polonia, Ruanda,
Serbia, Sudáfrica, España, Zimbabwe.
(3) La capacidad media de las tropas cibernéticas involucra equipos que tienen
una forma y estrategia mucho más consistentes, que implican plena
miembros del personal que trabajan todo el año para controlar
El espacio de información. Estos equipos de capacidad media a menudo
coordinar con múltiples tipos de actores y experimentar con un amplio
variedad de herramientas y estrategias para la manipulación de redes sociales.
Algunos equipos de capacidad media realizan operaciones de influencia.
en el extranjero. Los equipos de capacidad media incluyen: Azerbaiyán, Bahrein,
Bosnia y Herzegovina, Brasil, Camboya, Cuba, Etiopía,
Georgia, Guatemala, India, Kazajstán, Kirguistán, Malasia,
Malta, México, Pakistán, Filipinas, Qatar, Sri Lanka, Sudán,
Tayikistán, Tailandia, Turquía, Ucrania, Reino Unido y Uzbekistán.
(4) La alta capacidad de las tropas cibernéticas implica un gran número de personal,
y grandes gastos presupuestarios en operaciones psicológicas
o guerra de información. También puede haber fondos significativos
gastado en investigación y desarrollo, así como evidencia de un
Multitud de técnicas utilizadas. Estos equipos no solo
operar durante las elecciones pero involucrar personal dedicado a tiempo completo
para dar forma al espacio de información. Cyber tropa de alta capacidad
los equipos se centran en operaciones extranjeras y nacionales. Alta capacidad
los equipos incluyen: China, Egipto, Irán, Israel, Myanmar, Rusia, Arabia Saudita
Arabia, Siria, Emiratos Árabes Unidos, Venezuela, Vietnam y
los Estados Unidos.
ALTA CAPACIDAD
País
Estado
Notas sobre el tamaño del equipo, el entrenamiento y el gasto
yo
China
Permanente
Tamaño del equipo estimado de 300,000-2,000,000 personas trabajando en oficinas locales y regionales
Egipto
Permanente
-
Corrí
Permanente
6,000 USD gastados en publicidad FB
»Israel
Permanente
Tamaño del equipo estimado de 400 personas. Evidencia de entrenamiento formal. Múltiples contratos valorados en 778K
USD y 100M USD.
13
Myanmar
Permanente
Evidencia de entrenamiento formal en Rusia
Rusia
Permanente
-
Arabia Saudita
Permanente
Costos estimados de 150 libras para las tendencias de hashtag de Twitter
Siria
Permanente
Múltiples contratos valorados en 4,000 USD
Arabes unidos
Emiratos
Permanente
Múltiples gastos valorados en más de 10 millones de dólares
**
Estados Unidos
Permanente y
Temporal
-
Venezuela
Permanente
Estimaciones del tamaño del equipo de múltiples brigadas de 500 personas. Evidencia de entrenamiento formal
Vietnam
Permanente y
Temporal
Tamaño del equipo estimado de 10,000 personas
[18]
Página 22
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
TABLA 5 - CAPACIDAD DE LA TROPA CIBERNÉTICA continuación
CAPACIDAD MEDIA
País
Estado
Notas sobre el tamaño del equipo, el entrenamiento y el gasto

o Azerbaiyán
Permanente
-

m Bahrein
Permanente
Múltiples contratos con estimaciones valoradas en 32M USD

u Bosnia y
Herzegovina
Temporal

Ü2 Brasil
Temporal
Múltiples contratos valorados en 10M R, 130K R, 24K R, 12M R

D Camboya
Permanente y
Temporal
-

EE Cuba
Permanente
-

HS Etiopía
Permanente
Evidencia de entrenamiento en China. Salarios estimados de 300 USD / mes
Georgia
Temporal
-

«L Guatemala
Permanente
Múltiples contratos valorados en 100,000 USD

m India
Temporal
Múltiples equipos de entre 50 y 300 personas. Múltiples contratos y gastos publicitarios.
valorado en más de 1.4M USD
Kazajstán
Temporal
-

o Kirguistán
Permanente y
Temporal
Tamaño del equipo estimado de 50 personas. Múltiples contratos valorados en 2000 USD. Se estima que los salarios
ser 3-4 USD / día
Malasia
Permanente
El personal estima entre 50-2000 personas. Evidencia de entrenamiento formal encontrado

■ Malta
Permanente
-

II México
Temporal
-

[0 Pakistán
Permanente
-
Filipinas
Permanente
300-500

Katar
Temporal
-

IO Sri Lanka
Permanente y
Temporal
Evidencia de entrenamiento formal en India

E Sudán
Permanente
-
e>
Tayikistán
Permanente
Tamaño del equipo estimado de 400 personas.

= Tailandia
Permanente
Evidencia de entrenamiento formal
pavo
Permanente
Tamaño del equipo estimado de 500 personas.
Ucrania
Permanente
Tamaño del equipo estimado de 20,000 personas.
Unido
Reino
Temporal
3.5M GBP gastados en Cambridge Analytica por Leave Campaigns
Uzbekistán
Permanente
-
[19]
Página 23
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES
TABLA 5 - CAPACIDAD DE LA TROPA CIBERNÉTICA continuación
CAPACIDAD BAJA
País
Estado
Notas sobre el tamaño del equipo, el entrenamiento y el gasto
Austria
Temporal
-
Colombia
Temporal
-
^
Republica checa
Temporal
-
Eritrea
Permanente
-
Alemania
Temporal
-
Honduras
Temporal
-
Hungría
Temporal
-
Indonesia
Temporal
Múltiples contratos valorados entre 1M-50M Rupias
Yo | Italia
Temporal
-
t T Kenia
Temporal
Un contrato con Cambridge Analytica valorado en 6 millones de dólares.
macedonia
Temporal
-
99
Moldavia
Temporal
20,000 USD gastados en anuncios de Facebook e Instagram
El | El | Nigeria
Temporal
Un contrato con Cambridge Analytica valorado en 2.8M USD
Corea del Norte
Permanente
Tamaño del equipo estimado de 200 personas.
Polonia
Temporal
-
Ruanda
Temporal
-
El |
Serbia
Permanente
Estimaciones salariales valoradas en 370 EURO / mes

Sudáfrica
Temporal
Múltiples contratos valorados en 2M USD
una
España
Temporal
-
i> - Zimbabwe
Temporal
-
CAPACIDAD MÍNIMA
País
Estado
Notas sobre el tamaño del equipo, el entrenamiento y el gasto
^
Angola
Temporal
-
**
Argentina
Temporal
30-40 empleados. Múltiples contratos valorados en 14 millones de pesos, 11 millones de pesos en 2015. 200 millones de pesos en 2017
Armenia
Temporal
-
ä ü Australia
Temporal
-
Croacia
Temporal
-
si
Ecuador
Ya no activo
Múltiples contratos valorados en 200,000 USD
Grecia
Temporal
-
Países Bajos
Temporal
-
JJ Corea del Sur
Ya no activo
Equipo previamente activo de menos de 20 personas.
Suecia
Temporal
-
Taiwán
Ya no activo
-
1 6 1 Túnez
Temporal
-
Fuente: Evaluaciones de los autores basadas en los datos recopilados. Nota: Estas tablas informan sobre la capacidad de los actores de las tropas cibernéticas.
[20]
Página 24
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Conclusión
Redes sociales, que
una vez fue anunciado como
una fuerza para la libertad
y democracia,
ha venido bajo
creciente escrutinio para
su papel en amplificar
desinformación, incitación
violencia y descenso
niveles de confianza en
medios y democrático
instituciones.
Este informe ha destacado las formas en que el gobierno
agencias y partidos políticos han utilizado las redes sociales para difundir
propaganda política, contaminar el ecosistema de información digital,
y suprimir la libertad de expresión y la libertad de prensa.
Si bien las posibilidades de las redes sociales pueden servir para mejorar la
escala, alcance y precisión de la desinformación (Bradshaw y
Howard 2018b), es importante reconocer que muchas de las
temas centrales de la propaganda computacional: polarización,
desconfianza o el declive de la democracia: han existido mucho antes
redes sociales e incluso el propio Internet. La cooptación de lo social
las tecnologías de los medios deberían preocupar a las democracias
en todo el mundo, pero también muchos de los antiguos
desafíos que enfrentan las sociedades democráticas.
La propaganda computacional se ha convertido en una parte normal de la
esfera pública digital Estas técnicas también continuarán
evolucionar como nuevas tecnologías, incluida la inteligencia artificial,
La realidad virtual o Internet de las cosas están a punto de
fundamentalmente remodelar la sociedad y la política. Pero desde
La propaganda computacional es un síntoma de larga data.
desafíos a la democracia, es importante que las soluciones tomen en cuenta
consideración estos desafíos sistémicos. Sin embargo, también debe
considerar el papel que las plataformas de redes sociales han jugado en la configuración
El entorno de información actual. Una democracia fuerte
requiere acceso a información de alta calidad y una habilidad
para que los ciudadanos se reúnan para debatir, discutir, deliberar,
empatizar y hacer concesiones. ¿Son plataformas de redes sociales?
¿Realmente creando un espacio para la deliberación pública y la democracia?
¿O están amplificando contenido que mantiene a los ciudadanos adictos,
desinformado y enojado?
[21]
Página 25
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Referencias
Sangre, David. 2017. ¿Las redes sociales potencian el populismo holandés? los
Tiempos financieros . https://www.ft.com/content/b1830ac2-07f4-11e7-97d1 -
5e720a26771b.
Bradshaw, Samantha y Philip N. Howard. 2017a. Lo global
Organización de campañas de desinformación en redes sociales. Diario de
Asuntos internacionales 71 (1.5).
Bradshaw, Samantha y Philip N. Howard. 2017b. Tropas, Trolls,
y alborotadores: un inventario global de redes sociales organizadas
Manipulación. Oxford: Oxford Internet Institute. Hoja de trabajo.
. 2018a. Desafiando la verdad y la confianza: un inventario global de
Manipulación organizada de redes sociales. Serie de documentos de trabajo COMRPOP
2018 (1): 26.
Bradshaw, Samantha y Philip N. Howard. 2018b. Por que
¿Las noticias basura se propagan tan rápidamente en las redes sociales? Algoritmos
Publicidad y exposición en la vida pública. Knight Foundation Working
Papel. https://kf-site-production.s3.amazonaws.com/media_elements/
fiiles / 000/000/142 / original / Topos_KF_White-Paper_Howard_V1_ado.pdf.
Cadwalladr, Carole. 2017. El gran robo británico del brexit: cómo
Nuestra democracia fue secuestrada. The Guardian . http: //www.theguardian .
com / technology / 2017 / may / 07 / the-great-british-brexit-robbery-secuestrado-
democracia.
Carroll, Rory. 2012. Las cuentas falsas de Twitter pueden estar conduciendo Mitt
Número de seguidor de Romney. The Guardian . https: //www.theguardian .
com / world / 2012 / ago / 09 / fake-twitter-accounts-mitt-romney.
Currier, Cora y Danielle Mackey. 2018. El surgimiento de la red
Centro: Cómo un ejército de trolls protege a la élite corrupta de Guatemala.
La intercepción .
https://theintercept.com/2018/04/07/guatemala-anti-
corrupción-trolls-smear-campaign / (5 de agosto de 2019).
Dwoskin, Elizabeth y Annie Gowen. 2018. En WhatsApp, falso
Las noticias son rápidas y pueden ser fatales. Washington Post . https: // www .
washingtonpost.com/business/economy/on-whatsapp-fa ke-news-
es-rápido-y-puede-ser-fatal / 2018/07/23 / a2dd7112-8ebf-11e8-bcd5-
9d911c784c38_story.html (3 de septiembre de 2019).
Edwards, Frank, Philip N. Howard y Mary Joyce. 2013. Digital
Activismo y conflicto no violento. http : //digital-activism.org/2013/11/
report-on-digital-activism-and-non-violent-conflict / (17 de mayo de 2017).
Gleicher, Nathaniel. 2019. Eliminación del comportamiento no coordinado coordinado
y spam de la India y Pakistán. https : //newsroom.fb.com /
noticias / 2019/04 / cib-and-spam-from-india-pakistan /.
Greenwald, Glenn. 2014. La estafa 'Twitter cubano' es una gota en el
Cubo de propaganda de Internet. La intercepción .
https: // theintercept .
com / 2014/04/04 / cuban-twitter-scam-social-media-tool-diffminating-
Government-propaganda / (10 de abril de 2017).
. 2015. Unidad controvertida de GCHQ comprometida en derecho interno
Aplicación de la ley, propaganda en línea, investigación en psicología. La intercepción .
https://theintercept.com/2015/06/22/controversial-gchq-unit-domestic -
Law -forcement-Propaganda / (10 de abril de 2017).
Arenque, Susan C. 2009. Análisis de contenido web: expandiendo el paradigma.
En International Handbook of Internet Research , eds. Jeremy Hunsinger,
Lisbeth Klastrup y Matthew Allen. Springer Países Bajos, 233-49.
http://link.springer.com/chapter/10.1007/978-1-4020-9789-8_1 4
(Mayo
17, 2017).
Hitchen, Jamie, Jonathan Fisher, Nic Cheeseman e Idayat Hassan.
2019. Cómo WhatsApp influyó en las recientes elecciones de Nigeria, y
Lo que nos enseñó sobre 'Noticias falsas. Washington Post . https: // www .
washingtonpost.com/news/monkey-cage/wp/2019/02/15/its-nigerias-
primero-whatsapp-elecciones-heres-qué-estaban-aprendiendo-sobre-cómo-noticias-falsas-
spreads / (3 de septiembre de 2019).
Joyce, Mary, Rosas Antonio y Philip N. Howard. 2013. Global
Conjunto de datos de activismo digital. http://www.icpsr.umich.edu/icpsrweb/ICPSR /
estudios / 34625 / versión / 2.
Kazeem, Yomi. 2018. Cambridge Analytica trató de influir en el último de Nigeria
Elecciones con los correos electrónicos pirateados de Buhari. Cuarzo . https://qz.com/1234916 /
cambridge-analytica-intentó-influir-nigerias-últimas-elecciones-con-buharis-
correos electrónicos hackeados /.
Lee Myers, Steven y Paul Mozur. 2019. China está librando un
Desinformación Guerra contra manifestantes de Hong Kong. New York Times.
https://www.nytimes.com/2019/08/13/world/asia/hong-kong-protests -
china.html (3 de septiembre de 2019).
Mahtani, Shibani y Regine Cabato. 2019. Por qué Crafty Internet Trolls
en Filipinas puede estar llegando a un sitio web cerca de usted. Washington
Publica .
https://www.washingtonpost.com/world/asia_pacifiic/why-crafty -
internet-trolls-in-the-philippines-may-be-coming-to-a-website-near-
usted / 2019/07/25 / c5d42ee2-5c53-11e9-98d4-844088d135f2_story. html
(4 de septiembre de 2019).
Mozur, Paul. 2018. Un genocidio incitado en Facebook, con publicaciones
Del ejército de Myanmar. Los New York Times. https: //www.nytimes .
com / 2018/10/15 / technology / myanmar-facebook-genocide.html (julio
24, 2019).
Nunu 2018. Documentos filtrados muestran que las élites gobernantes de Etiopía son
Contratar trolls de redes sociales (y ver porno) ■ Global Voices. Global
Voces .
https://globalvoices.org/2018/01/20/leaked-documents-show-
que-etiopias-elites-gobernantes-estan-contratando-redes sociales-trolls-y-observando-
porno / (24 de julio de 2019).
Rio, ITS 2018. Poder computacional: uso automatizado de WhatsApp
en las elecciones. SU ALIMENTACIÓN. https://feed.itsrio.org/computational-power -
uso-automatizado-de-whatsapp-en-las-elecciones-59f62b857033 (2 de marzo,
2019).
Rolfe, John. 2013. Seguidores falsos de Twitter para Tony Abbott Being
Investigado por el Partido Liberal. Perth ahora. https://www.perthnow.com .
au / politica / politica federal / fake-twitter-Followers-for-tony-abbott-being-
investigado por liberal-party-ng-90b331e9e3ca2542ec9cbdf6d994f986.
Extraño, Austin et al. 2013. Financiación del desarrollo de China a África:
Un enfoque basado en los medios para la recopilación de datos. Hoja de trabajo. https: //
www.cgdev.org/publication/chinas-development-fiinance-africa-media-
enfoque basado en la recopilación de datos (17 de mayo de 2017).
York, Jillian C. 2011. Spambots de Twitter en Siria. The Guardian . https: //
www.theguardian.com/commentisfree/2011/apr/21/syria-twitter-
spambots-pro-revolution (10 de abril de 2017).
[22]
Page 26
INVENTARIO GLOBAL 2019 DE MANIPULACIÓN ORGANIZADA DE MEDIOS SOCIALES

Expresiones de gratitud
Los autores agradecen el apoyo del Consejo Europeo de Investigación para el proyecto de investigación "Computational
Propaganda: Investigando el impacto de algoritmos y bots en el discurso político en Europa ”, Propuesta 648311, 2015-2020, Philip
N. Howard, investigador principal. La Fundación Hewlette, Luminate y la Fundación Hewlette proporcionaron apoyo adicional para este estudio.
La Fundación Adessium. Las opiniones, hallazgos y conclusiones o recomendaciones expresadas en este material son de
autores y no necesariamente reflejan los puntos de vista de los financiadores, el Oxford Internet Institute o la Universidad de Oxford.
Por su ayuda y asesoramiento en esta investigación, agradecemos a Ualan Campbell-Smith, Amelie Henle, Caio Machado y Cailean.
Osborne por recopilar datos preliminares y redactar perfiles de países sobre manipulación de redes sociales para los países des critos en
Este reporte. También estamos extremadamente agradecidos con Akin Unver, Alberto Lalama, Alexi Abrahams, Angelina Huyun, Arzu Geybulla, Ben
Nimmo,
Bence Kollanyi, Chris Roper, Darko Brkan, Didac Fabregas-Badosa, Gabby Lim, Ingrid Grodnig, Iva Nenedic, Lisa-Maria Neudert, Marc
Owen Jones, Martin Becerra, Mimie Liotsiou, Monika Kaminska, Nahema Marchal, Nick Monaco, Niki Cheong, Olivier Milland, Philip
Di Salvo, Ralph Schroeder, Rosemary Ajayi, Sabine Niederer, Sanjana Hattotuwa, Vidya Narayanan, Tamar Kintsurashvili y Tom
Sear, así como los muchos expertos anónimos que consultamos para este proyecto. Su experiencia y redes específicas de cada país fueron
Esencial para garantizar la fiabilidad y la validez de nuestros datos. Les agradecemos su tiempo y asistencia para revisar los perfiles de los países,
y por proporcionarnos fuentes adicionales, citas y puntos de datos para incluir en este informe.

Biografías de los autores


Samantha Bradshaw es una experta líder en tecnología y
democracia. Su investigación de tesis examina a los productores.
e impulsores de la desinformación, y cómo la tecnología artificial
inteligencia, automatización y análisis de big data: mejora
y restringir la difusión de la desinformación en línea. En el
vanguardia de los enfoques teóricos y metodológicos para
Estudiar, analizar y explicar la compleja relación.
entre redes sociales y democracia, la investigación de Samantha
ha ayudado a avanzar en el debate académico, la comprensión pública
y debates de políticas sobre el impacto de la tecnología en
Expresión política y privacidad. Samantha la está completando
Doctorado en el Oxford Internet Institute, Universidad de Oxford y
es investigador del proyecto de propaganda computacional.
Tweets de Samantha de @sbradshaww.
Philip N. Howard es profesor y escritor. Él enseña en el
Universidad de Oxford, dirige el Oxford Internet Institute, y
es profesora estatutaria en Balliol College. El escribe sobre
política de información y asuntos internacionales, y él es el autor
de ocho libros, incluyendo The Managed Citizen, Pax Technica:
Cómo el Internet de las cosas puede liberarnos o encerrarnos, y
más recientemente, propaganda computacional. Ha ganado múltiples
premios al "mejor libro", y su investigación y redacción de comentarios
ha aparecido en el New York Times, Washington Post,
y muchos medios de comunicación internacionales. Revista de política exterior
lo nombró 'Global Thinker' para 2018 y National
El Instituto Democrático le otorgó su 'Premio a la Democracia' por
pioneros en la ciencia social de las noticias falsas. Su próximo libro, Lie
Máquinas: cómo salvar la democracia de los ejércitos trol, engañosos
Robots, operaciones de noticias basura y operativos políticos es
próximamente de Yale University Press a principios de 2020. Bloguea
en www.philhoward.org y tweets de @pnhoward.
[23]
re
mi
S
YO G
norte
mi
re
POR
UNA
R
R
UNA
re
mi
S
YO G
norte
CO
U
K

Página 27
El proyecto de propaganda computacional
en el Oxford Internet Institute
Universidad de Oxford
1 St Giles • Oxford OX1 3JS
Sitio web: www.oii.ox.ac.uk
Este trabajo está licenciado bajo una Atribución Creative Commons
- No comercial - Licencia internacional Share Alike 4.0
RUSIA
s
c />
rn
CO

UNI
ESTADO DE RUSIA
. BUATEMALA
1 HONDURAS
"SS VENEZUELA
g I— VENEZUELA
ii BRASIL
POLONIA
i ALEMANIA
1
HOLA"
ECUADOR =

BRASIL
BRASIL

KAZAJSTÁN
I çg FRANCIA _
"SU * UZBEKISTÁN
!>
^ ai TTTIIDI f CVTURKM
krrgyzstan
=z
SWKM lï
taiikisiah

, 3> S - «| I SlRAN i
Æ i m1 ® IRÁN I
5LIBYA ”SAUDIA I * I
¡ARABIA! §
^
MALI ^ = Ç _? C />
YEMENITA
^
CHINA

CHINA1
ZIMBABUE
SUR
ÁFRICA

1CHINA
=1^3■
1 yo
^7
CAMBOYA
-D
=
_ YO
MALASIA
INDONESIA
AUSTRALIA
AUSTRALIA
«S ™» AUSTRALIA
AUSTRALIA
Texto original
CHINA1
Sugiere una traducción mejor

También podría gustarte