Las Palabras Son Armas

Las palabras
son armas
Las palabras
son armas
Discurso de odio en la red
Olga Jubany, Malin Roiha
Prólogo de
Miguel Ángel Aguilar García
Biblioteca Universitaria
© Edicions de la Universitat de Barcelona
Adolf Florensa, s/n
08028 Barcelona
Tel.: 934 035 430
Fax: 934 035 531
comercial.edicions@ub.edu
www.publicacions.ub.edu
ISBN 978-84-9168-163-2
Esta publicación ha recibido el apoyo del programa Rights,

Equality and Citizenship de la Unión Europea. El conteni-
do es responsabilidad exclusiva de las autoras y no refleja de
ninguna manera la posición oficial de la Comisión Europea.
Este documento está sujeto a la licencia de Reconocimiento-

NoComercial-SinObraDerivada de Creative Commons, cuyo
texto está disponible en: http://creativecommons.org/licen
ses/by-nc-nd/4.0/.
Índice
Prólogo, por Miguel Ángel Aguilar García. . . . . . . . . . . . . . . . 9
Agradecimientos. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Antecedentes, experiencias y respuestas al discurso de odio
en la red. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Una aproximación cualitativa al discurso de odio. . . . . . . . . . . 25

Cartografía del uso de la red por grupos extremistas. . . . . . . . . . 27
Experiencias de profesionales y jóvenes usuarios de redes sociales. . 29
Nuevos medios de comunicación, nuevas generaciones,

nuevas fronteras. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
Lo social por lo virtual, lo virtual por lo social. . . . . . . . . . . . . 39

Detrás de las cifras. . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
El uso de redes sociales por grupos extremistas. . . . . . . . . . . . 49
No hay texto sin contexto . . . . . . . . . . . . . . . . . . . . . . . . . 55
Colaboración entre organizaciones y países. . . . . . . . . . . . . . 59

Fuerzas de seguridad. . . . . . . . . . . . . . . . . . . . . . . . . . . 59
Fiscalía y juristas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
El papel de las ONG . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
Medios de comunicación y proveedores de redes sociales . . . . . . . 66
Facebook puesta a prueba. . . . . . . . . . . . . . . . . . . . . . . . 68
Discurso de odio en la red: mucha presencia, escasa reacción. . . . 73

Entre el online y el offline. . . . . . . . . . . . . . . . . . . . . . . . . 73
Grupos vulnerables y bystanders. . . . . . . . . . . . . . . . . . . . . 75
Normalizando o combatiendo el discurso de odio online . . . . . . . 84
Combatir el discurso de odio. . . . . . . . . . . . . . . . . . . . . . 93

Educación y sensibilización. . . . . . . . . . . . . . . . . . . . . . . . 95
Líderes de opinión y profesionales de los medios. . . . . . . . . . . . 96
Medidas legales y cuerpos de seguridad. . . . . . . . . . . . . . . . . 97
Comunidades online y plataformas de redes sociales. . . . . . . . . . 99
Observaciones finales. . . . . . . . . . . . . . . . . . . . . . . . . . 101

Bibliografía. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
Prólogo
El presente trabajo de investigación, elaborado por las antropólogas

Olga Jubany y Malin Roiha, pertenecientes al Departamento de An-
tropología Social de la Universidad de Barcelona, arranca con un títu-
lo provocador: «Las palabras son armas. Discurso de odio en la red».
Provocador porque siempre tendemos a pensar que las palabras
son únicamente un medio para expresar nuestros sentimientos, emo-
ciones y anhelos, o una forma de tomar contacto con la realidad y
simbolizar nuestras vivencias, o un puente para conocer y reconocer
al otro, una manera de poner nombre a la persona amada, a los luga-
res de nuestra infancia o letra a una canción que despierta un recuer-
do, o un modo de evocar la ausencia de los seres queridos. Pero no
les falta razón a las investigadoras de este excelente documento cien-
tífico cuando equiparan palabra y armas a la hora de abordar, nada
más y nada menos, un fenómeno como es el discurso de odio en In-
ternet y muy particularmente en las redes sociales. Ya Paulo Coelho
decía que «de todas las poderosas armas de destrucción, la más terri-
ble y la más cobarde es la palabra».
El discurso de odio alienta la estigmatización y los prejuicios, la
exclusión, la hostilidad, el fanatismo, la agresividad e incluso la vio-
lencia contra el «otro», el diferente, y contra grupos de personas vul-
nerables y en riesgo de exclusión. La palabra, convenientemente di-
vulgada y propagada de forma masiva e indiscriminada por medio
de Internet, y en particular a través de las redes sociales, se convierte
en este caso en un poderoso instrumento destructor que corroe los
derechos humanos y la convivencia democrática basada en la diver-
sidad, y afecta a valores superiores y derechos fundamentales como
10 LAS PALABRAS SON ARMAS
la igualdad, la dignidad y la prohibición absoluta de discriminación.

Pone así en peligro las condiciones de vida y existencia de millones
de personas, su tranquilidad, su seguridad y su honor, y ello por
motivos de intolerancia como el color de la piel, el origen nacional o
étnico, la orientación o identidad sexual, las creencias religiosas o la
minusvalía.
El discurso de odio no es inocuo, tal y como las investigadoras
acertadamente apuntan a lo largo de su trabajo de investigación, en
el que recogen datos de cinco países europeos (España, Francia, Ita-
lia, Reino Unido y Rumanía). También en el Servicio de Delitos de
Odio y Discriminación de la Fiscalía de Barcelona hemos podido
comprobar empíricamente, desde su fundación en el año 2009, que
el discurso de odio es la antesala de la violencia. En efecto, al estudiar
a los autores de la mayor parte de los graves hechos violentos acaeci-
dos en los últimos años en Barcelona y su área metropolitana, y tras
analizar los contenidos que almacenaban en sus ordenadores, tablets
o teléfonos inteligentes o los de las webs por las que navegaban, he-
mos verificado que en su inmensa mayoría eran grandes consumido-
res del discurso de odio a través de Internet y las redes sociales. Hemos
podido comprobar asimismo las letales consecuencias que el discur-
so de odio genera en los barrios donde viven las personas y comuni-
dades que son su objetivo, en particular gitanos, musulmanes y el
colectivo LGBTI, ya que afecta a actos corrientes pero esenciales de
su vida diaria en sus puestos de trabajo, escuelas, comercios, comu-
nidades de vecinos, etc.
En el ámbito académico, y salvo notables excepciones, casi siem-
pre se ha abordado el estudio del discurso de odio como un asunto
estrictamente jurídico, por lo general realizado por expertos en dere-
cho constitucional y derecho penal que, de forma parcial y sesgada,
suelen centrar todo su análisis científico en la posible afectación de
los derechos constitucionales de los autores de dicho discurso —tales
como la libertad de expresión o la libertad ideológica o de concien-
cia—, sin tener en cuenta el impacto del discurso de odio en las
Prólogo 11
víctimas ni el modo en que un ejercicio irresponsable y abusivo de

dicha libertad de expresión vulnera los derechos fundamentales de las
personas que se ven afectadas, como el derecho a la vida, a la integri-
dad física, a la seguridad, a la preservación de la dignidad y el honor,
a la igualdad y a no ser discriminadas. Pasan así por alto que, tal y
como prevén los tratados internacionales de derechos humanos y la
propia jurisprudencia del Tribunal Europeo de Derechos Humanos,
libertad de expresión no puede significar impunidad para difamar,
insultar, degradar, despreciar o denigrar, acosar, hostigar, marginar
o ridiculizar a las personas por el mero hecho de ser diferentes, actos
todos que, según exigen los citados textos internacionales, se deben
perseguir penalmente y repudiar socialmente con la máxima con-
tundencia.
La gran novedad y la extraordinaria utilidad práctica de este tra-
bajo al que tengo el honor de prologar es que no es jurídico. Se trata
de un análisis realizado en el ámbito de la ciencia de la antropología,
con un enfoque etnográfico que permite conocer desde el uso que la
extrema derecha y otros grupos fanáticos están haciendo de las redes
sociales y de Internet —ese «espacio seguro», en palabras de las autoras
de este texto— para difundir la intolerancia, en especial el racismo,
la xenofobia, la discriminación de género y, muy particularmente, la
islamofobia, hasta las diferentes percepciones y actitudes que experi-
mentan los jóvenes cuando se encuentran con discursos de odio en
la red. Resulta alarmante que la actitud mayoritaria entre nuestros
jóvenes sea la pasividad, y no se pueden olvidar los daños personales
que se derivan de dicho discurso para sus víctimas, traducidos en
sufrimiento psicológico, o los perjuicios sociales colaterales, como
restricciones a la libertad de circulación.
Las investigadoras efectúan además valiosas reflexiones sobre di-
ferentes temas muy relevantes, como el papel que en ocasiones desem-
peñan los políticos y representantes públicos o los medios de comu-
nicación en la creación indirecta o en la exacerbación del discurso de
odio; o la responsabilidad que se debería exigir a las empresas pro-
veedoras de redes sociales por su permisividad y pasividad ante el

crecimiento exponencial de discursos de odio en aquellas, mientras
ven incrementar con avidez sus abultados beneficios económicos; o
el escaso número de denuncias que se presentan por parte de la ciu-
dadanía, bien por desconfianza o por miedo, bien porque se duda de
la eficacia de denunciarlos; o la insuficiente atención y dedicación
que prestan los cuerpos y fuerzas de seguridad o la Administración de
Justicia para perseguir el discurso de odio, muchas veces por la ca-
rencia de una imprescindible formación especializada en este ámbi-
to. Las autoras hacen una enérgica apuesta por dicha formación, la
cual, a mi modo de ver, debería ser obligatoria para jueces, fiscales,
letrados de la Administración de Justicia, forenses, cuerpos y fuerzas
de seguridad, funcionarios de prisiones y miembros de empresas de
seguridad privada, con el fin de que conozcan, no solo todo el po-
tencial de los tipos penales y de las técnicas de acreditación de estos
delitos, sino también la situación personal, religiosa, cultural, socio-
familiar, laboral, psicológica, etc., de las víctimas, sus dificultades en
la vida diaria y los motivos que las llevan a no denunciarlos o bien,
cuando se deciden a hacerlo, a no actuar de forma no inmediata.
No menos relevantes son las aportaciones que se realizan en or-
den al decisivo rol que deben tener las ONG en la lucha contra el
discurso de odio, no solo para atender a inmigrantes y refugiados
recelosos de un sistema policial y judicial que desconocen y que les
resulta burocráticamente hostil, sino también para contrarrestar con
argumentos el propio discurso de odio, o para establecer redes de
colaboración entre las fuerzas de seguridad y la sociedad civil con el
fin de aumentar el número de denuncias.
Asumo la responsabilidad que me corresponde y comparto ple-
namente la conclusión más reiterada a lo largo de todo el estudio: la
lucha contra el discurso de odio debe involucrar a toda la sociedad y
a todos los niveles. Tanto la educación y la sensibilización social como
la acción policial y judicial deben desempeñar una función crucial
para prevenirlo y perseguirlo, y dejar a la palabra la noble función de
Prólogo 13
servir como instrumento para alcanzar una sociedad más libre, igual
y fraterna que haga inviable el pronóstico de Martin Luther King,
quien advirtió: «Tendremos que arrepentirnos en esta generación,
no tanto de las malas acciones de la gente perversa, sino del pasmoso
silencio de la gente buena».
Miguel Ángel Aguilar García

Fiscal coordinador del Servicio
de Delitos de Odio y Discriminación
Fiscalía de Barcelona
Agradecimientos
En primer lugar, quisiéramos agradecer a todas las personas que ac-

cedieron a ser entrevistadas para la investigación que da pie a este
libro, que con tanta generosidad nos dieron su tiempo y confianza,
y sin las cuales el estudio no hubiera sido posible. Su voluntad de
compartir sus experiencias nos ha permitido comprender más pro-
fundamente las complejas implicaciones del discurso de odio en las
redes sociales. Sus relatos forman el núcleo de esta investigación, y
esperamos que consideren este libro una representación valiosa de
sus interpretaciones, experiencias y puntos de vista.
Agradecemos también el trabajo de todos y cada uno de los in-
vestigadores y equipos que forman parte del proyecto PRISM: La
Ligue de l’Enseignement, en Francia; Race on the Agenda, en Ingla-
terra; SOS Racismo, en España; ARCI, UNAR, CNR-ISGI, Citta-
lia, Carta di Roma, en Italia; Fundatia Dezvoltarea Popoarelor, en
Rumanía; y la organización internacional United Nations Interre-
gional Crime and Justice Research Institute. Vaya asimismo nuestro
reconocimiento a las personas del equipo de investigación de la Uni-
versidad de Barcelona, especialmente al profesor Joan Bestard, a Ber-
ta Güell y Arlette Martínez.
Estamos en deuda con la Dirección General de Justicia de la Co-
misión Europea por su apoyo económico, que ha permitido desarro-
llar este estudio bajo la iniciativa del Rights, Equality and Citizen-
ship Programme.
Finalmente, queremos destacar nuestro agradecimiento a Miguel
Pajares por sus enriquecedoras aportaciones a lo largo de la investi-
gación y por las revisiones de los tantos borradores del manuscrito,
así como nuestro profundo reconocimiento a Miguel Ángel Aguilar

por su valiosísima contribución, tanto en el desarrollo de este pro-
yecto como en la confección de este libro.
A todos ellos muchas gracias, puesto que este libro no habría sido
posible sin sus aportaciones y apoyo.
Antecedentes, experiencias
y respuestas al discurso
de odio en la red
Hay que encontrar límites, y el límite que hasta aho-
ra no se ha puesto atañe al aspecto de la dignidad de
las personas, al respeto al honor de personas y colec-
tivos, y hay que buscar esa adecuada ponderación.
Vivimos en una sociedad de naturaleza heterogénea, fluida y cam-

biante, que define las acciones e interacciones de los jóvenes y la
forma en que abordan los implacables desafíos que nuestra sociedad
les plantea. Las recientes transformaciones sociales, culturales y eco-
nómicas han aportado nuevas oportunidades, pero también en mu-
chos aspectos han generado las principales preocupaciones de estos
jóvenes, con gran frecuencia debido a los nuevos patrones de desi
gualdades y las tensas polarizaciones sociales. Desafíos que al mismo
tiempo se sustentan en una nueva realidad caracterizada por la apa-
rición de las complejas plataformas de las redes sociales, que han
revolucionado las distintas formas de interacción social y han con-
vertido a los jóvenes en los máximos usuarios de las herramientas de
comunicación digital. Estos espacios emergentes ofrecen multitud
de nuevas posibilidades para la interacción y la expresión personal,
social y cultural, pero al mismo tiempo implican un canal abierto a
las muestras de desafección y exclusión social, por lo que cada vez se
inundan más de expresiones de odio. La difícil situación económica,
social y política actual ha favorecido un agravamiento de las tensio-
 Fiscal, ES-P4. Igual que esta, a lo largo del libro se incluyen diversas citas de los
informantes, codificadas para asegurar el anonimato y confidencialidad de los participan-
tes en el estudio.
nes entre los diversos grupos y colectivos sociales, que a menudo se

manifiestan en expresiones de odio fundamentadas en el creciente
racismo en toda Europa.
Si bien el discurso xenófobo y racista no es un fenómeno nuevo,
sí que lo son las dimensiones que este ha tomado en la incipiente era
digital, tanto conceptuales como respecto a su expresión y alcance.
A través del uso avanzado de Internet y de las redes sociales, han surgi-
do formas de difusión y expansión que exponen particularmente a
los jóvenes usuarios a los mensajes de odio transmitidos en las redes
sociales. Si bien el discurso de odio en Internet no es esencialmente
diferente de las expresiones de odio fuera de él (offline), sí muestra
ciertas características y retos específicos derivados de los canales
por los que se expresa. Las posibilidades de las redes sociales no son
nuevas en sí mismas, pero sus interrelaciones crean oportunida-
des y desafíos inéditos (Boyd, 2014), tales como la permanencia y
la durabilidad del contenido que se publica (Gagliardone et al.,
2015). Otros aspectos importantes influyentes son la visibilidad —es
decir, la audiencia potencial alcanzada por las redes sociales— y la
itinerancia (Boyd, 2014) —esto es, la facilidad con la que puede
compartirse el contenido—. Estas distintas variables implican
que, incluso cuando se consigue eliminar el discurso de odio de un
espacio concreto, este puede seguir activo en otro (Gagliardone et
al., 2015).
En este sentido, el carácter transnacional de los espacios web
puede aumentar los efectos del discurso de odio y plantear subse-
cuentes complicaciones relativas a los mecanismos legales para lu-
char contra esta problemática. Además, las redes sociales también
crean una sensación de anonimato e impunidad, por lo que los in-
ternautas son más propensos a verbalizar ideas que no expresarían en
otras situaciones por temor a ser criticados o castigados. Por otra par-
te, se evidencia una falta de conciencia del efecto de amplificación
que tiene Internet y, por tanto, de la gravedad y las consecuencias que
pueden llegar a tener las acciones online. Es decir, el espacio web
Antecedentes, experiencias y respuestas al discurso de odio 19
produce una despersonalización «ilusoria» de la realidad; sin embar-

go, precisamente debido a este efecto, la mayoría de los perpetrado-
res de odio se limitan a un «activismo virtual» (keyboard activism) y no
se involucran en acciones y relaciones sociales.
Es fundamental conocer qué posibilidades tiene una tecnología
o espacio particular a fin de comprender y analizar su poder de
influencia. Para analizar el discurso de odio, sus extensiones y pa-
trones, no es suficiente con analizar las pautas virtuales, la tecnolo-
gía o las estadísticas de uso, sino que se impone la necesidad de
profundizar en nuestro conocimiento sobre las percepciones y ex-
periencias de los jóvenes usuarios y las respuestas a este tipo de
contenido. Una necesidad de conocer y dar a conocer que comien-
za con abordar las dificultades en la conceptualización del «discur-
so de odio», particularmente en sus connotaciones en el entorno de
las redes sociales.
Si bien la denominación «discurso de odio» es ampliamente uti-
lizada en distintos ámbitos y disciplinas, su dilatada aplicación y la
diversidad de interpretaciones dependen en gran medida de los con-
textos de lugar y tiempo. En términos legales, y de acuerdo con el
intenso debate de la última década, existe consenso en definirlo como
toda comunicación que se centra en una expresión de odio contra
un grupo de personas caracterizadas esencialmente por su origen,
religión u orientación sexo-genérica y que busca degradar, intimidar
o incitar a la violencia o a una acción perjudicial contra alguien por
motivos fundados básicamente en el racismo, la xenofobia o la ho-
mofobia. Según esta definición, lo que se considera discurso de odio
—y resulta legalmente punible— no es la expresión de ciertas ideas
en sí mismas, por execrables que sean, sino que dicha expresión se
dé en circunstancias que fomenten, promuevan o inciten de forma
directa o indirecta al odio, hostilidad, discriminación o violencia, in-
fringiendo los valores constitucionales de la dignidad humana y la no
discriminación por razón de nacimiento, identificación racializada,
sexo, religión, opinión o cualquier otra condición o circunstancia
personal o social, valores recogidos en los artículos 10 y 14 de la Cons-

titución española (Gómez Martín et al., 2015).
Sin embargo, aun dentro del consenso legal, las interpretaciones
institucionales suelen ampliar los parámetros estrictamente legales
para incluir colectivos concretos de personas que tienden a ser vícti-
mas de tal discurso. Por ejemplo, el Consejo de Europa, a través de
la Comisión Europea contra el Racismo y la Intolerancia (ECRI),
define el discurso de odio como «fomento, promoción o instigación,
en cualquiera de sus formas, del odio, la humillación o el menospre-
cio de una persona o grupo de personas, así como el acoso, descrédi-
to, difusión de estereotipos negativos, estigmatización o amenaza con
respecto a dicha persona o grupo de personas y la justificación de
esas manifestaciones por razones de “raza”, color, ascendencia, origen
nacional o étnico, edad, discapacidad, lengua, religión o creencias,
sexo, género, identidad de género, orientación sexual y otras caracterís-
ticas o condición personales» (ECRI, 2016). Aquí es interesante lo que
dice al respecto la Organización para la Seguridad y Cooperación en
Europa (OSCE), que define los delitos de odio como «toda infracción
penal, incluidas las infracciones contra las personas y la propiedad,
cuando la víctima, el lugar o el objeto de la infracción son seleccionados
a causa de su conexión, relación, afiliación, apoyo o pertenencia real o
supuesta a un grupo que pueda estar basado en el origen nacional
o étnico, el idioma, el color, la religión, la edad, la minusvalía física o
mental, la orientación sexual u otros factores similares, ya sean reales
o supuestos». Esta definición, igual que la proveída por la Unión Euro-
pea y otras instituciones internacionales, presta cada vez más atención
al fenómeno del discurso de odio en Internet, el cual, principalmente
desde la última década, viene descrito como un problema global.
 El Consejo de Europa (Keen y Georgescu, 2016) ha elaborado, además, un manual

para el discurso de odio que pone especial énfasis en la necesidad de definir el contexto de
forma coherente en toda Europa. Sin duda, esta es una de las conceptualizaciones más
utilizadas en el presente.
Si bien estas definiciones legales e institucionales resultan cada

vez más inclusivas, cuando se trata de discursos de odio online estas
perspectivas afrontan el reto insuperable de establecer conexiones
entre dichas expresiones y el perjuicio social ocasionado, como la
hostilidad, la discriminación o el racismo (Gagliardone et al., 2015).
En este sentido, los limitados estudios que han investigado en los
últimos años el discurso de odio en Internet tienden a abordar el
contenido, la difusión y la persecución desde una perspectiva jurídi-
ca (véanse, por ejemplo, Glaser et al., 2002; Waldron, 2012; Foxman
y Wolf, 2013; Heinze y Phillipson, 2017) o en grupos específicos que,
en los debates más recientes, se centran en el caso de islamofobia (véan-
se, por ejemplo, Ekman, 2015; Awan, 2014). Sin embargo, desde un
enfoque social y antropológico dichas definiciones siguen sin abar-
car toda la complejidad de las expresiones de odio en el mundo glo-
bal contemporáneo (Gagliardone et al., 2015). Como apunta Jeremy
Waldron, el discurso de odio es mucho más que simplemente ofen-
sas o insultos, y afecta a nuestra sociedad de tal modo que «los miem-
bros de los grupos vulnerables deben vivir su vida, llevar a cabo sus
negocios, criar a sus hijos y aliviar sus pesadillas en una atmósfera
social envenenada por este tipo de discurso. No solo eso, sino que el
objetivo de este tipo de discurso es difamar a los miembros de los gru-
pos vulnerables en cuestión» (Waldron, 2012). Asimismo, debemos
tener en cuenta que el contexto en el que se produce el discurso deter-
mina su impacto, de igual modo que la posición de la persona o
personas que lo proyectan. Por todo ello, el entorno —social, cultu-
ral, económico y político— resulta de particular relevancia cuando
analizamos el discurso de odio en Internet.
También cabe señalar que esta carencia de estudios empíricos
sobre el discurso de odio desde una perspectiva social resulta aún
más evidente cuando se trata de análisis cualitativos sobre las expe-
riencias de los usuarios, o de los mediadores y perpetradores. Existe
un vacío importante en cuanto a investigaciones que aborden la pro-
blemática en relación con las redes sociales e Internet con un enfo-
que cualitativo y etnográfico que exponga la correlación entre las

experiencias de los jóvenes usuarios y el material de odio en Internet.
En otras palabras, una aproximación que tenga en cuenta y transmi-
ta que detrás de las pantallas hay personas, que son quienes produ-
cen los discursos y también quienes finalmente se ven afectadas por
ellos. Cabe destacar la importancia del conocimiento sobre los prin-
cipios, normas y patrones sociales y culturales que subyacen tras las
motivaciones de las reacciones de las personas usuarias de Internet
ante el contenido de odio en las redes sociales.
Dado este complejo debate, no caben dudas de la necesidad de
ampliar la comprensión del concepto de discurso de odio para refle-
jar la realidad que este implica, y para ello es fundamental referirse a
las interpretaciones de los que viven la experiencia de tal discurso.
Ambos aspectos —el enfoque etnográfico y el énfasis en los jóvenes
usuarios— han sido el objetivo primordial de la investigación Preve-
nir, controlar y combatir el discurso de odio en Internet (PRISM),
cuyo propósito principal ha sido analizar con un enfoque etnográfi-
co el discurso de odio en las redes sociales y conocer los mecanismos
que sustentan los delitos de odio en la esfera social virtual. Para ello
se puso el foco en los jóvenes usuarios de distintos puntos de Europa
y se recogieron datos en cuanto a cómo experimentan estos las ex-
presiones de odio racista y xenófobo en las redes sociales, y cómo
actúan, interactúan y reaccionan ante ellas. En este entorno, el nú-
cleo de análisis se situó en las víctimas directas de este discurso de
odio así como en las personas pertenecientes a los grupos especial-
 La investigación PRISM fue cofinanciada por la Dirección General de Justicia de la

Comisión Europea (Rights, Equality and Citizenship Programme) y llevada a cabo por once
instituciones de distinta índole ubicadas en cinco países: La Ligue de l’Enseignement (Fran-
cia); Race on the Agenda (Inglaterra); Universidad de Barcelona (responsable de la metodo-
logía y coordinación de la investigación) y SOS Racismo (España); ARCI (coord.), UNAR,
CNR-ISGI, Cittalia, Carta di Roma (Italia); Fundatia Dezvoltarea Popoarelor (Rumanía);
United Nations Interregional Crime and Justice Research Institute (UNICRI-Internacio-
nal). Véase www.prismproject.eu.
mente afectados por él. Asimismo se consideró importante el colec-

tivo de usuarios clasificados como «espectadores» (bystanders) y
demás implicados en las interacciones que las redes sociales plan-
tean, así como aquellos actores clave en el abordaje de esta proble-
mática.
En su conjunto, el texto que sigue refleja los resultados de dicha
investigación multisituada, llevada a cabo durante dos años por equi-
pos ubicados en cinco países de Europa, con una metodología fun-
damentalmente etnográfica coordinada por la Universidad de Barce-
lona. Los resultados del estudio se exponen en siete capítulos, cuyo
orden responde a la lógica del planteamiento del propio análisis. Tras
el presente capítulo introductorio, el siguiente, «Una aproximación
cualitativa al discurso de odio», explica la metodología aplicada a la
investigación, desde un enfoque cualitativo y principalmente etno-
gráfico, complementado con la recopilación de datos secundarios y
un gráfico del uso de la red. Se expone asimismo el criterio con que
se recogieron las experiencias de profesionales y jóvenes usuarios de
redes sociales, así como los métodos de gestión y análisis de los da-
tos. El capítulo «Nuevos medios de comunicación, nuevas genera-
ciones, nuevas fronteras» muestra los resultados de una revisión de la
literatura sobre esta materia, con los debates más recientes, correla-
cionados con las conclusiones de las entrevistas llevadas a cabo con
expertos y profesionales de la red. En el capítulo «Lo social por lo
virtual, lo virtual por lo social» se abordan las características espe-
cíficas del discurso de odio en Internet, y se analiza el contexto social
y político al que este tipo de discurso está intrínsecamente vincu-
lado, así como el uso de las redes sociales por parte de grupos extre-
mistas.
El capítulo «Colaboración entre organizaciones y países» pro-
porciona una visión general de las diferentes perspectivas de las ins-
tituciones y organizaciones que trabajan en áreas relacionadas con la
lucha y la prevención del discurso de odio en Internet. Se estudia el
papel de los actores más relevantes para afrontar dicho discurso —las
fuerzas de seguridad, las fiscalías y los juristas—, así como la función

de las ONG y de los medios de comunicación y los proveedores de
redes sociales.
En el capítulo «Discurso de odio en la red: mucha presencia, es-
casa reacción» se analizan los relatos recogidos de los jóvenes usua-
rios de redes sociales respecto a los discursos de odio racista que en-
cuentran online, además de sus reacciones y respuestas. Se destaca la
gran presencia de tal discurso en las experiencias virtuales de estos
usuarios, contrastada con su escasa acción para combatirlo. Se vuelve
a hacer hincapié en la importancia de la relación entre el mundo onli-
ne y el offline en cuanto a los fundamentos del discurso de odio, así
como respecto a la manera en que se aborda esta problemática. Tam-
bién se ofrece un análisis sobre el papel de los distintos actores dentro
del grupo de usuarios, desde las víctimas directas de este discurso
hasta los considerados bystanders o espectadores, lo cual deja en claro
el creciente proceso de normalización del discurso de odio en Inter-
net que tiene lugar en todos los aspectos.
En el último capítulo, «Combatir el discurso de odio», se expo-
nen los aspectos clave de la prevención y lucha contra el discurso de
odio online, según las diferentes perspectivas involucradas en la in-
vestigación. Estas se recogen principalmente de los profesionales que
se ocupan de esta problemática de Internet de forma continua, tales
como policías, abogados, fiscales, periodistas, blogueros y profesiona-
les de las redes sociales, así como de los propios proveedores de estas.
En las distintas secciones se analiza la diversidad de formas que se
han evidenciado como estrategias potenciales para combatir dicho
discurso desde diferentes ámbitos y enfoques.
Una aproximación cualitativa
al discurso de odio
Basada en los resultados de un enfoque etnográfico múltiple y com-

parativo, la investigación cuyas conclusiones se exponen y debaten
en el presente libro se ha llevado a cabo en cinco países de Europa:
España, Francia, Italia, Reino Unido y Rumanía. Centrándose en los
respectivos contextos sociopolíticos como casos de estudio, que re-
presentan una gran diversidad dentro de Europa, se ha explorado en
qué modo las personas —y particularmente los jóvenes— experimen-
tan las expresiones de odio racista y xenófobo expuestas en las redes
sociales, y cómo actúan, interactúan y reaccionan ante ellas. El foco
se ha situado en las víctimas directas de discursos de odio, así como
en las personas pertenecientes a los grupos especialmente afectados
por dicho discurso y en usuarios frecuentes de Internet conside-
rados «espectadores» (bystanders).
La investigación adopta una estrategia interdisciplinaria centra-
da en las experiencias de los principales actores involucrados. Para
ello se han considerado clave las vivencias de los jóvenes usuarios pero
también, como decíamos, las de las restantes personas relacionadas,
incluyendo policías, abogados, fiscales, periodistas, blogueros y pro-
fesionales de las redes sociales, así como los propios proveedores de estas.
Se analizan las respuestas al discurso de odio en Internet a partir de
las experiencias e interpretaciones de los usuarios, poniendo el acen-
to en el racismo y la xenofobia presentes en las redes sociales.
De ahí que, de manera poco usual en este tipo de proyectos de
gran alcance, el estudio prioriza la relación cotidiana con el discurso
de odio, para lo cual adopta la tradición antropológica de la etnogra-
fía. Esto implica enfocar la atención en las diferentes maneras en que
la gente vive, interpreta y experimenta dicho discurso, así como en las

acciones, interacciones y reacciones ante que provoca. Es, pues, una
investigación centrada en explorar las experiencias subjetivas y los
significados que estas implican (Devine, 2002).
Como se apuntaba en anteriores secciones, las problemáticas vir-
tuales y los estudios relacionados con las expresiones de odio en In-
ternet tienden a plantearse como investigación cuantitativa, y con
una perspectiva general o virtual. Sin embargo, como señalábamos,
hay que tener en cuenta que son las personas que se hallan detrás de
las pantallas quienes producen los discursos y quienes se ven afectadas
por ellos. En este sentido, los estudios etnográficos resultan funda-
mentales para aprender sobre las actitudes, motivaciones y reaccio-
nes provocadas por el discurso de odio. Un enfoque que resulta esen-
cial tanto con el fin de alcanzar una comprensión más profunda de
las percepciones, patrones e interacciones ante dicho discurso, como
para contribuir al diseño de nuevas políticas y acciones que disminu-
yan y contrarresten el discurso de odio.
Antes de dar inicio al estudio etnográfico, y con el fin de conocer
el estado de la cuestión en los diferentes contextos nacionales, así
como a nivel europeo e internacional, se llevó a cabo una revisión de
los informes existentes sobre el discurso de odio en Internet. La ma-
yoría de los documentos existentes, y analizados, han sido elaborados
por ONG y agencias de control, o bien por órganos internacionales o
europeos como ENAR, ECRI y la OSCE. El resultado de esta revi-
sión apunta primeramente a que no se han estudiado en profundidad
y de forma específica las expresiones de odio en Internet en ninguno
de los ámbitos nacionales, ni tampoco a nivel internacional. Por ello se
 Red Europea contra el Racismo (European Network Against Racism), www.enar-

eu.org/.
 Comisión Europea contra el Racismo y la Intolerancia (European Commission
against Racism and Intolerance), www.coe.int/t/dghl/monitoring/ecri/default_en.asp.
 Organización para la Seguridad y la Cooperación en Europa (Organization for Se-
curity and Co-operation in Europe), www.osce.org/.
una aproximación cualitativa al discurso de odio 27
han tomado como referencia los informes de carácter general relativos

a la discriminación, el racismo, los delitos de odio y la incitación al
odio, y a partir de ahí se han analizado los contenidos que se refieren
al ámbito de las redes sociales. Por otra parte, por supuesto, también
se han tenido en cuenta los estudios realizados en el ámbito académico
sobre el discurso de odio, tanto a nivel nacional como internacional.
Cartografía del uso de la red por grupos extremistas
Con el fin de profundizar en el conocimiento de las estructuras y

motivaciones de los posibles autores que difunden mensajes xenófo-
bos y racistas, se elaboró una cartografía de las actividades en las re-
des sociales por parte de partidos, organizaciones y movimientos de
extrema derecha o extremistas con destacadas cargas racistas en cada
país, lo cual facilitó una visión más amplia de la presencia de este tipo
de organizaciones en las redes sociales y del uso que hacen de ellas
como posibles propagadores de expresiones de odio. Dado que el
trabajo de campo posterior se centró principalmente en las víctimas,
los grupos objetivo y los testigos de expresiones de odio en Internet,
el gráfico nos permitió incluir asimismo en nuestro análisis el enfo-
que de los grupos potencialmente perpetradores.
En cada contexto nacional se seleccionaron cinco partidos, organi-
zaciones o movimientos xenófobos de extrema derecha o extremistas,
a partir de la revisión de datos secundarios. Por un lado, se tuvieron
en cuenta las entidades que han sido objeto de denuncias o senten-
cias por haber difundido expresiones de odio, xenófobas o racistas en
los últimos años. Por otro lado, también se consideraron aquellas
que, según informes existentes, son las más populares entre los jóve-
nes, o especialmente activas en las redes sociales, y muestran la mis-
ma orientación racista.
Tras la selección inicial, se elaboró una cartografía de todas las re-
des sociales utilizadas por cada grupo, a través de un análisis de las
webs oficiales de las organizaciones y de su presencia en Google, así

como un estudio de sus propios canales de comunicación virtual.
Una vez elaborado el patrón de los perfiles y páginas de redes sociales
de cada entidad, se utilizó la herramienta FanPage Karma para reco-
ger la siguiente información de cada grupo en cada uno de sus cana-
les: fecha de suscripción, número de seguidores, distribución por
sexo de los seguidores (Facebook), número de publicaciones en el
último año, número medio de publicaciones por día (durante el úl-
timo año), número total de vídeos en YouTube y fecha del último
vídeo subido. También se analizaron las palabras más empleadas y las
que han suscitado más reacciones en forma de «me gusta» o «com-
partir» de los seguidores (Facebook) o los términos más usados por
el grupo en el último año (Twitter), así como los enlaces entre las
diferentes redes sociales y la web oficial; y, por último, toda informa-
ción adicional relevante para el estudio.
Con el fin de obtener más indicadores del uso de las redes socia-
les de estos partidos y organizaciones, en las entrevistas con jóvenes
y profesionales se exploró asimismo su familiaridad con ellos y su
posible recepción de mensajes propagadores de odio en las platafor-
mas online. Esta información se contrastó con el material de los in-
formes recogidos, utilizando el método de triangulación, para dar
lugar a un análisis más exhaustivo.
A lo largo de la investigación se evidenció una escasez de denun-
cias por discursos de odio, en buena medida justificada por la falta
de reacción por parte de los mecanismos de denuncia existentes en
las plataformas sociales. En consecuencia, se decidió llevar a cabo un
ensayo en una de las mayores plataformas de red social, Facebook.
Los resultados de tal ensayo, concluyentes y muy reveladores, se co-
 «Nombre del grupo + nombre de la red social», por ejemplo, «Plataforma per Ca-
talunya + YouTube».
5 Fanpage Karma es una herramienta digital para analizar y optimizar las redes so-
ciales: www.fanpagekarma.com/.
nectaron después a los datos recogidos con el resto de los métodos

utilizados.
Experiencias de profesionales y jóvenes usuarios

de redes sociales
Dado que el elemento central de la investigación es el enfoque etno-

gráfico, se realizaron entrevistas en profundidad a profesionales que
trabajan en ámbitos relacionados con las expresiones de odio en línea,
así como a jóvenes usuarios de las redes sociales. A modo de triangu-
lación, se hizo también un seguimiento de blogs, chats y otros meca-
nismos de integración de las redes sociales durante un periodo de
observación, y sobre esta base se elaboró un gráfico de las redes so-
ciales utilizadas por entidades que muestran una clara orientación
racista. Las entrevistas se llevaron a cabo a lo largo de 2015 en Francia,
Italia, Rumanía, España y Reino Unido. La muestra total de entrevis-
tas fue de 148. De estas, 32 se efectuaron a profesionales —abogados,
fiscales, policías, representantes de ONG, periodistas, académicos y
proveedores de redes sociales—, cuyo número varió entre los países
en función de los perfiles prioritarios en cada uno. Para el propósito
comparativo, las entrevistas se fundamentaron en una guía de indi-
cadores adaptada a cada profesional y cada contexto nacional.
Con el objeto de explorar las experiencias subjetivas de los jóve-
nes, y sus significados e interpretaciones de las expresiones de odio
en Internet, se llevaron a cabo 116 entrevistas en profundidad a jóve-
nes de entre 14 y 30 años que se definen como usuarios activos de las
redes sociales, a quienes se contactó por diferentes vías, principal-
mente a través de asociaciones juveniles, centros cívicos, organiza-
ciones de la sociedad civil, escuelas y universidades. Sin embargo, en
cada país se utilizaron diferentes mecanismos, a fin de llegar a una
muestra no necesariamente representativa, pero sí significativa en
cuanto a experiencias vividas. Por ejemplo, en España la ONG SOS
Racismo facilitó la inclusión de algunos jóvenes afectados personal-

mente por el discurso de odio que habían puesto denuncias o quejas
al respecto, y al mismo tiempo se utilizaron canales de distintos ám-
bitos territoriales de la ciudad de Barcelona para asegurar cierta di-
versidad socioeconómica.
En la muestra global, alrededor de un tercio de los jóvenes entre-
vistados pertenecen a la categoría de los «grupos objetivo» del discur-
so de odio o lo han sufrido de forma directa, ya sea por su origen (o
el de sus padres), su religión, etc. En la selección de la muestra se
priorizó la diversidad, de modo que las familias de los entrevista-
dos proceden de más de treinta países diferentes. Los dos tercios
restantes entran dentro del grupo de «espectadores» o usuarios no
afectados directamente. Dado que la juventud no es un colectivo
homogéneo, se ha tenido en cuenta la heterogeneidad de perfiles en
cuanto al estatus socioeconómico, sexo, origen y edad, entre otros,
para así poder adoptar además una perspectiva interseccional en el
análisis de datos.
Un aspecto crítico al comienzo de la investigación fue cómo pre-
sentar el concepto de discurso de odio a los jóvenes durante las en-
trevistas, de tal modo que se enfocara el tema de la charla pero sin
limitar las posibles respuestas o el talante de las conversaciones. En
este sentido, y según la definición dada por el entrevistador, se reco-
gieron experiencias muy diversas. El objetivo fue incluir una amplia
variedad de situaciones, y con tal fin se definieron las expresiones de
odio en términos muy amplios; por ejemplo, en algunos casos, cuan-
do el entrevistado no estaba familiarizado con esta noción —espe-
cialmente en el grupo de menor edad, de 14 a 18 años—, se habló de
«comentarios racistas» o «declaraciones xenófobas» o el entrevistador
recurrió a una explicación más extensa. Esto significa que el concep-
to de discurso de odio es más amplio en los relatos de los jóvenes que
en los de los profesionales, que se centran más en sus límites y herra-
mientas legales. Por lo tanto, cabe subrayar que no todas las expe-
riencias relatadas por los jóvenes sobre su contacto con expresiones
de odio caben necesariamente dentro de la definición legal del con-

cepto. En consecuencia, a menudo en lugar de ello nos referimos al
«discurso de odio percibido».
Por otro lado, a modo de introducción al tema principal, las
entrevistas comenzaron con consultas sobre los usos de las redes so-
ciales por parte de los jóvenes, quienes respondieron con bastante
fluidez, dada su gran familiarización con ese entorno. Al entrar en la
cuestión de las expresiones de odio, sin embargo, y a pesar de reco-
nocer que habían visto comentarios ofensivos en las redes sociales, a
muchos de ellos les resultaba muy difícil expresar su opinión perso-
nal sobre el tema, en parte debido a la falta de costumbre de la ma-
yoría de hablar abiertamente de su vida y experiencias en Internet,
así como discutir explícitamente sobre las desigualdades y la discri-
minación. No obstante, en muchos casos, cuando la discusión se
desplazó de lo abstracto a lo concreto —es decir, cuando se fueron
abriendo para dar cuenta de alguna situación particular que habían
vivido ellos mismos o alguien cercano a ellos—, el relato se volvió
mucho más fluido. Aun así, como veremos en el capítulo «Discurso
de odio en la red», la mayoría de los jóvenes tienden a considerar nor-
males las expresiones de odio o racismo en Internet, aun cuando sean
víctimas directas del discurso de odio.
Nuevos medios de comunicación,
nuevas generaciones,
nuevas fronteras
La libertad de expresión no lo abarca todo y esta-
mos relativizando opiniones, sobre todo en el
ciberodio; opiniones y grupos que luego pue-
den resultar peligrosos, porque el poder de con-
vocatoria a través de las redes es importante.
El discurso de odio online abarca una gran variedad de contenidos

racistas y xenófobos, desde sitios web específicos de grupos de extre-
ma derecha con claros mensajes de odio, hasta un racismo genera-
lizado que se expresa en publicaciones y comentarios en las redes so-
ciales. Como se ha apuntado en el primer capítulo, a pesar de estas
características específicas, sería un error entender las acciones onli-
ne desvinculadas de las acciones offline, ya que las redes sociales es-
tán estrechamente relacionadas con el mundo externo, de la misma
forma que nuestra vida fuera de Internet está cada vez más influen-
ciada por los espacios virtuales. Un ejemplo de lo que se puede de-
nominar «error dualista digital» (Jurgenson, 2011) es la preocupación
por parte de las instituciones de que grupos de extrema derecha uti-
licen los sitios web para reclutar miembros, sin considerar que los
sitios web son plataformas de difusión de racismo en sí mismos (Da-
niels, 2009). Alejándonos de una perspectiva dualista digital, es pre-
ciso centrarse en la contextualización del discurso de odio en Inter-
net como expresión de un fenómeno más amplio, que no es otro que
el aumento constante del racismo en las sociedades europeas actua-
les. Por ello, cuando examinamos la exposición, las reacciones y las
respuestas de los internautas a las expresiones de odio en Internet, es
 Representante de una ONG, España, ES-P2.

crucial interpretarlas desde un marco analítico extenso y ayudar es-

pecialmente a los jóvenes a desarrollar un pensamiento crítico sobre
el racismo en los nuevos medios de comunicación, ya que «en cierto
modo, los jóvenes que están inmersos en medios de comunicación
digitales no hablan con una voz pura cuando se trata del racismo,
sino más bien con una voz infectada que refleja y determina la cul-
tura y las instituciones en las que crecen» (Daniels, 2008: 148).
Para los jóvenes de la Europa de hoy en día, la llamada juventud
del milenio, los medios digitales han existido siempre y son omni-
presentes en su vida. Por tal razón, a menudo nos referimos a ellos
como «nativos digitales», un concepto que ha sido criticado por
no considerar la diversidad de la juventud y de su acceso a Internet.
Sin embargo, no hay duda de que los motores de búsqueda han re-
emplazado a las bibliotecas como las principales fuentes de informa-
ción para la mayoría de los jóvenes (Daniels, 2008). En toda la UE,
en 2014, 9 de cada 10 adolescentes o jóvenes de 16 a 19 años y el 86%
de los jóvenes de 25 a 29 hacían un uso diario de Internet.
Por lo que se refiere al dispositivo utilizado, tenemos datos es-
tadísticos que nos muestran que más del 74% de las personas de 16
a 29 años utilizaban un teléfono móvil para conectarse a Internet
(Eurostat, 2015). Esto implica que hoy, más que nunca, lo que los
jóvenes experimentan online, ya sea positivo o negativo, los acompa-
ña en su vida cotidiana dentro y fuera de las redes.
Si bien los adultos suelen etiquetar la relación de los jóvenes con
las redes sociales como una «adicción», como apunta Boyd (2014), su
uso de las redes sociales es más bien un reflejo de su obsesión con
cualquier contexto que les permita interactuar con sus amigos. No
obstante, algunos estudios han demostrado que la exposición a riesgos
es mayor entre los usuarios más activos en Internet (Livingstone y
Helsper, 2010). Internet puede funcionar como una herramienta para
 Véanse, por ejemplo, Tapscott, 1998; Prensky, 2001.

 Véanse, por ejemplo, Buckingham, 2006; Livingstone, 2008; Holmes, 2011.
Nuevos medios de comunicación, generaciones, fronteras 35
el acoso y como una fuerza multiplicadora, expandiendo el alcance

del acoso (Daniels, 2008). Al mismo tiempo, el ciberespacio ha faci-
litado el crecimiento del racismo en línea (Back, 2002), y en la actua-
lidad existe una tendencia de la extrema derecha a mover su conteni-
do de sitios web de odio a blogs y redes sociales (Rogers, 2013), por
lo que este material se hace accesible a un público más amplio. De
importancia clave es también que el discurso de odio no solo es ge-
nerado por los grupos de odio organizados de la extrema derecha,
sino que además se elabora y se difunde en entornos comunes de Inter-
net por personas que no tienen conexión con los grupos de odio
(Tynes, 2006). Por lo tanto, al analizar la exposición de los internau-
tas a contenidos de odio, no solo debemos prestar atención a los
grupos organizados más radicales, sino también a la forma retórica
del discurso de odio que se utiliza en las redes sociales, a menudo
abiertamente (Oksanen et al., 2014).
Además, el debate actual evidencia que el discurso de odio con-
tribuye a la estigmatización, marginación e intimidación de los miem-
bros de distintos grupos, con particular afección a los colectivos con
menos poder en nuestra sociedad. Se trata de un discurso funda-
mentado en los múltiples procesos de dominación y subordinación
social que utilizan en la discriminación de género, racismo y todo
tipo de prejuicios para, en última instancia, determinar el «nosotros»
frente a «ellos» (Jubany, 2017b). Cuando este discurso se materializa
a través de Internet, tal y como afirma Waldron (2012), podemos
definir dos tipos de mensajes en las expresiones de odio: uno diri-
gido a los grupos objetivo, con la finalidad de deshumanizarlos y
subestimarlos; y otro dirigido a los que tienen puntos de vista simi-
lares, lo que refuerza la sensación de pertenecer a un grupo con ideas
afines que, a su vez, es amenazado por «los otros». En este sentido, el
discurso de odio divide y une al mismo tiempo (Gagliardone et al.,
2015), ya que crea una distinción entre quien está dentro y quien está
fuera de la «sociedad ideal». Este efecto también está relacionado con
el concepto de que las comunidades virtuales tienden a ser comuni-
dades con ideas afines. La inmersión de un usuario en un contexto de

personas que comparten la misma opinión puede aumentar la sensa-
ción de que el mundo está dividido en dos grupos, «nosotros» y «ellos»,
lo cual contribuye a la «alteridad» e incluso a la deshumanización de
aquellos a los que se considera «ellos u otros» (Jubany, 2017b). A su
vez, dependiendo de los sitios por los que se navegue, uno puede
enfrentarse con realidades y discursos que desafíen más o menos sus
ideas preconcebidas acerca de las personas de diferentes orígenes,
etnias o religiones (Delgado y Stefancic, 2014).
Las personas pueden verse afectadas por el discurso de odio como
víctimas directas o potenciales, con efectos perjudiciales para el in-
dividuo, el grupo y toda la sociedad. Este daño a las víctimas y a los
grupos objetivo, que tiende a ser duradero y experimentarse de for-
ma acumulativa (Gelber y McNamara, 2015), es un factor que suele
pasarse por alto en los debates sobre la libertad de expresión (Wal-
dron, 2012). A este respecto, la literatura distingue entre los daños
constitutivos y los consecuenciales, es decir, entre los daños causa-
dos por lo que se dice (o, en nuestro caso, lo que se escribe) y los
daños que se derivan de estos (Maitra y McGowan, 2012), las conse-
cuencias de lo escrito. Entre los daños constitutivos se incluyen efec-
tos tales como el silenciamiento de los objetivos del discurso de odio;
los daños personales, por ejemplo, el sufrimiento psicológico; los
daños sociales, como las restricciones a la libertad de circulación; y
los efectos indirectos, incluidos los daños a la dignidad o el mante-
nimiento de los desequilibrios de poder (Gelber y McNamara, 2015).
Por otra parte, los daños consiguientes pueden incluir persuadir a los
oyentes (o lectores) a creer en estereotipos negativos que los lleven a
participar en otras conductas dañinas; dar forma a la preferencia de
los oyentes o lectores y persuadirlos de estereotipos negativos; condi-
cionar el ambiente para normalizar la expresión de estereotipos ne-
gativos y el comportamiento discriminatorio adicional, a menudo
de manera inconsciente; y hacer que los oyentes o lectores del dis-
curso de odio imiten el comportamiento (Maitra y McGowan,
Nuevos medios de comunicación, generaciones, fronteras 37
2012). Del mismo modo, aquellos internautas que no experimentan

el discurso de odio directamente, pero sí lo observan como especta-
dores, pueden estar influenciados por los mensajes diseminados por
ideologías de odio, o incluso ser estimulados a participar en actos de
violencia por parte de comunidades virtuales (Oksanen et al., 2014).
De acuerdo con lo dicho, no hay duda de que el discurso de odio
online puede tener, y tiene, consecuencias graves en la vida fuera de
Internet, donde la retórica racista y xenófoba justifica los delitos
de odio offline o incluso incita a cometerlos. El aumento en el con-
tenido de odio online tiene un efecto directo en los delitos de odio
racistas offline (Chan et al., 2016). Los propios juicios y sumarios
muestran que, detrás de todos los delitos de odio offline, hay un lar-
go historial de discurso de odio online, y así lo confirman distintos
estudios, como el de Wolf (2004), sobre los crímenes de odio relacio-
nados con el material de discurso de odio en Internet, o trabajos
como el de Chan et al. (2016), que evidencian con claridad cómo el
acceso a Internet incrementa la incidencia de los delitos de odio ra-
cista cometidos por perpetradores «marginales» o «aislados».
Además de estos estudios, otros anteriores sobre el discurso de
odio en Internet se han centrado principalmente en el contenido y
su difusión, y en la persecución desde una perspectiva jurídica, mien-
tras que otros lo han analizado en relación con algunos grupos espe-
cíficos, en especial en el caso de la islamofobia. No obstante, si bien
en los últimos años un creciente cuerpo de literatura ha tratado la
problemática del acoso cibernético o ciberbullying, sobre todo entre
los adolescentes, todavía son pocas las investigaciones enfocadas en
la relación de los jóvenes con el discurso de odio online. Una excep-
 Véanse, por ejemplo, Daniels, 2008; Copsey et al., 2013.

 En inglés reciben el nombre de lone wolvess.
 Véanse, por ejemplo, Glaser et al., 2002; Marrón, 2009; Henry, 2009; Waldron,
2012; Foxman y Wolf, 2013.
 Véanse, por ejemplo, Ekman, 2015; Awan, 2014.
 Véanse, por ejemplo, Garaigordobil, 2015; Nilan et al., 2015; Kowalski et al., 2014.
ción la constituye un estudio cuantitativo realizado por Oksanen et

al. (2014) en Finlandia, con la participación de 723 usuarios de Face-
book de 15 a 18 años. Los resultados muestran que la exposición a
mensajes de odio es alta (67% de los encuestados) y que el porcenta-
je de víctimas directas de este tipo de mensajes también es muy sig-
nificativo (21%). De los encuestados en aquel estudio, el 70% había
llegado al contenido de odio por accidente, lo cual pone de manifies-
to la facilidad con la que se puede acceder a esta clase de material.
Facebook y YouTube fueron los sitios más comunes donde se encon-
traron expresiones de odio (Oksanen et al., 2014). Por otro lado, se-
gún la encuesta EU Kids Online, realizada en 2010, solo el 18% de
los jóvenes de 15 y 16 años habían visto discursos de odio en Internet
(Livingstone et al., 2011). Si bien ambos estudios utilizan una defini-
ción bastante amplia del discurso de odio, debemos tener en cuenta
la época en que se realizaron. En los últimos años el uso de las redes
sociales ha aumentado, tanto entre el público en general como entre
los grupos que difunden mensajes de odio, y además han surgido
nuevas plataformas que están resultando especialmente populares
entre la generación más joven, como por ejemplo Instagram. En to-
dos los casos, queda claramente reflejado cómo el discurso de odio
en Internet resulta inherentemente vinculado a las expresiones de
odio en todos los ámbitos y manifestaciones de nuestra sociedad, lo
cual genera un sinfín de desafíos que se deben abordar, tal como se
hace en el espacio social no virtual.
 Livingstone se refiere a «mensajes de odio que atacan a ciertos grupos o indivi-

duos», mientras que Oksanen et al. definen el discurso de odio «como un acto que expresa
odio de forma dañina y amenazante hacia personas o colectivos humanos».
Lo social por lo virtual,
lo virtual por lo social
Consideramos que hay todo un intento por tra-
tar de justificar o responsabilizar al inmigrante
del fracaso, el fraude, la corrupción, de todos
los males en esta sociedad. Han construido un
enemigo simbólico que somos nosotros y eso
atraviesa todas las áreas.
Tanto los debates académicos como los resultados de la investigación

llevada a cabo exponen de forma manifiesta cómo el discurso de
odio es un espejo del clima social y cultural en el que este se inserta.
Por consiguiente, a fin de analizar y conocer el discurso de odio en
las redes, debemos explorar y reflexionar sobre el contexto social ac-
tual, así como sobre los acontecimientos específicos que pueden fa-
cilitar la emergencia de brotes racistas y xenófobos, con consecuencias
directas en la red. Como telón de fondo actual, debemos partir de
que la crisis económica y social de la última década ha afectado a
todo el contexto europeo en mayor o menor medida. Se trata de una
derivación que, a menudo, se ha utilizado como pretexto para casti-
gar a los grupos más vulnerables, como los inmigrantes y minorías
religiosas, lo cual ha hecho aumentar las expresiones de odio online,
como nos explica este profesional de Rumanía:
El discurso de odio está motivado por aspectos socioeconómicos. El

origen étnico no es el problema fundamental, sino el origen social,
porque existe la idea errónea de que el desconocido pone en peligro la
seguridad social [RO–P1].
 Educador social de una ONG, España, ES-P5.

Sin embargo, como en el caso de la cita anterior, la mayoría de

los profesionales que trabajan con la red puntualizan la importancia
de asumir que el problema de los brotes racistas en la red y el conse-
cuente discurso de odio no obedece solo a incidentes o temporadas
concretas, sino que debemos investigar las causas en los contextos
histórico-culturales más extensos. Se trata, pues, de elementos pre-
sentes en nuestra sociedad, fomentados por distintas construcciones
que, en periodos de tiempo concretos, encuentran más fácilmente
un espacio para expresarse. Son el fruto de discursos populistas que
distorsionan abiertamente los hechos para culpar a grupos enteros
de personas —considerados «otros»— de los problemas de todo un
país e incluso de un continente —como Europa—. La falacia de la
problematización de procesos como la inmigración o el asilo deriva
en la construcción del folk devil (Cohen, 1972), al fomentar un tipo
de determinismo que parece abrazar las perspectivas de victimiza-
ción cultural, social y económica, desde una profunda desconfianza
y apatía hacia la política actual. El éxito de recientes campañas con-
tra la inmigración en toda Europa ha proyectado, en cierta forma,
una «legitimación» del mensaje moral de que los comportamientos
antiinmigración también forman parte de nuestra sociedad. Sin em-
bargo, estas campañas no resultan gratuitas y tienen efectos tanto a
largo como a corto plazo. Por ejemplo, en el caso de la campaña
Brexit de 2016 en Reino Unido, creció visiblemente el número de
delitos de odio y abusos racistas denunciados a la policía inmediata-
mente después del referéndum (Jubany, 2017a).
Esta realidad se muestra también de forma clara en el clima de
exacerbación creado en los países donde se ha llevado a cabo el estu-
dio, como por ejemplo en el Reino Unido, España y Rumanía, don-
de los profesionales apuntan a que el contexto de racismo en la red
está directamente condicionado por las campañas políticas e intere-
ses económicos, como se ha evidenciado en las consultas electorales
realizadas en toda Europa en las mismas fechas que el estudio, en
2015. No se trata, pues, de que los periodos electorales produzcan
lo social por lo virtual, lo virtual por lo social 41
racismo en sí, sino que ofrecen la oportunidad de que este se exprese

de forma extensa y legitimada. Por ello, al margen de las campañas de
los recientes años —como la del mencionado Brexit en Reino Unido
o las presidenciales de Austria y EE. UU.—, en todos los países de
Europa hay partidos políticos que están contribuyendo al auge del
discurso racista (Jubany, 2017a). Destaca también, por ejemplo, el caso
del Front National en Francia, el actual Partido Popular en España,
la Liga Norte en Italia y una serie de pequeños partidos de extrema
derecha en todos los países que, más o menos explícitamente, expre-
san mensajes de odio hacia los inmigrantes y las minorías.
Por otra parte, los medios de comunicación aparecen como un
factor clave que contribuye a la creación y exacerbación del discurso
de odio en Internet, y que a menudo sirve también a los intereses de
los partidos políticos. De hecho, distintos estudios apuntan cómo los
vínculos entre delincuencia, desviación e inmigración son tema co-
mún en los informes de los gobiernos y los medios de comunicación
en Europa (Welch y Schuster, 2005). Por ende, la presión de las em-
presas de medios de comunicación para «crear escándalo» y captar la
atención de los lectores lleva al uso de titulares sensacionalistas y
populistas, que transmiten la idea de que los inmigrantes o los refu-
giados constituyen una amenaza y provocan debates online que mu-
chas veces contienen comentarios racistas. En este sentido, la imagen
negativa de los refugiados y los inmigrantes ya no se transmite sola-
mente de manera sutil para reforzar argumentos sobre seguridad y
soberanía, sino que se ha convertido en el fundamento de un men-
saje abiertamente antiinmigración (Jubany, 2018), En Reino Unido, por
ejemplo, una estrategia recurrente en los medios de comunicación es
mencionar a los inmigrantes que «invaden» el país y suponen «una
amenaza» para la sociedad, utilizando términos como «inundacio-
nes» o «maremotos» para referirse a la llegada de personas en proce-
sos migratorios. A pesar de que la realidad muestra cómo la inmigra-
 Una selección de estos partidos se analizará más adelante.

ción y los refugiados siempre han sido beneficiosos para el Reino

Unido, la campaña del Brexit se basó en gran medida en la suposi-
ción de que todos los problemas de la sociedad se resolverían mante-
niendo al «otro» fuera del territorio. Además, como apuntábamos, lo
que hace unos años se consideraban sentimientos latentes, como el
racismo y la xenofobia, con estas campañas adquieren una apariencia
de cohesión social. Los efectos de estas estrategias de polarización y
exclusión social se traducen en las nuevas fronteras mentales que se
han erigido entre «nosotros» y «ellos» y en los prejuicios basados en
los sedimentos envenenados del racismo, el colonialismo y la cons-
trucción del «otro» (Solomos, 2001). Campañas que se trasladan de
forma inmediata y literal a las plataformas de las redes sociales, don-
de su contenido resulta aún más perverso y más difícil de controlar,
por lo que exacerba el propio discurso de odio y sus consecuencias.
En cuanto a las personas y colectivos que sufren este clima cada
vez más hostil, la comunidad musulmana aparece como el grupo
que recibe el mayor número de ataques de odio actualmente en Eu-
ropa, pues en los últimos años se observa un aumento continuado de
islamofobia. Algunos informes indican que dicho aumento es sus-
tancialmente mayor en los nuevos medios y las redes sociales que en
los medios de comunicación tradicionales (Observatorio Andalusí,
2014). A modo de ilustración, la ONG TellMama registró 548 inci-
dentes contra los musulmanes en el Reino Unido en 2014, dos ter-
cios de los cuales se llevaron a cabo en Internet.
Por lo que concierne al contexto temporal, ya hemos apuntado
que este es también un factor crítico. Si bien el racismo y el discurso
de odio son fruto de un largo cultivo social y cultural, estudios pre-
vios muestran que este discurso tiende a acentuarse en la red en ciertos
momentos, después de los llamados «eventos detonantes». Se trata
de acontecimientos que activan una serie de reacciones por parte de
la opinión pública (King y Sutton, 2013) que conducen al encrespa-
miento dialógico y finalmente al discurso de odio. En los últimos
años han aumentado las expresiones de odio contra la comunidad
musulmana, particularmente en Internet, con picos después de su-

cesos específicos, como el ataque de 2015 en París, 2016 en Niza o
2017 en Barcelona. En esos momentos específicos, el discurso de odio
online contra la comunidad musulmana creció masivamente, no solo
en Francia, sino también en otros países europeos. A modo de ejem-
plo, el tercer hashtag de Twitter más usado en España después de los
ataques de París fue #matadatodoslosmusulmanes. En el Reino Uni-
do, el asesinato de Lee Rigby, en mayo de 2013, activó los delitos de
odio y la incitación al odio contra los musulmanes en los medios
digitales (Awan, 2014). Mientras que antes de este incidente, entre
abril de 2012 y abril de 2013, hubo un promedio de 22 delitos de odio
por mes contra la comunidad musulmana, en mayo de 2013, in-
mediatamente después del asesinato de Lee Rigby, el número se ele-
vó a 109.
A pesar de estas cifras, hay que tener en cuenta que las redes in-
cluyen una gran cantidad de incidentes no denunciados. Como ob-
servaremos más adelante, el análisis del uso de las redes sociales de
algunos partidos xenófobos, como en el caso de los británicos, revela
una enorme cantidad de comentarios contra la comunidad musul-
mana hechos por los seguidores de estos partidos en sus perfiles de
redes sociales (donde no hay moderador), que son visibles de cara al
público y no se denuncian. Sin embargo, también encontramos he-
chos denunciados en el Reino Unido, tras la difusión de mensajes de
odio en las redes sociales, que han sido penados bajo la ley de orden
público de 1986 (Public Order Act). Un buen ejemplo es el reciente
episodio, aún sometido a investigación, de los comentarios racistas
de la columnista Kate Hopkins en relación con las noticias sobre
las muertes en el Mediterráneo.
 Búsqueda en Twitter de hashtags durante la semana posterior al atentado.

 Tell Mama: http://tellmamauk.org/anti-muslim-hate-crimes-2012-2014-in-london-an-
analysis-of-the-situation/.
 www.rt.com/uk/254861-icc-hopkins-sun-legal/.
Cabe destacar que, de los casos de estudio incluidos en la inves-

tigación, Rumanía es la excepción como país, si bien tiene un índice
de inmigración mucho menor que los otros países estudiados. En
Rumanía, más allá de los colectivos de personas inmigrantes, otras
minorías tienden a ser el grupo objetivo de las expresiones de odio;
en particular la comunidad gitana, pero también la húngara, la judía
y las personas LGBTI. Los gitanos son igualmente uno de los grupos
más afectados por el discurso de odio en España, Francia e Italia, y
las expresiones de odio antisemita están asimismo muy presentes en la
mayoría de los países. Otros grupos que sufren esta discriminación
son los migrantes o refugiados recién llegados a Europa, en particu-
lar los procedentes de países africanos y de Oriente Medio; y en el
Reino Unido, los migrantes de la Europa del Este.
Detrás de las cifras
En las sociedades contemporáneas europeas, el discurso de odio en

Internet es objeto de una denuncia que va en aumento, en gran par-
te por la atención que ha recibido al tratarse de un fenómeno cre-
ciente. Sin embargo, se desconoce el alcance exacto de la problemá-
tica ya que, como hemos apuntado, existe una escasez de estudios
cualitativos pero también de estadísticas, y las estadísticas existentes
presentan además graves carencias. Esto se debe fundamentalmente
a que las cifras a menudo solo muestran una parte de la realidad, ya
que se basan en las denuncias de usuarios recogidas por cuerpos de
seguridad y agencias de control. Este hecho viene confirmado por
todos los expertos entrevistados, quienes advierten sobre la enorme
tendencia a no denunciar por parte de las víctimas directas, que es
aún mayor entre quienes son testigos. Varias fuentes indican que
entre el 60% y el 90% de los delitos de odio, tanto por racismo como
por discriminación de género, no se denuncian. Entre estas, un in-
forme de la Agencia de los Derechos Fundamentales de la Unión
Europea expone que una media del 82% de las personas de grupos
minoritarios que han sido víctimas de discriminación no han de-
nunciado el hecho (FRA, 2009). En este sentido, Gómez Martín
(Gómez Martín et al., 2015) señala una serie de motivaciones de las
víctimas para no denunciar, tales como la discriminación como vi-
vencia cotidiana y «normal»; la creencia de que nada pasará; la des-
confianza o miedo a la policía; el miedo a las represalias; la extrema
vulnerabilidad de cierto tipo de víctimas, por ejemplo, las personas
sin hogar; la falta de conocimiento de la ley; la vergüenza; la nega-
ción o minimización del impacto y la gravedad del delito; y, final-
mente, el miedo a desvelar su filiación étnica, religiosa o política. La
mayoría de estas razones quedaron confirmadas con los resultados
del estudio etnográfico llevado a cabo, como se mostrará más ade-
lante.
Apuntada esta problemática de falta de fiabilidad y carencia de
estadísticas actuales, cabe revisar los pocos datos fragmentados que
existen. En Italia los datos sobre delitos de odio son muy limitados,
pero hay algunas estadísticas sobre incidentes específicos en Inter-
net. Estas apuntan que, en el año 2013, el número de casos de discri-
minación online denunciados al organismo de igualdad UNAR fue,
por primera vez, mayor que el número de casos de discriminación
offline. En 2014, UNAR registró 347 casos de manifestaciones racis-
tas en las redes sociales, de los cuales más del 50% tuvieron lugar en
Facebook y el resto en Twitter y YouTube. En el pasado había habido
casos penales relacionados con grupos como la sección italiana de
Stormfront; pero, según representantes de la Policía Postal Italiana
 UNAR (Uffizio Nazionale Antidiscriminazione Razziali) es la oficina italiana para

la promoción de la igualdad de trato y la eliminación de la discriminación basada en el
origen racial o étnico.
 Este cuerpo policial (en italiano, Polizia Postale e delle Comunicazioni) se ocupa de
los delitos que se llevan a cabo en los medios de comunicación, incluyendo Internet (deli-
tos cibernéticos).
y el OSCAD, estos grupos actualmente están bajo control de la

policía y han reducido su actividad. Estos profesionales también ha-
cen hincapié en que las expresiones de odio en Italia están muy ge-
neralizadas y tienden a ser emitidas por individuos en lugar de gru-
pos organizados. Una gran parte del problema reside en que, en la
actualidad, los discursos racistas se han normalizado en la arena po-
lítica y pública. Tal y como explica una periodista:
El verdadero problema no es que Internet es el Far West: el problema

es que todo nuestro país se ha convertido en el Far West [periodista,
Italia, IT-P5].
En España, hasta ahora, no ha habido estadísticas oficiales acerca

de los delitos de odio. Sin embargo, esta situación está cambiando
con el desarrollo de un nuevo protocolo para que los cuerpos de se-
guridad recojan casos de delitos de odio, incluyendo los cometidos a
través de Internet y las redes sociales. Teniendo en cuenta lo ante-
rior, en 2015 se registraron 1.328 casos de delitos de odio en España,
lo que supone un incremento del 3,3% con respecto a 2014. El ám-
bito de «racismo/xenofobia» supone un 38% del total de los incidentes
conocidos. Del total mencionado de delitos de odio que se denun-
ciaron en 2015, los relacionados con el discurso de odio fueron 177 y, de
 OSCAD (L’Osservatorio per la Sicurezza contro gli Atti Discriminatori) es un or-

ganismo interdepartamental (la Policía Estatal y carabineros) incorporado al Departamen-
to de Seguridad Pública - Dirección Central de Policía Criminal, que se estableció con
el fin de facilitar el derecho a la igualdad ante la ley y a la protección contra la discrimina-
ción a las personas que son víctimas de los delitos de odio.
 «Protocolo de actuación de las fuerzas y cuerpos de seguridad del Estado ante los
delitos de odio». Fuente: www.interior.gob.es/web/interior/prensa/noticias/-/asset_publisher/
GHU8Ap6ztgsg/content/id/2990387. En este sentido, también cabe mencionar el proyec-
to FIRIR, de la UE, que ha desarrollado un manual de formación para los cuerpos de se-
guridad llamado «Manual para la formación de fuerzas de seguridad en la identificación y
registro de incidentes racistas o xenófobos», mediante el cual se han formado 800 agentes
en España.
estos, las injurias y las amenazas fueron los hechos delictivos más
denunciados. Estos delitos se producen, principalmente, a través de
Internet (46,2%) y mediante telefonía/comunicaciones (26,5%), se-
guidos de las redes sociales (9,4%) y los medios de comunicación
social (8,5%). Por otra parte, la organización Movimiento Contra
la Intolerancia informa que el número de casos recogidos por ellos
cada año asciende hasta los 4.000 (MCI, 2012). En cuanto a las de-
nuncias procesadas por vía jurídica por incitación al odio online, la
mayoría están relacionadas con grupos neonazis y con la difusión de
su ideología a través de Internet. Uno de los casos en curso está di-
rectamente vinculado con las redes sociales, y se procede contra el
administrador de una página de Facebook por emitir comentarios
xenófobos y antisemitas. Además, muchos de los hechos denuncia-
dos en Cataluña a la policía o al fiscal se refieren a expresiones de
odio contra los catalanes, como por ejemplo los tuits anticatalanes
después del accidente de avión de Germanwings en marzo de 2015.
En este sentido, es interesante observar que, si bien la gran mayoría
del discurso de odio en Internet, como el que atenta contra los mu-
sulmanes, no se denuncia, el que está orientado a la población autóc-
tona sí parece denunciarse e investigarse en mayor medida. Este es
un elemento preocupante que también expusieron los profesionales
entrevistados, puesto que conlleva la lectura de que solo se asume la
importancia de denunciar y castigar el discurso de odio cuando este
fenómeno se percibe como algo cercano.
En Francia, las estadísticas que recogen datos sobre el origen ét-
nico y religioso están prohibidas constitucionalmente, por lo que la
falta de estadísticas sobre el racismo, la xenofobia y la incitación al
odio es aún más notable que en los demás países. Sin embargo, una
ONG entrevistada revelaba que su oficina recibió en 2014 1.728 de-
nuncias por contenido de odio, de las cuales Facebook representa-
ba el 31%, el 18% procedía de Twitter, el 17% de las redes sociales
 Cifras oficiales del Ministerio del Interior, 2016.

en general, el 12% de blogs, el 8% de foros, el 12% de vídeos (princi-

palmente YouTube y Daily Motion) y, finalmente, el 1% de video-
juegos.
Por otro lado, mientras que en Rumanía las estadísticas sobre
delitos de odio y el discurso de odio son escasas, hay dos estudios
que cabe destacar: el primero analiza la actitud de los lectores digita-
les hacia las personas gitanas, y concluye que alrededor del 10% de
los comentarios de los usuarios contenían mensajes de odio directos
y explícitos que podrían estar sujetos a sanciones legales. El segundo
estudio, basado en el análisis de más de 6.000 comentarios de los
usuarios en siete medios de comunicación digitales, identificó expre-
siones de odio en casi el 38% de los comentarios (Petnehazi, 2012).
En este sentido, el representante del Organismo para la Igualdad
opina que «Facebook contribuye a la exposición de odio. Las redes
sociales han democratizado decisivamente el discurso de odio» [RO-
P5]. Igualmente, los expertos rumanos exponen que Internet y las
redes sociales son las principales herramientas utilizadas en Rumanía
por los políticos para promover su agenda:
Creo que nuestro presidente habla más en Facebook que en la televi-

sión o en los debates públicos. Los políticos han comenzado a com-
prender la importancia de las comunidades digitales, sobre todo por-
que hay capacidad de movilizar, de crear nuevos movimientos sociales.
La gente se reúne y se moviliza en gran medida a través de Internet
[politólogo, Rumanía, RO-P1].
Según los expertos entrevistados en todos los países, además de

las redes sociales, las secciones de comentarios de periódicos digitales
destacan por ser especialmente problemáticas, así como otras pági-
nas y foros de carácter más general, que, al parecer, no se centran en
un discurso contra la inmigración ni están conectados a grupos de
 Entrevista con la responsable de temas legales de esta ONG, FR-P4.

extrema derecha. Estos foros de discusión, de hecho, pueden ser más

eficaces en la difusión de las expresiones de odio que otras webs
más marginales o páginas de redes sociales de grupos de extrema
derecha, debido al alto número de personas que atraen, y no solo a
aquellas que ya tienen opiniones establecidas. Además, cuando el
discurso de odio se produce a través de canales generalizados, el pú-
blico que lo recibe no pone los filtros que se aplican cuando se recibe
información de ciertas páginas o periódicos que se identifican como
racistas o de extrema derecha. Así pues, este elemento contribuye a
la normalización del discurso de odio y a la consecuente falta de ac-
ción contra él.
El uso de redes sociales por grupos extremistas
La cartografía del uso de las redes sociales por grupos extremistas

elaborada en esta investigación ha puesto de manifiesto que los gru-
pos de extrema derecha utilizan las diferentes plataformas —princi-
palmente Facebook, Twitter y YouTube— para ganar adeptos, co-
nectar con sus miembros y unirlos a través de mensajes excluyentes
y de odio hacia ciertos grupos. Mientras que la mayor parte de estos
grupos solo están activos en las plataformas mencionadas (Facebook,
Twitter y YouTube), el Front National francés constituye una excep-
ción, ya que ha puesto en marcha una amplia estrategia en las redes
 En el caso de España, por ejemplo, destaca la plataforma ForoCoches, un foro de

discusión sobre coches, que a menudo contiene comentarios racistas y que incitan al odio.
 Mientras que en el Reino Unido y España la investigación se ha centrado exclusi-
vamente en partidos políticos con una agenda xenófoba, en Francia se ha añadido el medio
de comunicación online Riposte Laïque y la asociación Terre et Peuple. También es el
caso de Italia, donde se ha incluido Resistenza Nazionale, una web de «contrainformación»
racista, así como una red de webs de extremistas católicos, Losai.eu/Radio Spada. En Ru-
manía, por otra parte, los partidos políticos tienden a conformarse en torno a un líder, por
lo que se han tenido en cuenta tres individuos con sus perfiles personales en las redes so-
ciales.
sociales —al parecer, para renovar su imagen y hacer que el partido

sea más aceptable socialmente—, usando también canales como Goo-
gle, Flickr e Instagram. En la tabla, a continuación, se detallan los
«me gusta» o el número de seguidores de las tres plataformas princi-
pales, así como el número medio de mensajes por día en Facebook y
Twitter y, en el caso de YouTube, los suscriptores y el número total
de vídeos para cada partido.
Tabla. Actividad de grupos de extrema derecha en las redes sociales

Facebook Twitter YouTube
País Grupo Media Media

Total
«Me gusta» publ./ Seguidores publ./ Suscriptores
vídeos
día día
ES Alianza Nacional – – 6.738 1,1 278 19
ES Democracia Nacional 1.401 1,6 6.100 2,7 372 64
ES España 2000 17.186 0,5 6.068 1,1 668 140
Movimiento Social
ES 2.200 0,6 4.553 3,4 398 26
Republicano
ES Plataforma per Catalunya 5.846 6,0 1.749 8,7 34 14
FR Bloc Identitaire 39.425 1,1 72.016 1,1 1.789 17
FR Front National 219.931 6,8 72.294 45,0 12.599 177
FR Jeune Nation 4.162 8,6 1.210 6,9 208 19
FR Riposte Laïque 6.942 7,5 2.223 6,8 4.567 19
FR Terre et Peuple 1.879 0,6 939 2,9 – –
GB Britain First 2.300 14,0 12.500 23,0 1.900 44
GB British National Party 178.000 6,0 4.700 15,0 6.700 541
GB English Defence League 173.000 9,9 2.300 14,0 880 78
GB National Front 2.200 2,0 481 – – –
GB UKIP 344.000 4,9 1.900 32,0 8.500 216
IT CasaPound Italia 115.000 1,2 11.000 2,2 3.925 –
IT Forza Nuova 135.527 2,9 6.787 2,0 1.240 17
(Continúa en la página siguiente.)
Facebook Twitter YouTube
País Grupo Media Media

Total
«Me gusta» publ./ Seguidores publ./ Suscriptores
vídeos
día día
IT Lega Nord 177.850 46,0 14.150 49,0 5.112 932
IT Losai.eu/Radio Spada 152.000 3,0 1.981 2,0 19.881 145
IT Resistenza Nazionale 24.000 2,2 721 8,7 194 –
RO Bogdan Diaconu 110.007 2,8 539 4,8 15 7
RO Corneliu Vadim Tudor 85.850 3,0 265 – – –
RO Gheorghe Funar 901 2,2 – – – –
RO Greater Romania Party 902 – – – 45 27
RO New Right Movement 1.126 3,4 9.068 – 476 108
Facebook
Como se ilustra en la tabla anterior, Facebook es con mucha diferencia

el canal de red más utilizado y seguido por los grupos extremistas y
de incitación al odio, así como la mayor plataforma de redes sociales
en cuanto a número de usuarios. El número de seguidores de las pági-
nas va desde 344.000 para el UKIP británico, casi 220.000 para el
Front National francés, más de 170.000 para el British National Par-
ty, la English Defence League y la Lega Nord italiana, y unos sor-
prendentes 110.000 para el líder del partido rumano en auge Bogdan
Diaconu, al escaso millar de los partidos rumanos más pequeños. En
Francia, Rumanía, Italia y el Reino Unido, al menos uno de los gru-
pos tiene una página en Facebook con más de 100.000 «me gusta»,
mientras que el grupo español con más seguidores en esta platafor-
ma —España 2000— solo llega a 17.000. Aunque las páginas indi-
viduales de los líderes de los partidos no se han estudiado en profun-
didad en todos los países, es interesante observar cómo algunas de
ellas —sobre todo en el caso del líder de la Lega Nord Matteo Salvi-
ni, con 986.457 «me gusta» en Facebook— tienen un número de
seguidores considerablemente mayor que las páginas oficiales de los

partidos, lo cual corrobora la importancia de ciertas figuras públicas
y la personalización de algunos partidos políticos, como se argumen-
taba anteriormente.
Los grupos con un alto nivel de seguidores también tienden a
ser los más activos en las redes sociales. Por ejemplo, Britain First
cuenta con la segunda tasa de actividad más alta de todos los parti-
dos en Facebook, con un promedio de 14 mensajes por día, si bien
solo alcanza los 2.300 seguidores. En este sentido, la Lega Nord
italiana también se muestra extremadamente activa, con un prome-
dio de 46 mensajes por día, lo que implica casi dos mensajes por
hora.
Para analizar la difusión de los mensajes que emiten los parti-
dos, y su repercusión inmediata, además del número de seguidores
resulta esencial el nivel de interacción de los usuarios con las publi-
caciones. En este sentido, en la investigación se analizó una diversi-
dad de artículos y posts relevantes. A modo de ilustración destacamos
un artículo publicado por Britain First con la declaración siguiente:
«El proyecto de ley de asilo cuesta 726.000 £ al día: las políticas de
inmigración son un “caos”, dicen los críticos». Dicha publicación
en Facebook tuvo un total de 912 «me gusta», 1.042 «compartir» y
311 comentarios, lo que multiplicó enormemente el alcance del artí-
culo. Sin embargo, en Twitter el mismo artículo solo se retuiteó dos
veces. En Italia también se observa una mayor interacción de usua-
rios en Facebook que en Twitter, sobre todo en los casos de Casa-
Pound Italia y Resistenza Nazionale. Por el contrario, el caso francés
sugiere que los grupos utilizan Facebook principalmente como una
plataforma de exhibición y autopromoción, en la que destacan las
organizaciones y sus temas. Así pues, no se distinguen como plata-
formas interactivas, dado que en la mayoría de las páginas los se-
guidores no pueden publicar y, cuando pueden, los comentarios
son moderados.
Twitter
Si bien no sorprende que, en general, los grupos políticos y agrupa-

ciones de extrema derecha y extremistas tengan un menor número
de seguidores en Twitter que en Facebook, sí destaca que estos tien-
dan a ser mucho más activos en Twitter. Por ejemplo, la Lega Nord
tuitea un promedio de 49 veces al día a sus 14.000 seguidores; no
obstante, también en Twitter el líder de este partido tiene considera-
blemente más seguidores que el perfil oficial. El Front National fran-
cés publica un promedio de 45 tuits por día, y el número de seguido-
res en esta plataforma es bastante elevado (72.294). Por otro lado, el
UKIP británico tuitea un promedio de 32 veces al día a pesar de te-
ner pocos seguidores (1.900), y los otros partidos del Reino Unido
también tienden a ser muy activos, pero sin llegar a esa cifra por lo
que concierne los seguidores. En comparación, el grupo español más
activo en Twitter, Plataforma per Catalunya, solo llega a un prome-
dio de 8,7 tuits por día, mientras que los otros grupos de España son
muy poco activos, con entre 1,1 y 3,4 tuits por día. En Rumanía, por
otra parte, solo uno de los casos estudiados, Bogdan Diaconu, mues-
tra actualmente actividad en Twitter, donde suele publicar el mismo
contenido que en su página de Facebook.
También hay que tener en cuenta que los tuits de estos partidos
son accesibles públicamente, de modo que cualquier usuario de In-
ternet puede leerlos sin estar registrado en Twitter o seguir el perfil.
Esto implica que la audiencia y amplificación de los tuits puede lle-
gar a ser mucho mayor que la cantidad de seguidores y, por tanto,
también lo es la repercusión de estos mensajes y del discurso de odio.
Los retuits contribuyen igualmente a la continua difusión de los men-
sajes, y, de hecho, a medida que el mensaje se va difundiendo y re-
tuiteando, la despersonalización del mensaje parece también aumen-
tar. Sin embargo, como hemos visto anteriormente en el ejemplo de
Britain First, las mismas publicaciones se comparten en un grado
mucho más alto en Facebook que en Twitter.
YouTube
Por lo que concierne a YouTube, y según muestran los resultados de

la investigación, la tendencia general indica que los grupos de extrema
derecha no son muy activos. Aunque muchos de los grupos abrieron
sus cuentas hace varios años, la actividad en los últimos tiempos ha
sido baja, por lo que la base de los seguidores no es muy amplia. Aun
así, existen algunas excepciones, sobre todo Losai.eu/Radio Spada en
Italia, que tiene casi 20.000 suscriptores y ha colgado 145 vídeos. En
Francia se distingue el Front National, con 12.600 suscriptores y casi
180 vídeos colgados; en el Reino Unido, el UKIP y BNP, con 8.500
y 6.700 suscriptores, y 216 y 541 vídeos, respectivamente.
El uso principal de YouTube por parte de estos partidos y movi-
mientos extremistas consiste en publicar vídeos en otras redes socia-
les, lo que sugiere que en muchos casos se utiliza esta plataforma, no
tanto como una red social, sino más bien como mero «almacena-
miento» o instrumento para otra plataforma. Podemos ver esta prác-
tica en el caso de Italia, donde la Lega Nord tiene actualmente col-
gados en YouTube más de 900 vídeos. No obstante, esta organización
cuenta solo con unos 5.000 suscriptores en esta plataforma, que es
una cifra mucho más baja que la de sus otros perfiles de redes socia-
les. Si bien podemos encontrar multitud de discursos de odio en los
contenidos de YouTube, este tiende a ser producto de blogueros in-
dividuales y no parte de grupos mayores con este fin.
El contenido en las plataformas
En cuanto al contenido que cada partido o movimiento de extrema

derecha difunde, no encontramos una línea general que apunte más
allá de los metamensajes de racismo y otros principios ya expuestos,
y los mensajes suelen relegar los intereses específicos alrededor de los
cuales construye su discurso. El estudio nos permitió analizar las
posiciones de los grupos y la interacción de los seguidores respecto a

ciertas palabras y conceptos clave, vinculados al discurso de odio de
carácter racista. En este sentido, el caso italiano muestra como la
retórica de los grupos analizados se basa más en palabras populistas
tradicionales que en palabras que inciten al odio abiertamente. Com-
parando estos resultados con las entrevistas a los profesionales, con-
cluimos que la razón de esta carencia de mensajes directos en las
plataformas principales se debe a que estos movimientos políticos y
organizaciones buscan evitar sanciones y permanecer dentro de los
límites de la retórica populista comúnmente aceptada en el debate
público, con fórmulas que les permitan expandir el discurso de odio
sin arriesgarse a sanciones o clausura de las webs.
La excepción entre los cinco contextos nacionales analizados la
constituye el Reino Unido, en el que, al examinar de cerca los con-
tenidos, hemos encontrado ejemplos de algunas de las posiciones y
comentarios más extremistas, con una enorme cantidad de mensajes
de odio contra la comunidad musulmana escritos por los seguido-
res de redes sociales de Britain First, la English Defense League, el
British National Party y el National Front. Aunque la gran mayoría
de las publicaciones e imágenes emitidas por los grupos y partidos no
pueden definirse explícitamente como expresiones de odio de acuer-
do con la definición legal, tienden a desencadenar comentarios de
odio extremadamente hostiles por parte de los seguidores.
No hay texto sin contexto
Como hemos ido viendo, el discurso de odio online no se produce ni

se desarrolla en un vacío, separado del mundo exterior a Internet,
sino que es claramente un reflejo del contexto sociocultural en el que
se encuentra inmerso. A pesar de la carencia general de estadísticas y
la enorme tendencia a no denunciar delitos y expresiones de odio
por parte de las víctimas y de los usuarios/espectadores de la red,
todo apunta a un aumento continuo, sobre todo en lo que concierne

a la islamofobia en las redes sociales. Este aumento, además, resulta
manifiestamente fomentado por el trato político y mediático de cier-
tos hechos desencadenantes, como por ejemplo los recientes atenta-
dos terroristas o las campañas políticas.
El papel de los medios de comunicación y de la construcción de
los mensajes políticos en Europa son factores clave, cuya importan-
cia se ha observado recientemente en Inglaterra con el incremento
de discursos y delitos de odio xenófobos después del referéndum del
Brexit. Los vínculos entre delincuencia, desviación e inmigración
han sido un tema común en los informes gubernamentales y los
medios de comunicación en el Reino Unido (Welch y Schuster, 2005),
y la concepción social de la «ilegalidad» vinculada a la «alteridad» y
por ende al racismo constituye una cuestión apremiante. No se evi-
dencia interés alguno en exponer las raíces de los temores de las so-
ciedades o desmentir los mitos que sustentan el racismo, sino que los
medios de comunicación y los políticos perciben y representan a las
comunidades más vulnerables como el blanco fácil (Bauman, 2007).
Controlar la llegada de personas en procesos de inmigración, por ejem-
plo, se ha convertido en una herramienta política, sostenida por una
creciente intolerancia hacia «el otro» desesperado (Bauman, 2007),
una postura claramente enunciada durante las distintas campañas
políticas de las que hemos sido testigos en los últimos años. Además,
a lo largo de las recientes elecciones locales, nacionales y supranacio-
nales en la UE, los grupos nacionalistas y de extrema derecha han
logrado avances significativos gracias a plataformas contra la inmi-
gración que parecen ser más abiertas sobre sus flagrantes posiciones
racistas (Jubany, 2017a).
En esta línea, los movimientos políticos utilizan con frecuencia
las redes sociales para promover sus iniciativas, sus posiciones y su
papel en el debate público, así como para hacer difusión de sus acti-
vidades y manifestaciones. Muchos grupos extremistas también apro-
vechan la situación política y los eventos desencadenantes, y usan las
redes sociales para crear alarmismo y propagar ideales extremistas.

Tanto Facebook como Twitter se monopolizan como plataformas
abiertas donde los mensajes de odio —hostiles, perturbadores y no
impugnados— contra ciertos grupos o colectivos se propagan a la
velocidad de un clic.
La instantaneidad con la que se comparte este tipo de mensajes
y discursos de odio, junto con una actitud de los proveedores de re-
des sociales que se puede caracterizar como laissez-faire, hace que la
cuestión del discurso de odio online sea un problema extremada-
mente complejo de regular. Así, aunque la tendencia va cambiando,
por el momento las redes sociales ofrecen un espacio relativamente
«seguro» para que los partidos de extrema derecha y sus seguidores
compartan enemistad contra determinados grupos, de modo que las
expresiones de odio unen y dividen al mismo tiempo. Este uso de
Internet podría también radicalizar el debate público, exponiendo
incluso a los usuarios corrientes a las ideas de los grupos extremistas
(Caldiron, 2013). En este sentido, cabe destacar la necesidad de llevar
a cabo más estudios que investiguen esta relación de causalidad y
examinen los límites de lo simbólico y el peligro del llamado «acti-
vismo digital». El caso italiano de Stormfront advierte del riesgo que
puede haber en la transición de un grupo que solo es activo en Inter-
net a un grupo que acabe llevando a cabo actos de violencia fuera de
Internet. Esto apunta, una vez más, a la existencia de un contínuum
entre lo virtual y lo real (Andrisani, 2014), y evidencia el vínculo
indivisible entre lo que sucede en Internet y las consecuencias en la
sociedad offline, y viceversa.
Colaboración entre
organizaciones y países
El problema de la justicia es que tiene fronteras, pero
la criminalidad de hoy no tiene fronteras.
Este capítulo presenta un análisis de las diferentes perspectivas de las

instituciones y organizaciones que trabajan en áreas relacionadas con
la lucha y la prevención del discurso de odio en la red, fundamenta-
do en los datos etnográficos recogidos. La experiencia de los profe-
sionales pertenecientes a distintos colectivos e instituciones ofrece
diversidad de significaciones según las múltiples —y a menudo
opuestas— configuraciones del discurso de odio en la red.
Fuerzas de seguridad
La primera evidencia que se obtiene al estudiar la lucha contra el

discurso de odio por parte de las fuerzas de seguridad es que, a pesar
del alarmante aumento de este problema, las fuerzas policiales care-
cen de preparación suficiente para abordarlo. La falta de la necesaria
formación en la lucha contra el discurso de odio es el primer obs-
táculo que afrontan los responsables de asegurar una intervención
efectiva. En la mayoría de los países de Europa, la policía apenas
empieza a estar preparada adecuadamente para enfrentar los delitos de
odio en las calles, y dista de estarlo en las redes. La necesidad de cur-
sos especializados se pone de manifiesto en todos los países de Euro-
pa, y así lo sostienen todos los profesionales.
 Fiscal, España, ES-P4.

Además, una de las principales dificultades que limitan la acción

de las fuerzas de seguridad es que, como se ha mencionado, existe
una marcada tendencia a no denunciar el discurso y los delitos de
odio por parte de ninguno de los actores involucrados. En este sen-
tido, en países como España e Italia, la policía ha hecho una serie de
progresos en los últimos años, destinados a aumentar el porcentaje
de casos denunciados y contribuir así a un mejor abordaje del pro-
blema al mismo tiempo que a una mayor sensibilización pública. Sin
embargo, los esfuerzos realizados hasta el momento parecen concen-
trarse más en el campo de la homofobia y la discriminación LGBTI
que en el del racismo y la xenofobia. A modo de ejemplo, el proto-
colo de la policía catalana —los Mossos— para lidiar con los delitos
de odio se desarrolló en un principio para los delitos contra la comu-
nidad LGBTI, y posteriormente se amplió para incluir los delitos de
odio motivados por el origen étnico o la religión. Esta iniciativa ha
sido, de hecho, el detonante de toda la red de fiscales contra la dis-
criminación en España, que explicaremos más adelante, y que es sin
duda la principal herramienta actual para combatir el discurso de
odio. La experiencia de crear redes de colaboración entre las fuerzas
de seguridad y la sociedad civil en temas LGBTI ha resultado un
elemento crucial para sensibilizar a las posibles víctimas, así como a
los mismos cuerpos policiales, acerca de los derechos y herramientas
disponibles para presentar denuncias.
En cierta medida, las propias fuerzas policiales reconocen la falta
de sensibilidad cuando se trata de grupos vulnerables, y así se hizo
patente en las entrevistas llevadas a cabo. No obstante, también se
evidencia la necesidad de redoblar los esfuerzos para conseguir un
cambio de actitud respecto a la relevancia de este fenómeno, pero se
trata de un proceso a largo término. Es importante anotar que se obser-
van diferencias en las actitudes hacia el discurso de odio y, por lo tanto,
en la colaboración entre los distintos grupos. En Italia, por ejem-
plo, encontramos una notable diferencia entre la respuesta a los actos
de antisemitismo y a los de antigitanismo por parte de la propia poli-
Colaboración entre organizaciones y países 61
cía. Por un lado, la condena histórica y generalizada del antisemitismo

ha dado lugar a una relación de confianza entre la comunidad judía y
la aplicación de la ley; por el contrario, la actitud tradicionalmente
discriminatoria de las instituciones y la sociedad hacia la comunidad
gitana se traduce en una falta de sensibilidad por parte de las fuerzas
de seguridad hacia este colectivo, como vemos reflejado en esta cita de
un policía italiano: «Si tuviera que decir un problema donde hay una
total desconfianza, diría el antigitanismo: este es el tema en el que,
incluso dentro de la policía, hay más desconfianza» [IT-P4].
La falta de denuncias es, como hemos apuntado, una importante
limitación para el desarrollo del marco legal. Puesto que la mayoría
de las investigaciones sobre el discurso de odio en Internet son «reac-
tivas» —es decir, se basan en denuncias específicas hechas por vícti-
mas directas—, los resultados de tales informes tienden a concluir
que, al haber pocas denuncias, hay pocos delitos de odio, lo que,
como hemos visto, es un falseamiento de la realidad y representa un
gran perjuicio para la visualización del fenómeno. A fin de incremen-
tar el número de denuncias, en países como España se prevé la
posibilidad de que la denuncia la interponga una tercera parte. En
este país, el discurso de odio penalmente perseguible está previsto
en una serie de artículos del código penal, entre ellos el 510 (promo-
ción, favorecimiento o incitación al odio, la hostilidad, la discrimi-
nación o la violencia), el 525 (ofensas a sentimientos religiosos) y el
578 (enaltecimiento o justificación del terrorismo), delitos todos ellos
públicos, perseguibles de oficio y en los que cualquier ciudadano
puede presentar denuncia por su comisión. Además, la ley permite
que cualquier persona, incluidas las personas jurídicas (entidades,
ONG, administraciones), pueda no solo denunciar el discurso de
odio, sino también personarse en los procedimientos judiciales y
ejercer la acción popular. En otros países como Italia, en cambio, la
denuncia hecha por una tercera parte no está prevista ni permitida.
Por otro lado, debido a la falta de recursos, el discurso de odio
expresado de manera general contra ciertos colectivos (por ejemplo,
contra la comunidad gitana) tampoco tiende a ser investigado. Aun-

que la policía investigue todas las denuncias recibidas, la interpre-
tación de la libertad de expresión hace que habitualmente solo las
amenazas directas contra una víctima en concreto se perciban como
casos viables para comenzar un proceso legal. La excepción, como ya
hemos visto, son los casos de discurso de odio que están orientados
a la población autóctona (como, por ejemplo, los tuits anticatalanes
después del accidente de avión de Germanwings en marzo de 2015),
que sí parecen denunciarse e investigarse en mayor medida. En lo que
se refiere a la islamofobia, la policía catalana ha constatado un cre-
ciente prejuicio contra la comunidad musulmana, manifestado a
través de quejas de personas que los acusan de ser posibles terroristas
porque han observado algún comportamiento anormal. Así pues,
curiosamente, la conciencia del aumento de la islamofobia no llega
a la policía por medio de denuncias de acciones discriminatorias o
de odio efectuadas contra musulmanes (que sin duda existen, pero
no se denuncian), sino a través de informes contra musulmanes que
demuestran esta islamofobia.
Además, las entrevistas a profesionales manifiestan un elemento
clave, que es la falta de especialización en el discurso de odio. Aun-
que en la mayoría de los países hay unidades policiales específicas que
se encargan de las denuncias de discurso de odio online, también se
ocupan del resto de los delitos cometidos en Internet, de modo que no
tienen los recursos necesarios para controlar exhaustivamente aque-
llos que se refieren a dicho discurso. En este sentido, destaca la me-
dida adoptada por la Policía Postal italiana con el fin de mejorar esta
situación: ha establecido una comisaría online para proporcionar in-
formación y aumentar las denuncias de los delitos en Internet. Sin
embargo, esta comisaría es poco conocida entre la ciudadanía general
y en el año 2014 solo recibió dos denuncias. Esta carencia de denun-
cias no es exclusiva de Italia ni de esta comisaría, sino que está vin-
culada a una falta de confianza en las fuerzas del orden por parte de
las comunidades que suelen ser el objetivo del discurso de odio, así
como a una falta de conciencia y conocimiento de los derechos y

deberes por lo que concierne a este fenómeno, como veremos más
adelante en el análisis de las motivaciones para denunciar o no este
delito.
Fiscalía y juristas
En lo que concierne a fiscalías y juristas, cabe mencionar que en la

gran mayoría de los países de Europa existe una falta de conocimien-
to muy amplia sobre los instrumentos de los que se dispone para com-
batir el discurso de odio y la discriminación, lo cual también contri-
buye a la falta de denuncias. Sin embargo, en el caso de las fiscalías
es importante destacar que en España se han establecido fiscales es-
peciales para estos delitos en las cincuenta provincias del Estado,
después de la experiencia pionera que se produjo en la provincia de
Barcelona. El establecimiento de esta fiscalía surge en 2009 como ini-
ciativa del actual fiscal especial de Delitos de Odio y Discriminación
de Barcelona, Miguel Ángel Aguilar, quien desde entonces coordina
el Servicio de Delitos de Odio y Discriminación y es un referente
tanto a nivel estatal como europeo. Esta ha sido la primera fiscalía de
esta naturaleza en toda Europa, y en el año 2013 fue reconocida como
ejemplo de buena práctica europea por la Agencia de Derechos Fun-
damentales de la Unión Europea. Estas fiscalías especializadas han
contribuido claramente a procesar un número creciente de casos por
la vía judicial, así como a visibilizar esta problemática y concienciar
a los ciudadanos sobre ella.
A la hora de tratar y abordar los casos de discurso de odio online
desde el punto de vista de la fiscalía, un elemento fundamental es el
análisis del contexto en el que este se gesta. En ocasiones una sola
frase, contenida por ejemplo en un tuit, puede ser suficiente para
constituir un delito previsto y penado en el artículo 510 del código
penal, por ser altamente lesivo de la dignidad de la persona o grupos
de personas a los que va dirigido. Pero en muchas ocasiones no es

suficiente y es necesario efectuar una valoración del contexto social
en el que se ha producido el hecho, analizando todo el perfil com-
pleto del autor, bien en esa red social o bien en otras, y comprobar la
posible existencia de más frases del mismo tipo, la frecuencia con
que las emite o el número de seguidores que tiene, así como verificar
si ha expresado arrepentimiento o las ha retirado, si tiene anteceden-
tes por estos hechos, si cuenta con liderazgo social, político o religio-
so, etc.
Por otro lado, hay una clara diferencia entre el procesamiento
legal de casos de incitación al odio en las páginas web generalistas y
en las redes sociales, ya que los servidores que alojan las páginas web
están obligados por ley a facilitar información. No obstante, aunque
la colaboración internacional es posible en cuanto a páginas web, los
expertos tienden a considerar el sistema bastante ineficiente. Las em-
presas de redes sociales como Twitter y Facebook, por el contrario,
tienden a no colaborar, algo que representa un obstáculo. En este
sentido, cabe destacar que algunas de estas plataformas utilizan la
diversificación de marcos legales a nivel internacional para eludir
responsabilidades. Por ejemplo, el hecho de que en EE. UU. haya
una libertad de expresión ilimitada supone que la mayoría de estas
empresas estén registradas en este país para no tener que atenerse a
denuncias o requerimientos de revelación de datos, cobijándose bajo
la ley de privacidad de datos. Por lo tanto, como los profesionales
apuntan reiteradamente a lo largo de las entrevistas, el problema de
seguir la pista a personas en Internet no es tanto de índole técnica,
sino más bien burocrática y, sobre todo, de voluntad de colaboración
por parte de los proveedores de redes. En otras palabras, los profesio-
nales coinciden en que la identidad de la mayoría de los perfiles anóni-
mos se podría descubrir fácilmente –y facilitar así los casos aborda-
dos y procesados—, si no fuera por las limitaciones legales y la falta
de colaboración y voluntad tanto de algunos países como de las pro-
pias plataformas.
El papel de las ONG
No cabe duda de que las organizaciones de la sociedad civil tienen

un papel clave en la lucha contra el racismo y el discurso de odio
tanto online como offline. Como ya se ha indicado, la colaboración
entre la policía y la sociedad civil es un aspecto esencial para cumplir
con el objetivo de aumentar el número de casos denunciados, ya que
las víctimas de los colectivos vulnerables tienden a no denunciar di-
rectamente ante la policía, sino más bien ante las ONG, en parte por
desconfianza y miedo, sobre todo en el caso de los inmigrantes en
situaciones irregulares. En algunos países, notablemente Reino Uni-
do, existe un amplio espectro de organizaciones que se ocupan de las
expresiones de odio y los delitos de odio, algunas de las cuales se
centran en grupos específicos, como TellMama, una ONG dedicada
a denunciar cualquier forma de abuso contra los musulmanes.
En cuanto a las respuestas contra el discurso de odio online, los
profesionales de las ONG reconocen que hay herramientas disponi-
bles para contrarrestarlo, pero explican que estas son ampliamente
desconocidas tanto por los usuarios en general como por las víctimas.
En este sentido, las organizaciones de la sociedad civil denuncian la
gravedad que representa la falta de conciencia sobre la existencia de
estos mecanismos, tanto entre la población en general como entre
los colectivos vulnerables y las víctimas directas del discurso de odio.
Por otro lado, encontramos también casos puntuales de colabo-
ración entre ONG y proveedores de redes sociales en la lucha contra
el discurso de odio. Este es el caso de una ONG francesa que dispo-
ne de una plataforma de denuncias y que ha establecido acuerdos con
Facebook y Twitter. Dicha ONG organiza reuniones periódicas
con los representantes de estas plataformas para perfeccionar los me-
canismos de denuncia. Esto podría contribuir a mejorar la atención
de las denuncias por parte de los proveedores de redes sociales, ade-
más de ser una forma de que estas plataformas tomen más concien-
cia de la gravedad de la difusión de odio en Internet, así como, en la
línea de lo que sugieren Keats Citron y Norton (2011), contribuir a

crear conexiones entre todas las partes interesadas a fin de maximizar
los esfuerzos.
Medios de comunicación y proveedores de redes sociales
Otras perspectivas importantes sobre la respuesta a las expresiones

de odio en Internet son las de los medios de comunicación y los pro-
veedores de redes sociales. Actualmente, los comentarios que los lec-
tores hacen tras las entradas de los medios digitales constituyen una
de las vías más importantes para la difusión del discurso de odio, ya
que se producen en cualquier tipo de medio digital (no solo en los que
se consideran de extrema derecha) y pueden llegar a cualquier lector
de ese medio. Además, el peligro de extensión de este tipo de discur-
so se incrementa al provenir de medios generalistas a los que los lecto-
res y usuarios de internet tienden a no poner filtros, como lo harían
con textos provenientes de plataformas extremistas. Como ya se ha
expuesto, titulares sensacionalistas —o simplemente relacionados
con el tema de inmigración— tienden a provocar comentarios que
muchas veces contienen opiniones racistas encadenadas. Estos co-
mentarios pocas veces llevan a un debate fructuoso, sino que permi-
ten más bien que la gente exprese sus sentimientos y opiniones, a
menudo en términos brutales y deshumanizadores.
En este sentido, un obstáculo importante para combatir el dis-
curso de odio, tal y como afirman los profesionales no vinculados a
los medios de comunicación, es que los periódicos digitales y los
proveedores de redes sociales tienden a percibirse como meros inter-
mediarios para la discusión, y por lo tanto muchos consideran que
tienen poca o ninguna responsabilidad en el contenido de las discu-
siones. Sin embargo, cada plataforma digital tiene su propio proto-
colo de moderación (o no) en relación con los comentarios que los
lectores añaden a las noticias. Así, un periodista responsable de coor-
dinar una plataforma de blogs expresa su frustración al tratar de en-

contrar el equilibrio entre la libertad de expresión y el discurso de
odio:
Es muy frustrante para mí [...] tener que estar en la posición de expli-

car a alguien que utiliza nuestra plataforma de blogs las diferencias
entre la libertad de expresión y el discurso de odio. Además, mi traba-
jo de edición se malinterpreta como una censura, a pesar de mis hones-
tos esfuerzos para crear un espacio de debate creíble [periodista, Ru-
manía, RO-P2].
Hay ejemplos de iniciativas destinadas a proporcionar herramien-

tas a los lectores de los periódicos digitales para contrastar y contra-
rrestar los comentarios que incitan al odio, como el proyecto español
PROXI, que entre noviembre de 2014 y julio de 2015 analizó un
total de 4.777 comentarios en 414 foros de noticias sobre inmigra-
ción y población gitana publicadas en los periódicos El País, El Mundo
y 20 Minutos. Este proyecto lanzó además la campaña #ActúaCon-
Proxi en Twitter, con el objetivo de generar una red de colaboradores
en las redes sociales para luchar contra el discurso intolerante y denun-
ciar comentarios de odio en los medios. Con esta campaña consiguie-
ron que los medios (en especial, el periódico 20 Minutos) eliminaran
comentarios de odio denunciados por el proyecto (Observatorio
PROXI, 2015).
En lo que concierne a las redes sociales, se advierte la tendencia
a un cambio que ya está en marcha. A finales de mayo de 2016, la
Comisión Europea y las principales empresas de TI (Facebook, Twit-
ter, YouTube y Microsoft) hicieron público un código de conducta
con una serie de compromisos para hacer frente a la propagación de
la incitación ilegal al odio en Internet en el contexto europeo. Al fir-
mar este código, las empresas de TI se comprometen a continuar sus
 www.observatorioproxi.org/.
esfuerzos para disminuir la incitación ilegal al odio en Internet. Es-

tos esfuerzos incluyen la mejora de los procedimientos internos y la
formación del personal para garantizar el examen de la mayoría de las
notificaciones de incitación al odio en un plazo de menos de 24 ho-
ras y, en caso de que sea necesario, retirar tales contenidos o desha-
bilitar el acceso a ellos. Las empresas de TI y la Comisión Europea
aspiran asimismo a proseguir su trabajo de búsqueda y promoción
de «contradiscursos», nuevas ideas e iniciativas, y de apoyo a progra-
mas educativos que promuevan el pensamiento crítico. Si bien no
queda claro si las compañías también cambiarán sus políticas sobre
el tipo de contenido que se considera ofensivo, se han comprometido
a consolidar su colaboración con las organizaciones de la sociedad
civil para que estas las ayuden a detectar discursos de odio. Como
hemos visto anteriormente, ya existen ejemplos positivos de acuer-
dos entre ONG, Facebook y Twitter. Sin embargo, al margen de los
acuerdos firmados, la colaboración expresa y evidenciada de estos res-
ponsables de las plataformas aún dista de existir, mientras que preva-
lece el riesgo de que tales acuerdos respondan más a una necesidad
de lavar la imagen externa que a una voluntad de colaboración para
condenar y erradicar el discurso de odio en Internet.
Facebook puesta a prueba
Dado el énfasis expresado por todos los participantes en la investiga-

ción sobre la falta de denuncias, que en gran medida se atribuye a la
falta de reacción por parte de los mecanismos de denuncia existentes
en las plataformas sociales, se decidió llevar a cabo un ensayo en una
 Comisión Europea, comunicado de prensa: «La Comisión Europea y las empresas

de TI anuncian un Código de conducta en materia de incitación ilegal al odio en Inter-
net», Bruselas, 31 de mayo de 2016. Disponible en: http://europa.eu/rapid/press-release_
IP-16-1937_es.htm.
de las mayores plataformas de red social, Facebook. Para tal ensayo

se seleccionaron cien comentarios que atacaban a ciertos grupos vul-
nerables, la mayoría dirigidos a migrantes, solicitantes de asilo o re-
fugiados, pero también a otros colectivos como la comunidad gitana
o los musulmanes. La selección constó de comentarios que no solo
eran claramente racistas o discriminatorios, sino que además incita-
ban abiertamente al odio o a la violencia. A modo de ilustración, entre
los mensajes seleccionados figuraban expresiones tales como «matarlos a
todos», «quemarlos», «exterminio», «son una plaga», como enuncia-
dos recurrentes y que dejan poco espacio para la interpretación.
El equipo de investigación denunció de forma anónima los cien
comentarios, señalándolos como discurso de odio, mediante la herra-
mienta integrada en la plataforma Facebook para tal fin. El tiempo de
respuesta por parte de la plataforma fue breve, ya que todas las denun-
cias se analizaron en menos de 24 horas, lo que auguraba una potencial
eficiencia del mecanismo. Sin embargo, en las respuestas se hizo evi-
dente que tal velocidad de intervención no coincidía con su eficacia
para tratar el discurso de odio. Del total de cien comentarios denun-
ciados solo se retiraron nueve mensajes; los restantes 91 se mantuvie-
ron en la red. Resulta muy revelador analizar cuál fue el criterio por el
que se consideraron no ofensivos más del 90% de los mensajes, y sí los
restantes. Puesto que las plataformas no informan sobre sus criterios
de análisis de los mensajes, cabe suponer que la exclusión debe de
fundamentarse en la dureza del contenido. Pero los resultados mues-
tran que no es ese el caso, puesto que los escasos mensajes eliminados
eran casi exactamente iguales a la mayoría de los que se decidió man-
tener. La prueba evidente de tal incoherencia y falta de criterio es que
entre los comentarios que la plataforma decidió eliminar había men-
sajes que se referían a «volver a abrir los hornos», y entre los que deci-
dió mantener, se hacía alusión explícita a los crematorios y cámaras de
gas, como «Dachau llama...», y había comentarios de igual dureza,
como «Matarlos a todos sin piedad». Según Facebook, estos últimos
mensajes respetaban las «normas de la comunidad», es decir, de la
plataforma y la comunidad virtual. Otro tanto se aplica al lenguaje

empleado: se retiraron ciertos comentarios, mientras que otros con la
misma forma y lenguaje todavía están en la plataforma. La incoheren-
cia de la decisión y la falta de criterio hablan por sí solas.
Para intentar esclarecer tal incongruencia, se investigó el proceso
de denuncia y decisión de resolución de la plataforma Facebook. La
primera barrera existente es que la compañía no hace públicos los
criterios que aplica para decidir qué mensajes se consideran discurso
de odio y cuáles no. Por tanto, cuando la plataforma responde que
no considera discurso de odio un mensaje denunciado, no se ve obli-
gada a ofrecer justificación alguna. Otro elemento es que, según ex-
plica la empresa, para revisar el contenido de todas las denuncias que
le interponen dispone de equipos activos 24 horas al día, siete días
a la semana. Es decir, según sus propias explicaciones, los mensajes
son evaluados por personas físicas (y no programas) que deben tener
en cuenta no solo las palabras, sino también el contexto. El hecho de
que sean seres humanos —y no algoritmos— los que evalúan los co-
mentarios, permite en teoría un trabajo mucho más adecuado y re-
flexivo. Sin embargo, aun si se trata de personas que evalúan cada
denuncia, la inexistencia de criterios definidos puede conducir a des-
ventajas importantes, tanto por la sensibilidad e interpretación personal
de quien realiza esa tarea, como porque el margen de error puede ser
significativo. En el caso de nuestro ensayo llama la atención, de he-
cho, que las notificaciones de los nueve comentarios eliminados se
recibieron una tras otra en solo dos momentos diferentes. La notifi-
cación respecto a la eliminación de los seis primeros se recibió en el
mismo día de la presentación de las denuncias, mientras que la ma-
ñana siguiente se repitió el proceso para los tres comentarios restan-
tes, cuyas notificaciones llegaron con intervalos de pocos segundos.
Ello podría indicar que estos dos «grupos» de informes fueron pro-
cesados por dos personas, cuya decisión de considerarlos discurso de
odio se basó en su criterio personal (valores, etc.). Del mismo modo,
es posible que los otros 91 mensajes, de igual forma y contenido, que
se juzgaron aceptables fuesen gestionados por personas con distintos

criterios personales (prejuicios, etc.). Otra posibilidad es que Face-
book simplemente se limite de forma automática a eliminar un máxi-
mo del diez por ciento de las denuncias que recibe a través de su me-
canismo de denuncias, a fin de justificar la propia existencia de este, y
—vistos los resultados— que dichos mensajes se seleccionen de forma
totalmente aleatoria. Como hemos apuntado, no podemos confirmar
ni refutar ninguna de estas hipótesis, puesto que Facebook se niega a
hacer públicos los criterios de detección de discurso de odio y de se-
lección de las denuncias que reciben al respecto.
Dado el reducido tamaño de la muestra, no pretendemos dar a
los resultados un valor representativo, pero sí significante. En otras
palabras, este ensayo constituye un indicador sobre el tipo de res-
puestas y mecanismos que podemos encontrarnos y sobre los que
se debe reflexionar. Según las normas comunitarias de Facebook,
la plataforma «elimina el lenguaje que incita al odio», es decir, to-
do contenido que ataca directamente a personas en función de los
siguientes aspectos: «raza, etnia, nacionalidad, religión, orientación
sexual, sexo, género o identidad sexual, discapacidades o enfermeda-
des graves». Los hechos, sin embargo, indican lo opuesto. Este en-
sayo muestra que están plenamente justificadas las experiencias y de-
claraciones de todos los usuarios entrevistados en cuanto a una falta
de respuesta por parte de las plataformas. Es más, tal falta de respuesta
y responsabilidad por parte de Facebook es sin duda —como expre-
san todos los usuarios y expertos— uno de los principales motivos
de la escasez de denuncias de delitos de odio en Internet y, por
ende, de la proliferación de este fenómeno. El camino por recorrer
es todavía largo, y hasta ahora las iniciativas y estrategias implemen-
tadas son, por desgracia, muy insuficientes.
 Normas comunitarias de Facebook. Disponibles en varios idiomas en: www.face-

book.com/communitystandards.
Discurso de odio en la red:
mucha presencia, escasa reacción
En Internet es fácil enviar comentarios ofensi-
vos, ya que puedes crear perfiles falsos... Puedes
decir lo que quieras sin ser juzgado... Puedes juz-
gar sin ser juzgado.
El presente capítulo explora los resultados del trabajo de campo,

centrándose en los relatos que los jóvenes usuarios de redes sociales,
víctimas directas o bystanders, ofrecen de sus experiencias e interpre-
taciones de las expresiones de odio en Internet, así como de sus reac-
ciones y respuestas a este problema.
Entre el online y el offline
La primera conclusión del análisis es que la gran mayoría de los jó-

venes usuarios tienden a vincular el discurso de odio al dominio di-
gital. En este sentido, cabe apuntar que existen diferentes percepcio-
nes sobre los límites y las interrelaciones entre los mundos sociales
online y offline. Algunos jóvenes perciben claramente que las redes
sociales son una extensión de su vida cotidiana, donde lo online y lo
offline se sitúan en un contínuum, y asumen que en ambos contextos
se comportan de igual manera:
Creo que mi forma de comportarme en las redes sociales es exactamen-

te igual que lo haría en persona. Trato de evitar decir cosas que no diría
en persona [hombre, 24 años, España, ES-YP5].
 Hombre, 18 años, Italia, IT-YP5.

Por otro lado, aunque la mayoría de los jóvenes interactúan prin-

cipal o exclusivamente con personas con las que ya están familiariza-
das fuera de Internet, algunos optan por crear personajes en Internet
con los que se comportan de forma completamente diferente en la
esfera virtual. Sin embargo, los entrevistados atribuyen esta caracte-
rística a otras personas en lugar de hacerlo a sí mismas, y vinculan la
forma de comportarse en Internet con la posibilidad de anonimato
y la falta de consecuencias inmediatas: «Simplemente se sientan de-
lante de la pantalla y escriben. El no tener que mirar al otro a los ojos
les da automáticamente más valor» [mujer, 23 años, Rumanía, RO-
YP23]. También se refieren a las distancias simbólicas en los espacios
web: «como si hubiera un muro entre ellos y yo, y por lo tanto se
sienten libres de decir lo que quieran» [mujer, 27 años, Italia, IT-
YP3]. De este modo, los jóvenes usuarios tienden a percibir que la
gente se expresa de manera más violenta en Internet y que la acepta-
ción del discurso de odio online es mucho mayor que en el caso de
los mensajes de odio expresados cara a cara. Esta normalización es
compartida por la gran mayoría de los jóvenes usuarios, como vere-
mos más adelante al tratar otros aspectos de esta problemática.
Con respecto a la conceptualización del discurso de odio, se hace
evidente también que los jóvenes tienen escasos conocimientos so-
bre él y que lo abordan con profunda ambivalencia. Así, afirman no
haber recibido información en la escuela ni en otros espacios infor-
mativos, y no recuerdan ninguna campaña reciente contra el discur-
so de odio en Internet. No obstante, resulta interesante comprobar
que estos mismos jóvenes muestran cierta comprensión del concepto
y tienden a expresar una idea intuitiva de él, oponiéndolo a la idea
de amor o asociándolo con el rechazo, con afirmaciones como: «dis-
curso de odio es decir que la gente no te gusta y lo que no te gusta
de ellos, pero de una manera horrible» [mujer, 16 años, Reino Uni-
do, UK-YP14]. Esta internalización del concepto dista de abarcar el
discurso de odio en toda su extensión, puesto que no se tienen en
cuenta aspectos tan importantes como los motivos de odio por ori-
Discurso de odio en la red: mucha presencia, escasa reacción 75
gen étnico o la religión, de forma que tiene más similitudes con el

acoso cibernético que con el discurso de odio. En este punto cabe
decir que el vínculo entre discurso de odio y acoso cibernético se de-
be en gran medida a que el acoso es un concepto con el que los jó-
venes están más familiarizados, debido a las campañas escolares y me-
diáticas sobre el bullying.
Grupos vulnerables y bystanders
El discurso de odio en las redes sociales se puede manifestar como

parte de una conversación cotidiana, en comentarios o «me gusta» de
noticias o imágenes, o como chistes u observaciones a las publicacio-
nes hechas por otros usuarios. La gran mayoría de los jóvenes ha pre-
senciado o experimentado lo que, utilizando una definición amplia
del concepto, se podría definir como discurso de odio racista o xenó-
fobo en las redes sociales. Algunos usuarios afirman haber visto men-
sajes de odio dirigidos a grupos específicos, como afirma el siguiente
joven:
Se trata de imágenes dirigidas a la comunidad judía. Ves los mensajes

con los titulares de las noticias y la gente comenta sobre ellos. Una gran
cantidad de comentarios hablan sobre los negros y musulmanes [hom-
bre, 22 años, Reino Unido, UK-YP7].
Asimismo, también hay una gran mayoría de jóvenes que afir-

man haber leído «comentarios en contra de los gitanos o roma. ¡Ha-
 Respecto a los canales, Facebook es, de lejos, la red social más popular, seguida de
Instagram y Twitter. En consecuencia, la mayoría de las experiencias de discurso de odio
narradas por los jóvenes tienen que ver con Facebook. En cuanto a la extensión del uso de
las redes sociales, los jóvenes acuden a ellas todos los días o varias veces al día, principal-
mente a través de sus teléfonos inteligentes. Solo algunos de los entrevistados de menor
edad afirmaron que únicamente podían hacer uso de las redes sociales los fines de semana.
bía tanto odio en esos comentarios!» [mujer, 20 años, Rumanía,

RO-YP27], de forma regular en sus interacciones en las redes. Las
experiencias del discurso de odio, e incluso la conceptualización e
internalización que se hacen de él, dependen también en gran medi-
da de la posición de los jóvenes. Así, por ejemplo, algunos de origen
migratorio o minoritario explican su conocimiento del discurso de
odio a través de experiencias de ataques de odio dirigidos contra
ellos personalmente, como puede verse en el caso de este joven en
Francia:
Cuando puso «todo esto es debido a los bougnouls» [palabra despectiva

para los árabes] y así sucesivamente, le dije que no podía mezclarlo
todo, que musulmán no quiere decir terrorista y que no todos los mu-
sulmanes son árabes. Dijo «cállate, bougnoul, te deberías quemar ahora
mismo» [hombre, 23 años, Francia, FR-YP6].
En cuanto al contenido y las formas que puede adoptar el discur-

so de odio online, los jóvenes de hoy forman parte de una generación
cada vez más visual, donde las redes sociales y los blogs basados en
imágenes, como Instagram o Tumblr, están ganando terreno. En este
sentido, no es extraño que otra de las características de las expresio-
nes de odio en Internet sea el uso generalizado de imágenes, a menu-
do en forma de «memes», que difunden estereotipos negativos, como
en el ejemplo que esta joven nos comenta: «En la foto aparecía una
mujer en un autobús que llevaba un burka y tenía una bolsa de plás-
tico junto a ella [...] y la bolsa decía “boom”, pero era como una foto
del metro o algo así. La frase decía “Estás muerto de miedo, ¿verdad?”»
[mujer, 23 años, España, ES-YP11].
 Un meme es una imagen típicamente de carácter humorístico, que se copia y ex-

tiende rápidamente por los usuarios de Internet, a menudo con ligeras variaciones. En este
caso, nos referimos a la construcción de memes basados en prejuicios racistas o xenófobos,
aunque también cabe decir que hay una gran variedad de memes inofensivos.
Estas imágenes —o memes— tienden a ser tratadas como chistes

y considerarse normalizadas, de modo que la gran mayoría de los
jóvenes entienden que «hay ciertos grupos que difunden todo tipo
de chistes y memes que pueden ser ofensivos y mal interpretados, y
surgen todo tipo de disputas» [mujer, 20 años, Rumanía, RO-YP21].
No obstante, en la medida en que se alimentan de prejuicios, incluso
cuando no pretenden ser insultantes, estas imágenes chistosas dan
pie con frecuencia a comentarios y debates racistas en las redes socia-
les y pueden influir en los comportamientos individuales y colecti-
vos, en especial cuando se comparten en Internet, debido a su gran
alcance (Bajt, 2014). De hecho, incluso cuando no se comparten de
forma pública, estas imágenes pueden llegar igualmente a un público
amplio, ya que circulan por medio de mensajes privados en Whats-
App o a través de grupos cerrados en Facebook. Además, refuerzan
la legitimación de los mensajes que implican y que suelen seguir de
forma explícita al envío de la propia imagen.
En cuanto a la importancia de los contextos específicos de los
mensajes de odio que los jóvenes dicen haberse encontrado en las
redes sociales, la mayoría de las experiencias están vinculadas a si-
tuaciones concretas o «eventos desencadenantes», como el ataque a
Charlie Hebdo o los acontecimientos terroristas en Bruselas (2016).
En particular, los jóvenes franceses y españoles han descrito una
ola de reacciones en las redes sociales y un aumento en las expre-
siones de odio online contra los musulmanes después de dichos
sucesos. Este hecho generó un debate polarizado en las redes socia-
les que un joven de España nos explicaba así: «Facebook al día
siguiente era una lucha a muerte entre el “je suis Charlie” y “je ne
suis pas Charlie”, y fue como ¡bum!» [hombre, 25 años, España,
ES-YP13]. Como vemos, la reacción en la red es inmediata, y muy
rápidamente se expande a generalizaciones hacia colectivos. Es en
estos casos donde el discurso de odio se manifiesta en toda su ex-
tensión. También podemos ver una clara muestra de ello en una
declaración de una joven de Francia que describe un aumento de
odio en las redes sociales contra los musulmanes refiriéndose al

caso de Charlie Hebdo:
Las mismas cosas de siempre. «Siempre son los árabes», «siempre son los
musulmanes», «no deberíamos dejarlos entrar», ese tipo de frases bana-
les, pero horribles... Siempre las hemos oído, pero esta vez lo escuchas
diez veces más [mujer, 22 años, Francia, FR-YP2].
Sin embargo, estos hechos detonantes no tienen por qué tener

siempre un trasfondo político, sino que a menudo se contextualizan
en otro tipo de sucesos, como por ejemplo eventos deportivos o cul-
turales:
En los deportes hacen comentarios, comentarios racistas hacia el juga-

dor y la gente en el club... Racismo sobre todo... Fue en Instagram,
¿puedo decirlo? Palabras como «negro» y «paki» se dijeron un montón
[mujer, 16 años, Reino Unido, UK-YP14].
Como vemos, la Copa Mundial de Fútbol o los concursos de

belleza internacionales, por ejemplo, son percibidos por los jóvenes
usuarios como causantes comunes del discurso de odio en las redes
sociales.
Entre los jóvenes existe también una elevada conciencia sobre el
papel de los medios de comunicación en la perpetuación de estereoti-
pos negativos y, por tanto, en la propagación del racismo y el discur-
so de odio por estas vías. La mayoría de ellos explican haber presen-
ciado discusiones que incitan al odio en las secciones de comentarios
de los periódicos digitales o en las publicaciones de artículos en las
redes sociales. En este sentido, otro ámbito relacionado al de los me-
dios generalistas en el que se normalizan las expresiones de odio es la
política y, en concreto, el discurso de algunos políticos, sobre todo
en contextos de campañas electorales:
¿Sabes cuál es el problema? Si veo que un político incita al odio y habla

de manera violenta, racista, yo voy a hacer lo mismo como miembro de
la sociedad, ¿no? Ellos piensan que esto es libertad de expresión... [mu-
jer, 21 años, Italia, IT-YP8].
Por otra parte, el descontento que a veces se expresa en las redes

sociales, y en particular en Facebook y Twitter, se convierte en men-
sajes de odio hacia grupos específicos. En la mayoría de los casos, los
autores son personas desconocidas para los jóvenes, o amigos de ami-
gos:
A menudo es precisamente la gente común, quiero decir, no mis ami-

gos personales, pero ya sabes, los amigos de amigos o personas que
comparten la misma página de Facebook conmigo, ¿sabes? [hombre,
22 años, Italia, IT-YP15].
Es interesante señalar que la denuncia del discurso del odio re-

sulta mucho más evidente cuando este proviene de instituciones im-
personales —tales como partidos políticos o medios de comunica-
ción— que cuando procede de personas específicas y cercanas. De
hecho, paradójicamente, las entrevistas muestran que a menudo un
discurso de odio puede generar un intenso desacuerdo cuando es
propagado por canales abiertos y conducido por grupos políticos o
medios, y en cambio se admite casi sin reparos cuando se expresa en
un ámbito más privado y cercano. Como sostiene Bonilla-Silva (1999),
la cara pública del racismo es muy diferente de su expresión privada.
El elemento de la privacidad en una conversación parece conceder el
permiso para expresar ideas que, por lo general, se evitan decir en
público (Bonilla-Silva y Forman, 2000), aunque estas sean opuestas
a los principios declarados abiertamente. Esto también puede apli-
carse al ámbito de las discusiones en espacios web privados. Según se
observa en las entrevistas, algunos de los jóvenes reflexionan sobre su
propia implicación en estos espacios, y tienden a normalizar su pro-
pio comportamiento y tolerancia del discurso de odio, e incluso lle-

gan a admitir que en ocasiones reproducen chistes racistas o se ríen
de ellos «en privado»:
Por ejemplo, en grupos más pequeños de amigos siempre hay chistes

racistas que circulan, porque estamos entre amigos. No sé, de alguna
manera te conviertes en cómplice de otras personas que se ríen de algo
inapropiado, y hay chistes racistas, homófobos y sexistas [hombre, 25
años, España, ES-YP13].
En este sentido, hay que destacar que algunos jóvenes describen

los grupos privados en Facebook o grupos de chat en WhatsApp,
precisamente, como espacios de conversaciones «seguros» (es decir,
no públicos ni punibles). Esto significa que ofrecen la posibilidad
tanto de manifestar opiniones o chistes racistas que no se quieren
mostrar en público, como de expresarse libremente y con seguridad
en el caso, por ejemplo, de jóvenes LGBTI o de minorías étnicas,
que pueden participar en discusiones con compañeros sin correr el
riesgo de sufrir ataques racistas u homófobos.
Cabe tener en cuenta que, para la mayoría de los jóvenes, las re-
des sociales no son una fuente de búsqueda sino sobre todo una he-
rramienta para comunicarse con los amigos habituales (Boyd, 2014),
por lo que tienden a seguir los perfiles y páginas de redes sociales
cercanas a sus propios intereses y valores:
Yo lo uso, bueno, en primer lugar, para entretenerme y, en segundo

lugar, para socializarme, para ver lo que otras personas están publican-
do, enviar mensajes de texto a mis amigos, ver lo que está sucediendo
en su vida [mujer, 23 años, Reino Unido, UK-YP8].
En particular, en el rango de menor edad hay una tendencia a

prestar muy poca atención a lo que se publica en Internet si no es de
interés particular, y a usar las redes sociales principalmente para cha-
tear con amigos. Esto deriva en que, por una parte, estos jóvenes no
intervengan ante un discurso de odio ni reaccionen contra él, pero,
por otra —esta más positiva—, también es un indicador de que di-
cho discurso no llega a afectar tan profundamente a todos los usua-
rios de Internet.
El género como factor de intersección
Como se ha apuntado en el primer capítulo y ha quedado manifies-

to a lo largo del libro, el énfasis en el discurso de odio fundamentado
en el racismo ha sido el foco de la investigación, si bien en el análisis
etnográfico también se ha estudiado otra forma de discurso de odio
que no se puede disociar, que es el discurso de odio por razones de
género. Las expresiones de odio en relación con el género se han
manifestado en todas las entrevistas, tanto con profesionales como
con jóvenes. Particularmente, el género como factor de discrimina-
ción y elemento en el discurso de odio se ha evidenciado en los rela-
tos de las mujeres jóvenes entrevistadas, en especial en el Reino Uni-
do y en España. Este hecho no se debe subestimar, sobre todo si se
tiene en cuenta que los discursos machistas, sexistas y homófobos
forman parte de un enfoque androcéntrico y su consecuente estruc-
tura patriarcal, presente en nuestra sociedad, donde estas personas
los han aprendido, internalizado y, finalmente, normalizado.
Es fundamentalmente a través de los discursos de odio por razo-
nes de género como se puede observar con claridad la interrelación
entre las publicaciones en las redes y la realidad social. Aun cuando el
orden patriarcal, afecta a hombres y mujeres, y pese a los esfuerzos
del movimiento feminista por dinamitar dicho orden, los jóvenes con-
sideran «normal» que en las redes sociales circulen no solo discursos
de odio, sino también vídeos, imágenes y ciertos lenguajes normaliza-
dos con mensajes violentos y discriminatorios hacia las mujeres. Estos
mensajes no solo evidencian la falta de cuestionamiento a los estereo-
tipos patriarcales o a los privilegios de los grupos o personas que las

reproducen, sino que a menudo los legitiman y normalizan.
Lamentablemente, en las redes sociales existe una gran parte de
la población que reconoce, reproduce y reafirma el machismo y el se-
xismo. Hombres y mujeres han interiorizado el orden patriarcal, hasta
el punto de que no reaccionan frente a los discursos de odio por ra-
zones de género expresados en el ciberespacio o se convierten en
simples espectadores, sin sentirse afectados por ellos. Los jóvenes
muestran que el uso cotidiano o en forma de sarcasmo de términos
ofensivos como «putas» o «zorras» para referirse a las mujeres acaban
por banalizarse en el discurso. Además, el discurso de odio por razones
de género concierne directamente a las personas víctimas de LGBTI-
fobia cuando se fundamenta en la orientación sexual real o percibi-
da, identidad de género o características de sexo. Este discurso de
odio sufre también una exacerbada banalización y normalización,
en especial en su vertiente interseccional, es decir, cuando confluye
con otro tipo de expresiones de odio. El problema reside justamente en
que la utilización de un lenguaje cotidiano en tales discursos norma-
liza la violencia hacia las personas por razones de género.
En este sentido, el principal desafío del discurso de odio funda-
mentado en el género es entenderlo en relación con la complejidad
de las personas y heterogeneidad de los grupos. De acuerdo con los
resultados del análisis etnográfico, cuando una persona es atacada,
las ofensas responden a múltiples discriminaciones, y las principales
víctimas suelen ser las mujeres y las personas LGBTI. Como mues-
tran los jóvenes entrevistados, estas no solo reciben comentarios ra-
cistas, sino que además se les asignan ciertas características negativas
por razones de género y por su nacionalidad u origen. Es decir, se
hace visible la intersección entre género y origen en el discurso de
odio y los prejuicios. Así lo ilustra, por ejemplo, el relato de una in-
formante que recibió un sinnúmero de comentarios ofensivos en las
redes sociales por ser mujer latina, después de haber participado en
un concurso de belleza:
Por ejemplo, si alguien es latina, obviamente, se te atribuirá lo peor, o

cosas que ni siquiera son ciertas [...]. Ellos piensan que somos inferio-
res, que tenemos un nivel cultural más bajo, que por qué la gente in-
cluso debería votarme sabiendo que ni siquiera tenemos suficiente para
comer, que ni siquiera teníamos redes sociales, que éramos los peores
[mujer, 23 años, España, ES-YP6].
En la historia de la informante, género y origen étnico/nacional

interactúan y dan lugar a una dimensión múltiple de discriminación
y expresión de odio en la que, precisamente, su identidad como mu-
jer latina constituye el motivo de acoso.
No hay duda de que, por sus fundamentos, el racismo y la homo-
fobia son actitudes que interactúan y se sostienen mutuamente en los
discursos de odio proyectados en Internet. Se trata de un proceso de
múltiple discriminación en el que el odio, además de expresarse como
racismo, se manifiesta sexista y homofóbico y se centra tanto en las
mujeres como en las personas homosexuales, transexuales y bisexuales.
Además, como ya se ha mostrado antes, el vínculo directo del discurso
de odio con los delitos de odio relacionados con el racismo y la homo-
fobia pone en verdadero riesgo a una gran parte de la población.
Las expresiones de odio no son casuales, sino que forman parte
del orden donde las personas se han socializado. Por ello, en los ata-
ques siempre se comprueba la interrelación entre los estereotipos,
prejuicios y discursos de odio. Lo anterior nos lleva a repensar las
categorías y dualismos que se promueven e inciden socialmente en
las formas de pensar y actuar de los internautas dentro de las redes
sociales. De acuerdo con los datos recogidos en las entrevistas, las
agresiones, ridiculizaciones o ataques de odio se sustentan tanto en
los estereotipos de género, como en el racismo, la xenofobia, la di-
versidad sexual o la religión. Todo ello es reflejo de las estrategias de
polarización y exclusión social empleadas para erigir nuevas fronte-
ras entre «nosotros» y «ellos», lo cual perpetúa y normaliza un estig-
ma social que afecta a toda nuestra sociedad.
Normalizando o combatiendo el discurso de odio online
El fenómeno de la normalización del discurso de odio es sin duda

uno de los más recurrentes a lo largo del estudio etnográfico entre los
jóvenes, así como el de más peso en las experiencias de los profesio-
nales. En los jóvenes se evidencia una tendencia a normalizar los
mensajes racistas y xenófobos de Internet, sobre todo en las comuni-
caciones cotidianas vía redes sociales. Los relatos de muchos de ellos
reflejan una permisividad generalizada, una actitud laissez-faire de
indiferencia, que minimiza el impacto del discurso de odio:
Lo que me dicen a mí no me resulta tan ofensivo como a los demás...

Si me gusta alguna página, la sigo sin considerar los comentarios o lo
que sea [hombre, 23 años, Reino Unido, UK-YP12].
Algunos jóvenes tratan los comentarios de odio de forma banal,

como ocurrencias atrevidas: «Me divierto con muchos de ellos. Me
hacen reír; los veo como chistes» [hombre, 22 años, Reino Unido,
UK-YP7]; o vinculan el discurso de odio con la libertad de expre-
sión: «No puedes hacer nada y después de todo es su opinión» [mu-
jer, 17 años, Rumanía, RO-YP5]. Si bien esta es una percepción relati-
vamente común entre las entrevistas de los usuarios bystanders,
resulta contraria a las experiencias y percepciones de los que han sido
víctimas del discurso de odio. De hecho, algunos de los jóvenes di-
rectamente afectados admiten haber sufrido mucho, como en el caso
de esta mujer joven en España, acosada en Internet por su origen
colombiano:
Tenía miedo e incluso tuve que ver a un médico porque todo lo que
estaba leyendo me estaba volviendo loca. No hice ningún comentario,
pero como no respondí, al mismo tiempo, en cierto modo me dañé a
mí misma porque no expresé mis sentimientos [mujer, 23 años, Espa-
ña, ES-YP6].
En este sentido, tal y como Gelber y McNamara afirman, «sen-

tirse herido y molesto no llega a ser motivo de intervención legal, y
muchos sostienen que no debería llegar a serlo. Sin embargo, este
dolor se puede experimentar de forma muy profunda, como una
especie de dolor existencial» (2015: 10). Asimismo, debemos tener en
cuenta que los daños pueden ser duraderos y es probable que se ex-
perimenten de forma acumulativa. No obstante, también hay evi-
dencia de una normalización de los mensajes de odio online entre los
que pertenecen a los grupos objetivo, hasta el punto de considerarlos
algo inevitable. Esto parece ser especialmente cierto en el caso de la
islamofobia. Muchos jóvenes musulmanes relatan encuentros dia-
rios con la islamofobia online, de modo que esta pasa a formar parte
de su vida cotidiana, y expresan que «hay que lidiar con ello» [hom-
bre, 20 años, España, ES-YP14]. En otros casos, los jóvenes pertene-
cientes a los grupos objetivo no reconocen que el discurso de odio
vaya dirigido hacia ellos, o hasta han dejado de identificarse como
parte del grupo objetivo, como se ilustra en la siguiente cita de una
chica italiana, con raíces en Marruecos:
Hoy no quiero ser, no quiero considerarme musulmana, no quiero

considerarme marroquí [...]. Así que, francamente, cuando escucho
esas cosas, realmente no puedo relacionarme con la categoría social a la
que se dirigen [mujer, 21 años, Italia, IT-YP8].
Si bien la experiencia y postura que describe la cita anterior es

marcadamente extrema, aunque real, concuerda con la observación
de Gelber y McNamara (2015: 12) de que «el discurso de odio po-
dría dar lugar a que los miembros de una comunidad restrinjan su
capacidad de identificarse con su origen étnico o religión». Estas
experiencias personales del discurso de odio, que pueden conducir
a la abstención parcial o total de expresar la identidad religiosa o
cultural, muy rara vez se comentan en el debate académico o pú-
blico.
Las reacciones y actitudes de los jóvenes usuarios de las redes

sociales se reflejan en sus diferentes respuestas a mensajes ofensivos,
que se pueden dividir en cuatro grandes categorías. La primera, ma-
yoritaria, se define como una actitud de pasividad, a menudo rela-
cionada con un laissez-faire hacia las expresiones de odio en Internet.
Algunos jóvenes relatan ser testigos de los mensajes de odio en las
redes sociales, pero su postura es la de pasar de largo sin pensarlo
mucho: «Solo traté de no mirarlo, solo hice una ojeada rápida a la
página» [hombre, 17 años, Reino Unido. UK-YP12]. Por otro lado,
la gran mayoría, a pesar de estar en contra de las opiniones expresa-
das, se abstienen de intervenir, ya que consideran que es inútil, a
menudo porque previamente han participado en discusiones que
incitan al odio, o han informado a los administradores de las redes
sociales sin obtener ningún resultado. Algunos de los jóvenes han
expresado temor a las reacciones de los demás y miedo a verse invo-
lucrados en un conflicto si se implican activamente:
A veces me siento molesto porque no es justo y siento que necesito in-

tervenir, pero tengo miedo de otras reacciones y que se me perciba como
una persona problemática [hombre, 17 años, Rumanía, RO-YP28].
A menudo esta reacción al discurso de odio se fundamenta en

una experiencia negativa, ya sea personal o de alguien cercano. Algu-
nos de los ataques de discurso de odio sobrevienen como respuesta a
una reacción contra expresiones racistas o islamófobas. Un joven
francés comparte su experiencia:
Hace poco vi el perfil de una chica que escribió que quería conocer a
mucha gente, pero dijo que no quería árabes, ni negros, ni gente de
fuera, solo la gente de su país [...]. Cuando lo leí me dolió el corazón y
le dije «tú también deberías irte porque nadie te quiere tampoco». Ella
respondió «vete a tu país, negro de mierda» [hombre, 20 años, España,
ES-YP1].
Este tipo de reacciones son frecuentes en los relatos de los jóve-

nes entrevistados, lo que muestra que, con frecuencia, una postura
activa contra el discurso de odio alimenta más comentarios que inci-
tan a más odio. Esto ha llevado a algunos jóvenes a mantenerse pasi-
vos frente a comentarios hostiles, como veremos más adelante.
En línea con la cita anterior y en relación con las respuestas pasi-
vas, tal como argumentan Caltabiano y Torre (2013: 32), en contex-
tos como el de Internet los espectadores pueden tener un papel más
«voyerista» y ser pasivos porque esperan que intervenga otra persona.
De hecho, el impacto de estos outsiders pasivos en una agresión ci-
bernética puede llegar a ser incluso peor que en la «vida real», ya que
en un momento dado puede haber un gran número de espectadores
que ven el contenido (Macháčková et al., 2015), pero sin que exista
ninguna intervención por parte de terceros, ni ningún apoyo a las
víctimas. Por otro lado, los perpetradores del discurso de odio cuen-
tan con estos internautas pasivos, pues saben que no reaccionarán y
que son un numeroso «público» para sus discursos.
Una segunda categoría de respuesta es la de unfriending (dejar
de ser amigo) o bloqueo de los usuarios, o el unliking (dejar de se-
guir) a grupos o páginas donde se comparten comentarios ofensivos:
«La mayoría de las veces, cuando alguien está diciendo algo malo aca-
bo bloqueando a la persona» [mujer, 16 años, Reino Unido, UK-YP1].
Aunque este tipo de reacciones no está tan extendido entre los jóve-
nes, sí que es común creer que «dejar de seguir» o el bloqueo de
usuarios es más eficiente que la denuncia de contenidos a los admi-
nistradores de las redes sociales. Sin embargo, esta forma de respues-
ta deja el contenido todavía visible en la red y por tanto accesible a
otras personas, que lo pueden leer e incluso difundir. En otras pala-
bras, si no se denuncia el contenido a los proveedores de las redes
sociales, en cierta medida no deja de ser una respuesta pasiva.
Una tercera manera relativamente conocida de responder al dis-
curso de odio, si bien no tan utilizada, es denunciarlo a las platafor-
mas de las redes sociales a través de los mecanismos que estas dispo-
nen a tal efecto. La mayoría de los jóvenes conocen la posibilidad de

denunciar páginas, mensajes o comentarios en Facebook; pero, a
pesar de ello, por lo general tienden a no hacer uso de este recurso
cuando se encuentran con expresiones de odio en las redes sociales.
La razón que suelen esgrimir es que lo perciben como inútil, ya que
creen que no se tomarán acciones por parte de estas plataformas.
De todos modos, el estudio muestra que algunos jóvenes siguen
intentando denunciar a través de las propias plataformas. En este
sentido aparecen algunas diferencias interesantes entre países. Entre
los jóvenes italianos y rumanos, casi ningún joven expresó haber
denunciado contenidos racistas en las redes sociales, mientras que en
Francia cerca de la mitad de los entrevistados ha utilizado esta herra-
mienta. En el caso de España, la mayoría lo ha hecho en alguna
ocasión, pero se ha desanimado debido a la falta de acción por parte
de los administradores, y aproximadamente la mitad ha dejado de
hacerlo.
En cuanto al caso concreto de las denuncias en la plataforma
Facebook —la plataforma mayoritaria—, gran parte de los jóvenes
entrevistados afirman haber presentado alguna denuncia, pero de-
claran que esta plataforma no adoptó ninguna medida tras el infor-
me, más allá de enviar un mensaje en el que indicaba que el conte-
nido denunciado de hecho «no vulnera las normas de la comunidad»,
lo cual se percibe como muy preocupante. En este sentido, el ensayo
sobre Facebook llevado a cabo durante la investigación, y presentado
anteriormente, corrobora la opinión de los jóvenes sobre la inutili-
dad de los mecanismos de denuncia de las propias plataformas socia-
les. Como ya hemos advertido, esta falta de consecuencias contribu-
ye directamente a la tendencia a no denunciar contenido, tal y como
se ilustra en la siguiente cita de una mujer joven italiana:
El método de denuncia es claro. Sin embargo, parece una broma, por-

que si me dices «puedes denunciarlo», pero al final no hay consecuen-
cias, dejo de hacerlo [mujer, 21 años, Italia, IT-YP8].
Como se expresa en la cita anterior, y se hace evidente a lo largo

del estudio etnográfico, la pasividad de los administradores de las
redes sociales refuerza la permisividad de los jóvenes, ya que incluso
quienes tienen posiciones más activas perciben que la falta de reac-
ción vuelve inútil toda presentación de denuncias. Por otro lado,
muchos jóvenes reconocen también que denuncian solo cuando se
sienten atacados o intimidados ellos mismos o amigos suyos:
He denunciado fotos porque todos mis amigos son africanos y de la

India... Me pareció ofensivo porque las fotos se dirigen a estas personas
y les hacen sentir que no pertenecen aquí cuando tienen el derecho
a estar aquí [hombre, 16 años, Reino Unido, UK-YP16].
Estas denuncias por parte de amigos o simpatizantes de los gru-

pos atacados denotan la importancia que llega a tener la capaci-
dad de empatía con las víctimas del discurso de odio. Como señalan
Macháčková et al. (2015), el grado de proximidad entre el espectador
y el grupo objetivo o víctima influye en gran medida a la hora de
adoptar una respuesta u otra respecto al acoso cibernético.
Otra respuesta frente al discurso de odio, menos común en las
entrevistas, consiste en el «contradiscurso», es decir, la opción de
participar en la discusión para contrarrestar los argumentos de odio
e introducir otros puntos de vista. Algunos de los que se involucran en
discusiones consideran que tener la mente abierta, escuchar atenta-
mente los argumentos de los demás y responder con suavidad puede
dar lugar a un debate fructífero. Como alternativa a participar acti-
vamente en la discusión, algunos jóvenes explican que eligen solo
expresar un «me gusta» a los comentarios de los demás, como una
forma de apoyo sin perder tiempo ni involucrarse demasiado. Sin
embargo, la mayoría de los jóvenes tienden a no intervenir en discu-
siones que incitan al odio en las redes sociales porque, cuando han
tratado de participar en una de ellas, han recibido una reacción vio-
lenta, ya sea de la persona que ha hecho la publicación o de otros
usuarios. Además, los usuarios declaran que dichas discusiones a me-

nudo responden tan solo a una fabricación fútil para llamar la aten-
ción en la red:
Como ves que están siempre allí discutiendo, llega un momento que
dices: ¿hasta qué punto estas personas lo hacen solo para llamar la
atención? [...]. Así que antes solía intervenir cada vez que algo me mo-
lestaba, pero ahora lo hago menos, trato de no hacerlo, creo que no
comento mucho ahora [hombre, 29 años, España, ES-YP9].
Del mismo modo, una gran mayoría de jóvenes perciben que las
discusiones en Internet son fácilmente inflamables y prefieren discu-
tir cara a cara, fuera de las redes sociales, si los comentarios los ha
hecho algún conocido. Asimismo, hay otros que renuncian a discu-
tir con la gente, aunque la conozcan, porque lo consideran inútil, tal
y como ilustra una mujer que ha dejado de intentar razonar con
personas que hacen comentarios racistas en las redes sociales:
Mi posición es: no voy a hablar con ellos porque tenemos diferentes

formas de pensar y ellos se posicionan de su lado y yo del mío, y no hay
diálogo real [mujer, 30 años, España, ES-YP10].
Por último, cabe destacar que ninguno de los jóvenes entrevista-

dos, en ningún país donde se llevó a cabo el trabajo de campo, ha
denunciado directamente a la policía o a los representantes legales
una expresión de odio manifestada en Internet. Este hecho evidencia
su escasa conciencia de las obligaciones, posibilidades y herramien-
tas legales existentes para presentar una denuncia ante un organismo
competente (policía, ONG, fiscalía...). Algunos de ellos han mos-
trado conocer la posibilidad de denunciar el discurso de odio a la
policía, pero no siempre confían en ella, o bien creen que lo que
han experimentado o presenciado no es lo suficientemente preocu-
pante:
Nunca he visto nada lo suficientemente grave o... bueno, ha sido gra-

ve, pero no lo suficiente como para llamar a la policía [...]. Quiero
decir que no tengo mucha confianza en la policía [mujer, 27 años,
España, ES-YP12].
Por otro lado, otros mecanismos de denuncia, tales como los im-
plementados por algunas ONG, resultan muy poco conocidos entre
los entrevistados, que tienden a pensar que las denuncias deben pre-
sentarse directamente a la policía. Solo una víctima directa (una jo-
ven mujer latina en España) ha denunciado ataques directos ante
una ONG antirracista, con lo que logró que se eliminara el conteni-
do de odio de una página web.
A modo de conclusión, cabe decir que los relatos recogidos en
la investigación muestran que el contacto con discursos de odio en
las redes sociales es muy común, si bien las respuestas a tal experien-
cia varían enormemente. Aun cuando se trata de una situación ha-
bitual para los jóvenes, aspectos como recordar las frases exactas de
odio utilizadas resultan más usuales entre los grupos objetivo o las
víctimas directas, mientras que los espectadores tienden a recordar
solo a quién estaban dirigidas o el contexto. Los grupos que, según
los usuarios, reciben más ataques suelen coincidir con los colectivos
de referencia de cada país que más sufren xenofobia y racismo. Esto
indica cierto nivel de conciencia y conocimiento entre los jóvenes
de la existencia de este problema, además de reforzar la premisa de
que los discursos de odio online y offline están directamente rela-
cionados. Sin embargo, hay poca familiarización con dicho discur-
so como concepto y en los términos jurídicos, institucionales o aca-
démicos con que se define. A pesar de esta conciencia del racismo
y la xenofobia, y de su rechazo generalizado, los jóvenes internau-
tas tienden a percibir los mensajes de odio y los comentarios ofen-
sivos como un fenómeno normalizado y una parte inevitable de
Internet:
Son redes sociales, la gente no se conoce. Así que van más allá porque
se sienten seguros, porque es Internet y sabes que puedes ser quien tú
quieras ser [mujer, 19 años, Reino Unido, UK-YP4].
Actitudes como la mostrada por la joven de la cita anterior, y

mayoritaria en el estudio etnográfico, revelan una percepción del
discurso de odio en Internet no solo normalizada sino saturada de
pasividad. La gravedad de esta normalización se evidencia aún más
si se tiene en cuenta que conlleva un fenómeno virtual de legitima-
ción de prejuicios, estigmas, deshumanización y difamación, con lo
que se crea una espiral de silencio frente al odio.
Combatir el discurso de odio
Los inmigrantes mismos han asumido el papel
de «bueno, eso es lo que me corresponde por
ser inmigrante; no le voy a dar mucha impor-
tancia y voy a seguir con mi vida», y aquí tene-
mos que educar a todos a no aguantar este tipo
de situación.
Quizás la conclusión más reiterada a lo largo del estudio apunta a

que la lucha contra el discurso de odio debe involucrar a toda la so-
ciedad, a todos los niveles y desde todas las perspectivas, por distin-
tas que estas sean. En este capítulo resaltamos algunos de los aspec-
tos que, de acuerdo con las experiencias tanto de los profesionales
como de los jóvenes usuarios, aparecen como clave para combatir el
discurso de odio en Internet.
En el contexto de la Europa contemporánea, las sociedades de-
mocráticas establecen manifiestamente que el discurso de incitación
al odio no queda en lugar alguno amparado por la libertad de expre-
sión (nos referimos aquí no solo al manifestado en Internet, sino en
cualquier otro ámbito). Este es un debate recurrente que a menudo
divide a muchos de los actores que intervienen en él, ya sean profesio-
nales de los medios de comunicación, representantes de las organiza-
ciones sociales o profesionales encargados de la aplicación de la ley y
la administración de justicia. Con mucha frecuencia, ante una mis-
ma manifestación de odio, unos entienden que se ha cometido un
delito y otros que simplemente se ha ejercido el derecho a la liber-
tad de expresión. Es de esperar que haya casos en los que los hechos
están en el linde entre una cosa y la otra y, por tanto, sea difícil dis-
cernir si hay delito o no lo hay; pero lo que no es aceptable es que
 Representante de una ONG, España, ES-P3.

aquellos hechos que encajan plenamente dentro de lo que legalmen-

te se define como incitación al odio sean interpretados por algunos
como actos amparados por el derecho a la libertad de expresión.
En este libro se ha expuesto que el discurso de incitación al odio
es delito porque estigmatiza, intimida e individualiza a todo un gru-
po social (no solo a las personas concretas a las que se insulta o ame-
naza), lo que contribuye a la marginación social de ese grupo y, en
consecuencia, a la pérdida real de su capacidad para el ejercicio de sus
derechos. Las personas que pertenecen a un colectivo que está siendo
víctima de mensajes de odio se sienten agredidas y tienden a reforzar
su pertenencia al grupo, al tiempo que disminuye su sentimiento de
pertenencia al conjunto de la sociedad. De esta forma, el discurso
de odio genera una polarización creciente entre quienes están «den-
tro» y quienes están «fuera». Se trata de un proceso de dominación y
subordinación mediante la construcción de desigualdades estratifica-
das que conducen a la exclusión y que, por tanto, nos afectan a todos.
El daño que se hace a las víctimas es duradero y, por tanto, tam-
bién lo es su efecto en nuestra sociedad. La mayoría de las víctimas
no perciben el insulto o menosprecio como algo pasajero, puesto
que la razón de tal agresión es algún rasgo que ellas consideran per-
manente (su religión, su color de piel, etc.) y, en consecuencia, se les
hace sentir que las insultarán y menospreciarán de por vida. Es, ade-
más, como se ha explicado, un daño acumulativo, ya que cada nuevo
insulto o menosprecio que reciban reforzará su sensación de estar con-
denadas para siempre a ese tipo de actos.
Para las personas pertenecientes al grupo social mayoritario (blan-
cos, autóctonos, no musulmanes, etc.), la reiterada observación de
mensajes de odio hacia otros grupos reafirma la idea de pertenencia
al grupo dominante, lo que también puede conducir a que colabo-
ren en la segregación de los demás. Asimismo, ayuda a que se extien-
da la idea de que existe una cierta licencia para atacar a los grupos
segregados, lo que favorece una mayor predisposición a perpetrar
actos, incluso violentos, contra esos grupos.
Combatir el discurso de odio 95
Todas estas razones indujeron a las sociedades democráticas a

considerar que el discurso de odio no está amparado por la libertad
de expresión y a tipificarlo como delito. No fue fácil incluir la inci-
tación al odio en el código penal, pero se hizo y, por tanto, no se
debe desaprovechar esa capacidad legal de la que disponemos para
combatir el discurso de odio. Denunciarlo siempre que se sufra o se
observe es una obligación democrática que tenemos todos.
Educación y sensibilización
La gran mayoría de los expertos se refieren a las campañas públicas

de sensibilización y a la formación como algo crucial para aumentar
las denuncias de mensajes de odio en Internet. La educación y la
sensibilización son herramientas fundamentales como punto de par-
tida. Los grupos objetivo deben ser conscientes de que los discursos
de odio se pueden y se deben denunciar, y para ello necesitan moti-
vación y referentes. Por otro lado, los usuarios de Internet necesitan
aprender que sus publicaciones no solo tienen efectos tanto en los
grupos objetivo como en el clima social en general, sino que pueden
constituir un delito perseguido por el código penal.
La falta de familiaridad con el tema por parte de muchos jóvenes
también demuestra la necesidad de sensibilización sobre estas cues-
tiones en todos los países y desde edades tempranas. Cuando pre-
guntamos directamente qué se debe hacer, los propios jóvenes suelen
pedir más educación y concienciación, por ejemplo, talleres sobre el
discurso de odio en línea, más educación de los medios sobre cómo
usar la información y las nuevas tecnologías de manera responsable,
además de actividades informales que promuevan los derechos hu-
manos y la lucha contra la discriminación de manera más general,
tanto en las escuelas como en otros entornos.
Para lograrlo, se necesita una mayor asignación de recursos pú-
blicos destinados a las campañas de sensibilización e información.
Estas campañas deben llevarse a cabo utilizando los medios de co-

municación modernos, es decir, los que están disponibles en Inter-
net, con el fin de llegar más directamente a las víctimas y a los per-
petradores de odio.
Otra observación reiterada se refiere a la necesidad de dedicar
esfuerzos y recursos específicos en el ámbito de Internet, utilizando
artículos positivos y ejemplos de interacciones online positivas para
ayudar a la sensibilización:
Creo que la gente tiene que mostrar las cosas positivas. La gente ne-
cesita saber los hechos. Hay mitos y hay hechos. Tenemos que ex-
ponerlo y diferenciarlo [representante de una ONG, Reino Unido,
UK-P2].
Además, son fundamentales las herramientas y la información

para combatir el discurso de odio a través del contradiscurso, es decir,
mediante mensajes que contrarrestan el odio: «Tenemos que desa-
rrollar un discurso que combata el odio [...]. No hay que ir necesaria-
mente a la policía y pedir acciones. Puedes hacerlo en Internet y
combatirlo en Internet» [representante de una ONG, Reino Unido,
UK-P1].
Líderes de opinión y profesionales de los medios
En la mayoría de los países se han dado casos de políticos y represen-

tantes públicos que contribuyen a la estigmatización de ciertos gru-
pos a través de expresiones de odio, tanto online como offline. Dada
su posición y capacidad de influencia, es esencial que estos represen-
tantes se abstengan en sus declaraciones públicas de hacer discursos
racistas que promueven estereotipos y prejuicios. En este sentido, los
profesionales de los medios de comunicación también deberían recibir
más formación sobre cómo tratar estos temas de un modo responsa-
ble, y ser más conscientes de que, de no hacerlo así, contribuyen a la

estigmatización de determinados colectivos mediante titulares sensa-
cionalistas y poco objetivos.
Como vimos, buena parte de los mensajes de odio que se trans-
miten en Internet aparecen en los comentarios a las noticias o entra-
das de la prensa ordinaria, lo que implica que los periodistas o res-
ponsables de esos medios digitales tienen un papel importante que
desempeñar en este terreno. Desde el punto de vista de algunos
periodistas, se recomienda fortalecer la moderación de los comen-
tarios, pero también apoyar la autorregulación por parte de los usua-
rios:
Sí, necesitamos organismos reguladores, pero me parece que la respon-

sabilidad de los medios de comunicación formales (y creo que es una
prioridad) es provocar un debate constructivo y abstenerse de la tenta-
ción de conseguir repercusión, y querer ser el centro de atención, para
generar clics basados en el odio [...]. Autorregulación es la respuesta.
Debería haber moderadores en las discusiones. Debería haber un bo-
tón de «alerta». Y la gente debería estar regulando también. Debería
haber alguien que arbitrara una conversación para detener el discurso
de odio y controlar los comentarios más dañinos [periodista, Francia,
FR-P2].
En este sentido, aquí nos referimos tanto a la necesidad de sensi-

bilización y promoción del contradiscurso, como de la importancia
de disponer de herramientas sencillas y transparentes para poder infor-
mar de las expresiones de odio directamente en los foros de discusión.
Medidas legales y cuerpos de seguridad
Los resultados empíricos de la investigación subrayan también la

necesidad de que los Estados se tomen más en serio el discurso de
odio en Internet, como un delito que puede provocar daños tanto
individuales como colectivos, y que por tanto debe tener consecuen-

cias legales. Esto requiere invertir más recursos en los cuerpos de
seguridad para hacer frente a este tipo de delitos, por ejemplo, me-
diante la creación de unidades de policía especiales que rastreen los
casos de incitación al odio en Internet.
Como hemos visto, también se señala la necesidad de una mayor
colaboración entre los organismos encargados de hacer cumplir la
ley y las organizaciones de la sociedad civil. Esto tiene una doble fi-
nalidad: ayudar a la policía a identificar casos de incitación al odio y
que las organizaciones sean conscientes de todos los instrumentos
legales de denuncia con los que pueden contar y los promuevan para
aumentar el número de casos denunciados. Como hemos visto, la
policía también reconoce que aún se necesita más conciencia y sen-
sibilidad en estos temas dentro de las propias agencias policiales para
despertar confianza en la comunidad, un objetivo que normalmente
es más fácil de alcanzar en las policías pequeñas y locales. También se
indica que una mayor diversidad dentro de la policía contribuirá sin
duda a este respecto. En general, la policía necesitaría muchos más
recursos para conseguir más concienciación del público en general.
De hecho, cuando la policía catalana desarrolló el protocolo sobre
los Delitos de Odio y Discriminación, también estableció una direc-
ción de correo electrónico para recibir informes anónimos sobre ellos;
sin embargo, esto no se ha utilizado ya que carecen de recursos para
difundir su existencia. A este respecto, la Policía Metropolitana de
Londres se destaca como un buen ejemplo por utilizar alfileres, bo-
lígrafos y folletos para difundir información, por ejemplo, sobre cómo
presentar una denuncia
En lo que se refiere al ámbito legal, la complejidad de la cuestión
requiere una estrategia de intervención no limitada a las fronteras
nacionales, sino con alcance europeo e internacional. En este senti-
do, es crucial armonizar las diversas legislaciones de Europa y fo-
mentar una mayor colaboración legislativa y judicial internacional o,
por lo menos, europea, como se indica en el Protocolo Adicional a la
Convención del Consejo de Europa sobre el Delito Cibernético.

Asimismo, se exige una mejor colaboración con los gestores y pro-
veedores de las redes sociales.
Comunidades online y plataformas de redes sociales
En cuanto a las actitudes y posturas de las plataformas de redes so-

ciales, existe una percepción de que sus proveedores no se toman
suficientemente en serio el tema del discurso de odio, y que no ac-
túan para asegurarse de que los usuarios cumplan las normas de la
comunidad. Como se ha expuesto anteriormente, la falta de reac-
ción por parte de Facebook tiene consecuencias ya que, entre otras,
contribuye a una actitud de laissez-faire entre los jóvenes, de modo
que dejan de denunciar contenido de odio al ver que no hay una
respuesta válida. De modo que, para abordar de verdad el problema
del discurso de odio en Internet, los proveedores de redes sociales
tienen que asumir mayor responsabilidad. Como hemos visto, ya se
ha dado un primer paso en este sentido mediante el Código de con-
ducta firmado por las principales empresas TI, aunque las conse-
cuencias y aplicaciones están aún por ver.
Al mismo tiempo, otra cuestión clave sería conseguir por parte de
los proveedores una mayor transparencia en los mecanismos de denun-
cia de las redes sociales, es decir, ¿cómo se realiza la moderación?,
¿cuántas denuncias reciben y cuántas conducen a alguna acción? Tam-
bién resultaría muy valioso tener estadísticas sobre algunos aspectos,
por ejemplo, en qué casos están recibiendo más denuncias.
 En inglés, «Additional Protocol to the Convention on Cybercrime, concerning the

criminalisation of acts of a racist and xenophobic nature committed through computer
systems». Disponible en: https://rm.coe.int/CoERMPublicCommonSearchServices/Display
DCTMContent?documentId=090000168008160f.
Por otra parte, como ya se ha dicho, también los juristas y cuer-

pos de seguridad requieren más colaboración de los proveedores de
redes sociales, con el fin de obtener información para la investiga-
ción y el enjuiciamiento de los casos. Los acuerdos entre las redes
sociales y las ONG o plataformas de denuncia podrían ser una for-
ma de sensibilizar a los proveedores de aquellas, aumentar su sentido
de responsabilidad, y mejorar y hacer más transparentes sus meca-
nismos de denuncia.
Hay que destacar que todos los profesionales consideran que el
discurso de odio online constituye un problema importante y cre-
ciente. Sin embargo, en la mayoría de los casos reconocen carecer de
los recursos suficientes para combatirlo. La colaboración entre las
organizaciones de la sociedad civil y las fuerzas de seguridad y las fis-
calías destaca como herramienta clave para crear más confianza, di-
fundir información sobre las herramientas existentes de denuncia e
incrementar el número de casos denunciados.
Por otro lado, para prevenir el uso de expresiones de odio online
es de vital importancia la educación y la concienciación, tanto entre
el público en general como entre las posibles víctimas. Las campañas
de sensibilización también podrían contribuir a incrementar la
autorregulación del discurso de odio, el uso del contradiscurso y las
denuncias, ya sea a través de la policía, de las ONG o mediante los
propios mecanismos de las redes sociales. No obstante, estos meca-
nismos deberían ser más eficaces y transparentes, para que los usua-
rios se sientan escuchados y los proveedores muestren que se toman en
serio sus denuncias y la gravedad de la incitación al odio en general.
Observaciones finales
Las desigualdades van en aumento en toda Europa, y ello afecta di-

rectamente a los jóvenes en todos los países, en particular a aquellos
vinculados a grupos sociales más vulnerables. La difícil situación
económica, social y política actual ha constituido un estímulo ideal
para la creación y exacerbación de tensiones entre los distintos gru-
pos sociales, muchas de las cuales se refuerzan y transmiten a través
del discurso de odio. A esto se suma un crecimiento del racismo en
toda Europa, que se evidencia de muchas maneras, así como la ac-
ción de grupos extremistas que se aprovechan del poder de influen-
cia de las redes sociales para captar la atención y ganar más adeptos.
La instantaneidad con la que se comparten mensajes en Internet,
junto con la actitud —hasta ahora— de laissez-faire de los proveedo-
res de redes sociales, hace que el fenómeno del discurso de odio online
sea un problema difícil de regular y de abordar. Las redes sociales
continúan ofreciendo un espacio para que los grupos de extrema
derecha y sus seguidores siembren odio contra determinados colec-
tivos. En este contexto, las expresiones racistas y homófobas llegan a
un público amplio y el discurso de odio se extiende rápidamente
online, hasta el punto de que muchos usuarios de Internet hacen
cada vez más públicas sus opiniones racistas sin ver la necesidad de
utilizar perfiles anónimos. Esto no solo refleja un patrón de conduc-
ta individual, sino que también denota cómo el discurso de odio es
cada vez más un fenómeno aceptado por una amplia mayoría como
algo normalizado.
Los resultados empíricos que se exponen y analizan en este libro
muestran que las palabras pueden ser armas muy poderosas que, si se
utilizan dentro de un marco sesgado, contribuyen a marginar y de-

gradar a los grupos sociales más vulnerables y, por ende, a degradar
a toda nuestra sociedad. Para comprender y abordar la incitación al
odio en Internet, hay que reconocer que dicha incitación no se pro-
duce como algo separado del «mundo real» o menos nocivo que la
que pueda darse en este, sino más bien como un continuo entre el
mundo online y el offline. Los espacios web deben considerarse una
parte más de la vida social, ya que forman parte de un proceso circu-
lar de interacción mutua. En un contexto cultural y social en el que
el sentimiento de intolerancia es común, las expresiones de odio se
reflejan en Internet y viceversa. El discurso racista y xenófobo online
es una ilustración de un fenómeno más amplio que tiene lugar en el
debate político y público: un racismo estructural que se ha generali-
zado en la vida pública cotidiana a través de diversas formas y canales,
entre ellos las páginas web y las redes sociales. En el contexto euro-
peo actual, el grupo que más sufre de este clima social es la comuni-
dad musulmana, víctima de un aumento del discurso de odio parti-
cularmente en Internet, con picos después de los llamados «eventos
detonantes».
Si bien es muy importante mantener un debate teórico abierto
sobre el discurso de odio, en el que se incorporen las tensiones entre
el derecho a la libertad de expresión y el derecho a no ser discrimina-
do, esta investigación subraya la relevancia de tener en cuenta las
experiencias de las personas que hay detrás de las pantallas. Esto nos
permite llegar a una comprensión más profunda —y real— de las
actitudes, comportamientos, reacciones y respuestas a las expresio-
nes de odio en Internet, sobre todo desde la perspectiva de los jóvenes
usuarios de las redes sociales, pero también desde la de los profesio-
nales que trabajan en ámbitos relacionados con la lucha contra el odio.
Mediante este enfoque etnográfico hemos podido conocer y exa-
minar la complejidad de las experiencias de los jóvenes que entran
en contacto regular con los discursos discriminatorios y racistas en
las redes sociales y otros foros en Internet. Un análisis que ha mos-
Observaciones finales 103
trado que la experiencia de encontrarse con el discurso de odio en las

redes sociales es tremendamente común, si bien las respuestas entre
los jóvenes internautas varían considerablemente. De forma preocu-
pante, muchos usuarios de redes sociales, tanto víctimas o personas
que pertenecen a los grupos objetivo como bystanders, han normali-
zado los mensajes de odio y a menudo muestran una actitud pasiva
o de laissez-faire. Esta actitud, a su vez, parece estar alimentada por
la falta de credibilidad de los mecanismos de denuncia de las redes
sociales, ya que la razón mayoritaria de los jóvenes para no denun-
ciar contenidos de odio es que lo perciben como inútil por la falta de
actuación por parte de los proveedores. Sin embargo, a pesar de la
normalización, también hemos visto que muchos de los jóvenes afecta-
dos de forma directa sufren profundamente al ser el blanco de las
expresiones de odio publicadas en las redes sociales, y que algunos
hasta renuncian a parte de su identidad (por ejemplo, religiosa) por
culpa de las repetidas olas de odio online.
Por otro lado, debemos tener en cuenta que la difusión de men-
sajes de odio es un fenómeno dinámico que se reproduce en Internet
y que requiere respuestas efectivas y acciones conjuntas de múltiples
organismos comprometidos con la lucha contra el racismo. En este
sentido, la colaboración, especialmente entre la policía y la sociedad
civil, es un aspecto esencial para cumplir con el objetivo de aumen-
tar el número de casos denunciados, ya que las víctimas de los colec-
tivos vulnerables tienden a no presentar denuncias ante la policía,
sino más bien ante las ONG. También hemos visto que la alianza
entre las plataformas de redes sociales y la sociedad civil podría ser
clave en la lucha contra los contenidos de odio online. Desgraciada-
mente, a pesar de que los profesionales que trabajan en áreas relacio-
nadas con el racismo y la xenofobia son cada vez más conscientes de
la creciente emisión de mensajes de odio en Internet, la mayoría de las
organizaciones sufren de una considerable falta de recursos para abor-
dar este problema, o incluso para difundir información sobre las
herramientas disponibles para denunciarlo.
Asimismo resulta evidente que la educación y la sensibilización

son fundamentales para generar más conciencia en la sociedad en
general respecto a que no todos los mensajes difundidos en Internet
son aceptables y justificables en nombre de la libertad de expresión.
Los usuarios de redes sociales necesitan conocer mejor las conse-
cuencias del discurso de odio, con el fin de que se expresen de un
modo más responsable. Una mayor participación de los usuarios en
las denuncias a través de los mecanismos online es una manera de
controlar continuamente el contenido de los espacios digitales. Sin
embargo, esto solo es posible si los administradores de redes sociales
aplican medidas más estrictas en las respuestas a las denuncias, y
hacen más transparente todo este proceso.
Por último, cabe mencionar que resulta de vital importancia que
el análisis del discurso de odio contemple un enfoque centrado en las
víctimas, a fin de recoger sus experiencias y sus puntos de vista. Para
ello, se requiere más investigación cualitativa sobre sus efectos en los
grupos objetivo, así como sobre los autores del discurso de odio, te-
niendo en cuenta no solo las posturas de grupos extremistas, sino
también las de los usuarios de Internet comunes que no expresan sus
opiniones ofensivas en los encuentros cara a cara, pero sí lo hacen
detrás de las pantallas. Aun siendo conscientes de las limitaciones y
dificultades metodológicas de este tipo de investigación, cuando
muchos perfiles que difunden odio son anónimos, es crucial llevar a
cabo estudios centrados en las motivaciones que llevan a expresar
mensajes de odio en la red, para poder abordar este grave problema
de forma exhaustiva e íntegra.
Bibliografía
Andrisani, P. (2014). «Il perverso intreccio tra odio virtuale e odio “vi-
rale”». En Cronache di ordinario razzismo. Terzo Libro bianco sul razzis-
mo in Italia. Disponible en: www.lunaria.org/wp-content/uploads/2014/
10/impaginato-low.pdf.
Anti-Defamation League (2010). Responding to cyberhate. Toolkit for ac-
tion. Disponible en: www.adl.org/assets/pdf/combating-hate/ADL-
Responding-to-Cyberhate-Toolkit.pdf.
Awan, I. (2014). «Islamophobia and Twitter: A typology of online hate
against Muslims on social media», Policy and Internet, 6(2): 133-150.
Back, L. (2002). «Aryans reading Adorno: Cyber-culture and twenty-first
century racism». Ethnic and Racial Studies, 25(4): 628-651.
Bajt, V. (2014). «Contemporary racism across Europe», Freedom From Fear
Magazine, 9: 36-39.
Bauman, Z. (2007). Liquid times: Living in an age of uncertainty. Cam-
bridge: Polity.
Bonilla-Silva, E. (1999). «The new racism: Racial structure in the United
States, 1960s–1990s». En P. Wong (ed.), Race, ethnicity and nationality
in the United States, pp. 55-71. Oxford: Westview.
Bonilla-Silva, E. y Forman, T. A. (2000). «I am not a racist but... : Map-
ping white college students racial ideology in the USA», Discourse and
Society, 11 (1): 50-85.
Boyd, D. (2014). The social lives of networked teens. New Haven: Yale Uni-
versity Press.
Brown, C. (2009). «www.hate.com: White supremacist discourse on the
Internet and the construction of whiteness ideology», Howard Journal
of Communications, 20: 189-208.
Buckingham, D. (2006). «Is there a digital generation?». En D. Bucking-

ham y R. Willett (eds.), Digital generations: children, young people and
new media, pp. 1-13. Mahwah: Lawrence Erlbaum Associates.
Büttner, F. (2011). «Right-wing extremism in Spain: Between parliamen-
tary insignificance, far-right populism and racist violence». En N. Lan-
genbacher y B. Schellenberg (eds.), Is Europe on the «right» path? Right-
wing extremism and right-wing populism in Europe, pp. 181-195. Berlín:
Friedrich-Ebert-Stiftung.
Caldiron, G. (2013). Estrema destra. Chi sono oggi i nuovi fascisti? Un’in-
chiesta esclusiva e scioccante sulle organizzazioni nere in Italia e nel mon-
do. Roma: Newton Compton.
Caltabiano, N. J. y Torre, S. V. (2013). «Cyber-racism in schools». Actas
del Tercer Congreso Internacional sobre Racismo en el Nuevo Orden
Mundial del 29-31 de agosto de 2012, Cairns (Australia), pp. 30-39.
Chan, J.; Ghose, A. y Seamans, R. (2016). «The Internet and racial hate
crime: Offline spillovers from online access», MIS Quarterly, 40(2): 381-
403. Disponible en: http://dx.doi.org/10.2139/ssrn.2335637.
Cohen, S. (1972). Folk Devils and Moral Panics. Londres: MacGibbon and
Kee.
Comisión Europea (2016). La Comisión Europea y las empresas de TI anun-
cian un código de conducta en materia de incitación ilegal al odio en In-
ternet, comunicado de prensa, Bruselas, 31 de mayo de 2016. Disponi-
ble en: http://europa.eu/rapid/press-release_IP-16-1937_es.htm.
Consejo de Europa (1997). Recommendation (97)20 of the CoE, 30 de oc-
tubre de 1997. Disponible en: https://rm.coe.int/1680505d5b.
— (2012). Mapping study on projects against hate speech online. Disponible
en: https://rm.coe.int/16807023b4.
Copsey, N.; Dack, J.; Littler, M. y Feldman, M. (2013). Anti-Muslim
hate crime and the far right. Disponible en: www.tees.ac.uk/docs/
DocRepo/Research/Copsey_report3.pdf.
Daniels, J. (2008). «Race, civil rights, and hate speech in the digital era».
En A. Everett (ed.), Learning race and ethnicity: Youth and digital me-
dia. Cambridge (Massachusetts): The MIT Press.
— (2009). Cyber racism: white supremacy online and the new attack on
civil rights. Lanham: Rowman and Littlefield.
Bibliografía 107
Delgado, R. y Stefancic, J. (2014). «Hate speech in cyberspace», Wake

Forest Law Review, 49: 319-343. Disponible en: http://ssrn.com/
abstract=2517406.
Devine, F. (2002). «Qualitative methods». En D. Marsh y G. Stoker (eds.),
Theory and methods in political science. Hampshire: Palgrave Macmillan.
ECRI (European Commission against Racism and Intolerance) (2015).
Annual report on ECRI’s activities covering the period from 1 January to
31 December 2014. Disponible en: www.coe.int/t/dghl/monitoring/
ecri/activities/Annual_Reports/Annual%20report%202014.pdf.
— (2016). ECRI General Policy Recommendation no. 15 on combating hate
speech. Disponible en: www.coe.int/t/dghl/monitoring/ecri/activities/
GPR/EN/Recommendation_N15/REC-15-2016-015-ENG.pdf.
Ekman, M. (2015). «Online islamophobia and the politics of fear: manu-
facturing the green scare», Ethnic and Racial Studies, 38(11): 1986-2002.
Eurostat (2015). Being young in Europe today. Statistical handbook. Luxem-
burgo: Publications Office of the European Union.
Foxman, A. y Wolf, C. (2013). Viral hate: Containing its spread on the In-
ternet. Nueva York: Palgrave MacMillan.
FRA (European Union Agency for Fundamental Rights) (2009). EU-MIDIS.
European Union minorities and discrimination survey. Main results re-
port. Disponible en: http://fra.europa.eu/en/project/2011/eu-midis-
european-union-minorities-and-discrimination-survey.
Gagliardone, I.; Gal, D.; Alves, T. y Martínez, G. (2015). Countering
online hate speech. París: UNESCO.
Garaigordobil, M. (2015). «Cyberbullying in adolescents and youth in
the Basque Country: prevalence of cybervictims, cyberaggressors,
and cyberobservers», Journal of Youth Studies, 18(5): 569-582. DOI:
10.1080/13676261.2014.992324.
Gelber, K. y McNamara, L. (2015). «Evidencing the harms of hate speech»,
Social Identities, 22(3): 324-341.
Glaser, J.; Dixit, J. y Green, D. P. (2002). «Studying hate crime with the
Internet: what makes racists advocate racial violence?», Journal of So-
cial Issues, 58(1): 177-193.
Gómez Martín, V.; Marquina Bertrán, M.; Rosa Palacio, M.; Tama-
rit, J. P. y Aguilar García, M. A. (2015) (dirs.). Manual práctico para
la investigación y enjuiciamiento de delitos de odio y discriminación. Barce-

lona: Centre d’Estudis Jurídics i Formació Especialitzada.
Heinze, E. y Phillipson, G. (2017). Debating hate speech. Londres: Hart.
Henry, J. (2009). «Beyond free speech: novel approaches to hate on the
Internet in the United States», Information and Communications Tech-
nology Law, 18: 235-251.
Holkeri, E. (2013). «Concepts and dimensions of online hate: A literature
review». En A. Storgaard (ed.), Methodologies and methods in criminol-
ogy, Informe 55 del Seminario del Consejo Escandinavo de Investi-
gación de Criminología (NSfK), Svartå Slott, Finlandia. Aarhus:
Aarhus University.
Holmes, J. (2011). «Cyberkids or divided generations? Characterising
young people’s Internet use in the UK with generic, continuum or
typological models», New Media and Society, 13(7): 1104-1122.
Jane, E. (2014). «“Back to the kitchen, cunt”: Speaking the unspeakable
about online misogyny». Continuum: Journal of Media and Cultural
Studies, 28: 558-570.
Jubany, O. (2011). «Constructing truths in a culture of disbelief. Understand-
ing asylum screening from within», International Sociology, 26(1): 74-94.
— (2017a). Screening asylum in a culture of disbelief: Truths, denials and
skeptical borders. Londres: Palgrave Macmillan.
— (2017b). Social control and the remote realities of our everyday life. Lon-
dres: Palgrave-Macmillan.
— (2018). «Unmasking the cultural construction of asylum screening at
borders». En F. Vecchio y A. Gerard (eds.), Entrapping asylum seekers.
Londres: Palgrave Macmillan.
Jurgenson, N. (2011). Digital dualism and the fallacy of web objectivity.
Disponible en: http://thesocietypages.org/cyborgology/2011/09/13/
digital-dualism-and-the-fallacy-of-web-objectivity/.
Keats Citron, D. y Norton, H. (2011). «Intermediaries and hate speech:
Fostering digital citizenship for our information age», Boston Univer-
sity Law Review, 91: 1435-1484.
Keen, E. y Georgescu, M. (2016). Bookmarks: A manual for combating
hate speech online through human rights education. Strasbourg: Council
of Europe. Disponible en: https://rm.coe.int/168065dac7.
Bibliografía 109
King, R. D. y Sutton, G. M. (2013). «High times for hate crime: Explain-

ing the temporal clustering of hate motivated offending», Criminology,
51(4): 871-894.
Kowalski, R. M.; Giumetti, G. W.; Schroeder, A. N. y Lattanner, M.
R. (2014). «Bullying in the digital age: A critical review and meta-
analysis of cyberbullying research among youth», Psychological Bulle-
tin, 140(4): 1073-1137.
Livingstone, Sonia (2008). «Internet literacy: young people’s negotia-
tion of new online opportunities». En T. Mcpherson (ed.), Digital
youth, innovation and the unexpected, pp. 101-122. Cambridge: MIT
Press.
Livingstone, S. y Brake, D. R. (2010). «On the rapid rise of social net-
working sites: new findings and policy implications», Children and
Society, 24(1): 75-83.
Livingstone, S.; Haddon, L.; Görzig, A. y Ólafsson, K. (2011). Risks
and safety on the Internet: The perspective of European children. Full find-
ings of the EU Kids Online. Londres: LSE.
Livingstone, S. y Helsper, E. (2010). «Balancing opportunities and risks
in teenagers’ use of the Internet: the role of online skills and Internet
self-efficacy», New Media and Society, 12(2): 309-329.
Macháčková, H.; Dedkova, L.; Sevcikiva, A. y Cerna, A. (2015). «Em-
pathic responses by cyberbystanders: the importance of proximity»,
Journal of Youth Studies, 19(6): 793-804.
Maitra, I. y McGowan, M. K. (2012). «Introduction and overview». En
I. Maitra y M. K. McGowan (eds.), Speech and harm: Controversies over
free speech, pp. 1-23. Oxford: Oxford University Press.
Movimiento contra la Intolerancia (2013). Informe Raxen Especial 2012.
Europa en Crisis: Tolerancia o Barbarie. Racismo, Xenofobia e Intoleran-
cia en Internet. Disponible: en http://movimientocontralaintolerancia.
com/download/raxen/especial2012/especial2012.zip.
Myers, K. A. y Williamson, P. (2001). «Race talk: the perpetuation of
racism through private discourse», Race and Society, 4: 3-26.
Nilan, P.; Burgess, H.; Hobbs, M.; Threadgold, S. y Alexander, W.
(2015). «Youth, social media and cyberbullying among Australian
youth: “sick friends”», Social Media + Society, 1(2): 1-12.
Observatorio Andalusí (2014). Informe especial 2013: Incidencias e islamo-

fobia. Madrid: Unión de Comunidades Islámicas de España.
Observatorio PROXI (Proyecto Online contra la Xenofobia y la Intole-
rancia) (2015). «Proyecto contra la xenofobia y la intolerancia». Informe
del Observatorio Proxi, vol. i, septiembre de 2015.
Oksanen, A.; Hawdon, J.; Holkeri, E.; Näsi, M. y Räsänen, P. (2014).
«Exposure to online hate among young social media users». En N. M.
Warehime (ed.), Soul of society: A focus on the lives of children and youth,
pp. 253-273. Bingley: Emerald Group.
Petnehazi, I. P. (2012). «User-generated hate speech: Analysis, lesson
learnt, and policy implications. The case of Romania». Tesis de máster
presentada en la Central European University.
Prensky, M. (2001). «Digital natives, digital immigrants», On the Horizon,
9(5): 1-6.
Rogers, R. (2013). Right-wing formations in Europe and their counter-
measures: An online mapping. Ámsterdam: Digital Methods Initiative.
Disponible en: http://govcom.org/populism/GCO_DMI_Populism_
final_6May2013.pdf.
Solomos, J. (2001). Race, multiculturalism and difference. En N. Stevenson
(ed.), Culture and citizenship, pp. 198-211. Londres: Sage.
Tapscott, D. (1998). Growing up digital: the rise of the net generation. Lon-
dres: McGraw-Hill.
Thomas, A. (2007). Youth online: identity and literacy in the digital age.
Nueva York: Peter Lang.
Tynes, B. (2006). «Children, adolescents, and the culture of online hate».
En N. Dowd, D. Singer y R. F. Wilson (eds.), Handbook of children,
culture, and violence, pp. 267-289. California: Sage.
Waldron, J. (2012). The harm in hate speech. Cambridge (Massachusetts):
Harvard University Press.
Welch, M. y Schuster, L. (2005). «Detention of asylum seekers in the
US, UK, France, Germany, and Italy. A critical view of the globalizing
culture of control», Criminal Justice, 5(4): 331-355.
Williams, M. L. y Burnap, P. (2015). «Cyberhate on social media in the
aftermath of Woolwich: a case study in computational criminology
and big data», British Journal of Criminology, 55: 1-28.
Bibliografía 111
Wolf, C. (2004). «Regulating hate speech qua speech is not the solution
to the epidemic of hate on the Internet». Ponencia presentada en el
Congreso de la OSCE del 16-17 de junio, en París. Disponible en:
http://www.metrocorpcounsel.com/articles/4485/regulating-hate-
speech-qua-speech-not-solution-epidemic-hate-internet-part-i.

Las Palabras Son Armas

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Las Palabras Son Armas

Cargado por

Copyright:

Formatos disponibles

Las palabras

Olga Jubany, Malin Roiha

Esta publicación ha recibido el apoyo del programa Rights,

Este documento está sujeto a la licencia de Reconocimiento-

Prólogo, por Miguel Ángel Aguilar García. . . . . . . . . . . . . . . . 9

Una aproximación cualitativa al discurso de odio. . . . . . . . . . . 25

Nuevos medios de comunicación, nuevas generaciones,

Lo social por lo virtual, lo virtual por lo social. . . . . . . . . . . . . 39

Colaboración entre organizaciones y países. . . . . . . . . . . . . . 59

Discurso de odio en la red: mucha presencia, escasa reacción. . . . 73

Combatir el discurso de odio. . . . . . . . . . . . . . . . . . . . . . 93

Observaciones finales. . . . . . . . . . . . . . . . . . . . . . . . . . 101

El presente trabajo de investigación, elaborado por las antropólogas

la igualdad, la dignidad y la prohibición absoluta de discriminación.

víctimas ni el modo en que un ejercicio irresponsable y abusivo de

veedoras de redes sociales por su permisividad y pasividad ante el

Miguel Ángel Aguilar García

En primer lugar, quisiéramos agradecer a todas las personas que ac-

así como nuestro profundo reconocimiento a Miguel Ángel Aguilar

Vivimos en una sociedad de naturaleza heterogénea, fluida y cam-

nes entre los diversos grupos y colectivos sociales, que a menudo se

produce una despersonalización «ilusoria» de la realidad; sin embar-

personal o social, valores recogidos en los artículos 10 y 14 de la Cons-

 El Consejo de Europa (Keen y Georgescu, 2016) ha elaborado, además, un manual

Si bien estas definiciones legales e institucionales resultan cada

que cualitativo y etnográfico que exponga la correlación entre las

 La investigación PRISM fue cofinanciada por la Dirección General de Justicia de la

mente afectados por él. Asimismo se consideró importante el colec-

fuerzas de seguridad, las fiscalías y los juristas—, así como la función

Basada en los resultados de un enfoque etnográfico múltiple y com-

la gente vive, interpreta y experimenta dicho discurso, así como en las

 Red Europea contra el Racismo (European Network Against Racism), www.enar-

han tomado como referencia los informes de carácter general relativos

Cartografía del uso de la red por grupos extremistas

Con el fin de profundizar en el conocimiento de las estructuras y

webs oficiales de las organizaciones y de su presencia en Google, así

nectaron después a los datos recogidos con el resto de los métodos

Experiencias de profesionales y jóvenes usuarios

Dado que el elemento central de la investigación es el enfoque etno-

Racismo facilitó la inclusión de algunos jóvenes afectados personal-

de odio caben necesariamente dentro de la definición legal del con-

El discurso de odio online abarca una gran variedad de contenidos

 Representante de una ONG, España, ES-P2.

crucial interpretarlas desde un marco analítico extenso y ayudar es-

 Véanse, por ejemplo, Tapscott, 1998; Prensky, 2001.

el acoso y como una fuerza multiplicadora, expandiendo el alcance

dades con ideas afines. La inmersión de un usuario en un contexto de

2012). Del mismo modo, aquellos internautas que no experimentan

 Véanse, por ejemplo, Daniels, 2008; Copsey et al., 2013.

ción la constituye un estudio cuantitativo realizado por Oksanen et

 Livingstone se refiere a «mensajes de odio que atacan a ciertos grupos o indivi-

Tanto los debates académicos como los resultados de la investigación

El discurso de odio está motivado por aspectos socioeconómicos. El

 Educador social de una ONG, España, ES-P5.

Sin embargo, como en el caso de la cita anterior, la mayoría de

racismo en sí, sino que ofrecen la oportunidad de que este se exprese

 Una selección de estos partidos se analizará más adelante.

ción y los refugiados siempre han sido beneficiosos para el Reino

musulmana, particularmente en Internet, con picos después de su-

 Búsqueda en Twitter de hashtags durante la semana posterior al atentado.

Cabe destacar que, de los casos de estudio incluidos en la inves-

Detrás de las cifras

En las sociedades contemporáneas europeas, el discurso de odio en