INTELIGENCIA ARTIFICIAL PARA MITIGAR

LA COMUNICACIÓN TÓXICA Y DISCURSOS DE ODIO

 DISCURSOS DE ODIO

DESINFORMACIÓN

VIOLENCIA
BASADA
EN GÉNERO DISCURSOS
TÓXICOS
 ITOR+
MON
E E
D
DO
RA
O
D
O
UL
ÍRC
EL C

¿POR QUÉ? ¿CÓMO? ¿QUÉ?

La polarización y la Incrementando el acceso a Una infraestructura
radicalización en aumento información estratégica comunicacional compleja,
son procesos complejos que sobre estos fenómenos en el multinivel y multiactor, que
no se pueden enfrentar de mayor número de actores defina acciones conjuntas
manera aislada posible para enfrentar este
escenario
CONCEPTOS CLAVE

DISCURSO DE ODIO:
Cualquier acto de comunicación, textual, verbal o visual, que ataque a una persona por
características de su identidad que son difíciles o imposibles de cambiar, como lo puede
ser su ascendencia racial o étnica; su género; su condición de migración; su afiliación
ideológica o religiosa; entre otras.

COMUNICACIÓN TÓXICA:
Cualquier discurso que usa formas violentas del lenguaje (insultos, amenazas, contenido
profano, entre otros) para excluir, deslegitimar o separar de la conversación a individuos
o grupos específicos.

VIOLENCIA BASADA EN GÉNERO:

Diversos tipos de violencia basados en la identidad de género, orientación sexual, sexo
biológico o expresión de género de las personas.
NUEVAS TECNOLOGÍAS PARA ENFRENTAR
DESAFÍOS HISTÓRICOS Y EMERGENTES

I II III IV
ROBOT DE ROBOT DE ROBOT DE EQUIPO
CAPTURA TOXICIDAD DISCURSO HUMANO
DE ODIO
 Análisis de data
Captura de data
Extracción de Facebook
(Crowdtangle API + Rastreador FB)
Extracción de Instagram
(Crowdtangle API)
Extracción de Twitter
(Twitter Data API)
Extracción de Youtube
(Google data API)
Extracción de Páginas Web
(Captura basada en HTML)
Material Audiovisual
(SurveyMonkey)
Reportes ciudadanos
Entradas Manuales
Inteligencia artificial
Algoritmo Discurso de Odio
(”Internal Hate Speech Analyzer”)
Algoritmo de Categorización
(Emociones, VBG, Radicalización)
Robot de Sentimiento
(Basado en el LLM BERT de Google)
Descubrimiento por Prompt
(ChatGPT 3.5 Turbo-0613)
Algoritmo de Presencia de
Toxicidad (Detoxify API)
Algoritmo de Categorización
de Toxicidad (Perspective API)
Verificación humana
Ránking de Discurso de Odio
Ránking de Interacciones
Notificaciones automáticas
Búsqueda inversa de
Fotos/Videos
Análisis profundo de
Fotos/Videos (InVID)
Búsqueda de similitud
Interface para la anotación
de data
Interface para el
Fact-Checking colaborativo
Detector de infracciones a
las normas electorales
Visualización de data
Dashboard de Control
Centralizado
Dashboard de Análisis de
Data (PowerBI)
Página Web Externa para el
registro de Chequeos
Interface para el Análisis
Enfocado(Kibana)
Exporatación en CSV
(Excel)
Reporte de Infracciones
Electorales (PDF)
Leyenda:
Herramienta principalmente
automatizada
Herramienta principalmente
basada en trabajo manual
FORMULARIO 1:
INFORMACIÓN GENERAL
DATOS DE LA PUBLICACIÓN
CONTENIDO DE LA PUBLICACIÓN
AUDIENCIAS POTENCIALES
Tipo de publicación:
□ Texto □ Imagen □ Audio
□ Video □ Otro
Tema de la publicación:
□ Electoral □ Política □ Económica
□ Social □ Ciencia/Salud
□ Entretenimiento/Deportes □ Otro
¿A quién ataca la publicación?:
Respuesta abierta
¿Contiene publicidad pagada?:
□ Sí □ No □ No se puede determinar
Tipo de página o medio:
□ Medio digital □ Medio tradicional
□ Facebook □ Twitter □ Youtube
□ Instagram □ TikTok □ Whatsapp u
otro servicio de mensajería □ Otro
¿La publicación promueve un
actor político?:
□ Sí (La plataforma solicitará
registrar el nombre) □ No
¿La publicación ataca a un
partido político?:
□ Sí (La plataforma solicitará
registrar el nombre) □ No
Audiencia inferida:
Respuesta abierta
Origen de la publicación:
□ Candidato/a □ Partido político
□ Autoridad elegida □ Funcionario
público □ Líder de opinión □ Inde-
pendiente □ Otro
¿La publicación promueve un
partido político?:
□ Sí (La plataforma solicitará
registrar el nombre) □ No
FORMULARIO 2:
COMUNICACIÓN TÓXICA Y DISCURSOS DE ODIO
SENTIMIENTO DEL TEXTO
ANÁLISIS DE TOXICIDAD U ODIO
Tipo de sentimiento:
□ Positivo □ Negativo □ Neutral
¿Cuál es la identidad afectada Intensidad del ataque:
por el discurso de odio?: □ Nivel 1: Oposición prejuiciosa a la
opinión; □ Nivel 2: Vinculación de
□ Género □ Ascendencia racial
una población con actividades
□ Ascendencia étnica □ Afiliación
negativas o ilegales; □ Nivel 3: Uso
religiosa □ Afiliación ideológica
de lenguaje soez relacionado a la
□ Orientación sexual □ Capacidad
identidad; □ Nivel 4: Demonización o
corporal o mental □ Condición
deshumanización; □ Nivel 5:
migratoria □ Clase socioeconómica
Llamamiento a la violencia física
□ Forma de trabajo □ Otra
contra un individuo o grupo
poblacional; □ Nivel 6: Llamamiento
al asesinato contra un individuo o
grupo poblacional
FORMULARIO 3:
VIOLENCIA BASADA EN GÉNERO
¿La publicación fue escrita por una
DATOS DE LA PUBLICACIÓN mujer o persona LGBTI+?:
□ Sí, por una mujer; □ Sí, por una
persona LGBTI+; □ No
¿La publicación contiene
violencia contra mujeres o
COMPROBACIÓN DE VBG personas LGBTI+?:
□ Sí; □ No (Las siguientes preguntas
solo se activan de responder “Sí” a
esta pregunta)
Tipo de VBG:
DINÁMICAS DE LA VBG □ Psicológica (acoso, bullying; ases-
inato de carácter; insultos); □ Sexual
(acoso sexual; amenazas de violen-
cia sexual; filtración de fotografías o
videos íntimos); □ Física (amenazas
o pruebas de violencia física o ases-
inato); □ Estructural (estigmatización
o refuerzo de estereotipos)
¿La publicación habla de una
mujer o persona LGBTI+?:
□ Sí □ No
¿A qué grupo pertenece la ¿La publicación contiene
mujer o persona LGBTI+ imágenes con estereotipos?:
afectada por la publicación?:
□ Sí □ No
□ Una persona ciudadana o votante; □ Una persona no
ciudadana o no votante; □ Alguien que apoya
visiblemente una candidatura política; □ Alguien que
trabaja para una campaña política; □ Un monitor/a del
proceso electoral; □ Miembros de mesa; personeros o
personal de organismos electorales en un local de
votación; □ Alguien que trabaja para un partido
político; □ Alguien que trabaja como servidor público;
□ La pareja de un actor político; □ Alguien que trabaja
para el sector privado; □ Otro
Técnica de la VBG: Herramientas de la VBG:
□ Llamamiento a la violencia física; □ Amenazas o □ Imágenes editadas; □ Deepfakes
(video); □ Deepfakes (audio);
intimidación con el objetivo de forzar una retirada de
la carrera electoral; □ Acoso sexual; □ Amenaza de □ Ciberataques oranizados; □ Otro
violación; □ Insinuación de incompetencia; □ Ataque
verbal; □ Difusión de rumores; □ Comentarios sobre la
apariencia física; □ Marginalización o
estereotipificación; □ Difusión no consensuada de
imágenes o videos; □ Otros