Universidad Católica de Santa Marı́a

Facultad de Ciencias e Ingenierı́as Fı́sicas y Formales

Escuela Profesional de Ingenierı́a de Sistemas

Desinformación en Redes Sociales

Autores: Avilés Córdova, Santiago Alonso - Rodriguez Zea, Cristhian Jesus

Curso: Investigación Formativa

Docente: Iquiria Becerra, Diego Alonso
Arequipa - Perú
2023
1. Resumen
En la actualidad, la desinformación prolifera a través de diversos medios en nuestra vida diaria, lo que genera
múltiples situaciones problemáticas que pueden generar caos en la población, como lo observado durante la pandemia
de COVID-19. El objetivo de este informe es exponer una posible solución para enfrentar a la desinformación en las
redes sociales gracias a un sistema de filtrado, el cual, mediante un moderador, pueda determinar si las publicaciones
por parte del usuario son verı́dicas o falsas. Los posibles resultados que se obtendrı́an del uso de dicho sistema son la
drástica caı́da y posible eliminación total de las noticias falsas en redes sociales, con lo que la credibilidad de estas
se incrementarı́a exponencialmente. La desinformación puede ser erradicada si es combatida de la forma adecuada, ya
sea empleando software o por decisión propia.
Palabras clave: Desinformación, redes sociales, fake news, sistema de filtrado, Covid- 19.

Resumen
Nowadays, misinformation proliferates through various channels in our daily lives, leading to multiple proble-
matic situations that can create chaos among the population, as observed during the COVID-19 pandemic. The
objective of this report is to present a potential solution to address misinformation on social media through a
filtering system, which, with the assistance of a moderator, can determine the veracity or falsity of user- generated
content. The potential outcomes of implementing such a system include a significant decrease and possible complete
elimination of fake news on social media, thereby exponentially enhancing their credibility. Misinformation can be
eradicated through appropriate measures, whether by employing software or through individual decision-making.
Keywords: Misinformation, social media, fake news, filtering system, Covid-19.

1
2. Introducción
A continuación, se presenta la propuesta de investigación titulada Çontrol de la desinformación en redes sociales:
Desarrollo de un sistema de filtrado”. La desinformación en las redes sociales es un problema creciente en la sociedad
actual, y a pesar de la existencia de filtros para evitar la publicación de ciertas palabras o frases que afectan la
integridad de cierto grupo de personas, como el uso de palabras peyorativas para incitar el racismo, la desinformación
sigue siendo común. El objetivo de esta investigación es desarrollar un sistema de filtrado de noticias para controlar
la veracidad de la información antes de su publicación en las redes sociales, con el fin de limitar la diseminación de
información falsa. La investigación se llevará a cabo utilizando una muestra de cuentas de Facebook y TikTok, y se
pretende que sirva como herramienta para el público en general, investigadores, estudiantes y potencialmente gerentes
de redes sociales. La investigación se basa en el trabajo previo de autores como Johana Acosta Quiroz y Sebastián
Iglesias Osores, quienes abordaron la problemática de la desinformación en las redes sociales durante la pandemia
COVID-19 en su informe ÇOVID-19: desinformación en redes sociales”publicado en la revista Çuerpo Médico de
Chiclayo”.[1]

2
Índice
1. Resumen 1

2. Introducción 2

3. Desarrollo temático 4
3.1. Problema Identificado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.2. Objetivos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.3. Hipótesis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.4. Justificación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.5. Tecnologı́as e Investigaciones Actuales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3.6. Metodologı́a . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

4. Resultados 6

5. Conclusiones 7

6. Anexos 9

Índice de figuras
1. Diferencias entre IA, Machine Learning y Deep Learning . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2. Diseño del algoritmo propuesto en el artı́culo ”Blockchain to Rein in the New Post-Truth World and
Check the Spread of Fake News
6
3. Usuarios activos mensualmente en diversas redes sociales en el año 2021 (en millones) . . . . . . . . . 9

3
3. Desarrollo temático
3.1. Problema Identificado
El problema de la desinformación en redes sociales y las noticias falsas (”fake news”) es que pueden propagarse
rápidamente y tener un gran impacto en la sociedad.[2][18] Muchas personas utilizan las redes sociales como una fuente
principal de noticias y, a menudo, no verifican la veracidad de la información antes de compartirla[6][17]. Esto puede
llevar a la propagación de información falsa y engañosa, lo que puede tener consecuencias graves, como la alteración de
elecciones, la promoción de la violencia o la desconfianza en las instituciones y la ciencia. Además, la desinformación
y las noticias falsas pueden ser utilizadas como herramientas de propaganda para manipular la opinión pública. Por
lo tanto, es importante abordar el problema de la desinformación y las noticias falsas en las redes sociales y trabajar
para garantizar que la información compartida en lı́nea sea precisa y confiable[4][16][5].

3.2. Objetivos
El objetivo general de combatir la desinformación es garantizar que la información proporcionada a las personas
sea precisa, confiable y verificada [16]. La información errónea puede ser dañina porque puede engañar a las personas,
influir en sus decisiones y acciones y dañar a la sociedad en general[8][13]. Ası́, al combatir la desinformación, busca
promover la verdad, la transparencia y la rendición de cuentas en la comunicación e intercambio de información. Este
objetivo se logra a través de una variedad de medidas, como la educación y concientización pública, la promoción de
medios confiables y la implementación de polı́ticas públicas que promuevan la transparencia y el acceso a la información
[7][14]. El objetivo general de combatir la desinformación es garantizar que todos tengan acceso a información precisa y
verificada, lo que puede contribuir a la toma de decisiones informadas y crear una sociedad más justa e igualitaria[12].
Otros posibles objetivos son promover el uso de redes sociales como una fuente de información veraz a la par de los
medios de comunicación emitidos por televisión y radio, disminuir la violencia contra ciertos grupos sociales en dichas
redes y, potencialmente, optimizar la experiencia de los usuarios en la red.

3.3. Hipótesis
”La creación de un sistema de filtrado de publicaciones en las redes sociales es una medida efectiva para combatir
la desinformación y regular el contenido considerado ofensivo, como el racismo, la xenofobia y el clasismo.Üna posible
solución serı́a implementar un sistema de verificación de noticias y moderación de contenidos en las redes sociales.
Este sistema se encargarı́a de filtrar las noticias que los usuarios deseen publicar, verificándolas como noticias verı́dicas
o falsas a través de un bot automatizado o mediante moderadores designados por la plataforma. Para determinar la
veracidad de las noticias, se podrı́an utilizar diversas fuentes confiables y transparentes, como medios de comunicación
reconocidos o instituciones especializadas. Por ejemplo, en el caso de la pandemia de la COVID-19, se podrı́a utilizar
la página oficial de la Organización Mundial de la Salud (OMS) como base de verificación, tanto directamente a través
de las redes sociales de la OMS como de forma indirecta mediante medios de comunicación que utilicen la página
de la OMS como fuente para sus notas periodı́sticas. Además de combatir la desinformación, este sistema también
podrı́a utilizarse para controlar la publicación de contenido considerado ofensivo. Utilizando algoritmos de detección
de lenguaje ofensivo y análisis de contexto, se podrı́an identificar y bloquear publicaciones que promuevan el racismo,
la xenofobia, el clasismo y otros tipos de discriminación. Esto ayudarı́a a crear un entorno más seguro y respetuoso
en las redes sociales, promoviendo la convivencia y evitando la propagación de discursos de odio. Es importante
tener en cuenta que la implementación de este sistema requerirı́a una combinación de tecnologı́a avanzada, recursos
humanos capacitados y una estrecha colaboración con organismos internacionales, expertos en verificación de noticias
y organizaciones de derechos humanos. También es fundamental garantizar la transparencia y la imparcialidad en el
proceso de moderación, evitando cualquier tipo de censura injustificada y respetando la libertad de expresión dentro
de los lı́mites legales y éticos establecidos. [3].

3.4. Justificación
En las redes sociales, se observa una propagación significativa de información errónea y engañosa, a pesar de la
existencia de mecanismos de filtrado que buscan evitar la difusión de contenidos que afecten negativamente la integridad
de ciertos grupos de personas. Un ejemplo claro es el uso de expresiones con connotaciones negativas con el propósito
de fomentar el racismo. Para abordar este desafı́o, resulta crucial desarrollar un sistema de filtrado efectivo que permita
un control óptimo de las noticias antes de su publicación. La creación y puesta a prueba de este sistema de filtrado
requiere de tiempo, recursos y un riguroso proceso de desarrollo previo a su implementación. Su objetivo principal
será discernir de manera precisa entre aquellas publicaciones que contienen información veraz y las que promueven

4
la desinformación. Este proyecto es de suma importancia tanto para el público en general como para investigadores,
estudiantes y, potencialmente, gerentes de redes sociales. Mediante la selección de un grupo de cuentas especı́ficas en
plataformas como Facebook y TikTok, que representen una muestra representativa de la población en general, se podrá
realizar un análisis más profundo y obtener resultados significativos. En estudios previos, como el informe titulado
ÇOVID-19: desinformación en redes sociales”publicado por Johana Acosta Quiroz y Sebastián Iglesias Osores en la
prestigiosa revista Çuerpo Médico de Chiclayo”[1], se destacan las consecuencias adversas generadas por la propagación
de desinformación debido a la falta de filtros adecuados en las redes sociales durante la pandemia. Estas investigaciones
respaldan la importancia de implementar soluciones efectivas para combatir la difusión de noticias falsas y asegurar
la promoción de información precisa y confiable.

3.5. Tecnologı́as e Investigaciones Actuales

Para la elaboración del sistema, se dispone de múltiples opciones para ser llevado a cabo, como la Inteligencia
artificial (Al) y Aprendizaje automático (Machine Learning), las cuales se diferencian en la Figura 1, junto al Deep
Learning. Ambas son utilizadas para desarrollar sistemas que pueden analizar grandes cantidades de información
y detectar patrones que indican la presencia de información falsa. Ası́ mismo, existen diversas formas de detectar
desinformación sin necesidad de un sistema de filtrado. No obstante, estos pueden ser optimizados para formar parte
del sistema. Ejemplos de esto son la investigación acerca de un tema por parte del mismo usuario, conocido como
la verificación de hechos; software hecho por los desarrolladores de las redes sociales que forma parte de estas, sin
embargo, carecen de efectividad, como fue demostrado en la pandemia de COVID-19; etc [9].

Figura 1: Diferencias entre IA, Machine Learning y Deep Learning

3.6. Metodologı́a
Para tener cierta base en el posible desarrollo de nuestro algoritmo, primero accedimos a Scopus, en el cual,
ingresamos las palabras clave ”Fake news .Algorithm agregamos un filtro de fechas entre los años 2017 y 2023 para
2 2

determinar qué tan efectivos son los algoritmos modernos; no obstante, el buscador mostró una cantidad de resultados
demasiado vastos para ser analizados, por lo que agregamos ”Filterçomo una palabra clave más. De esta manera,
nuestra búsqueda se redujo a 56 artı́culos, de los cuales 6 nos llamaron la atención: Reconceptualizing nature-of-
science education in the age of social media”, Üsing Blockchain to Rein in the New Post-Truth World and Check the
Spread of Fake News”, Ïts all in a name: detecting and labeling bots by their name”, ”Post-truth and fake news in
political communication: A brief genealogy”, ”Multilingual Fake News Detection with Satire ”Disinformation, social
2

media, bots, and astroturfing: the fourth wave of digital democracy”

El diseño de nuestro algoritmo está basado en la idea propuesta en ”Blockchain to Rein in the New Post-Truth
World and Check the Spread of Fake News”, el cual se explica a detalle en la Figura 2. Además, tendrı́a como base
los siguientes puntos:

Recopilación de datos Es posible obtener un conjunto de datos que contenga tanto noticias reales como

5
 noticias falsas, por lo que es factible el uso de fuentes confiables para obtener noticias reales y bases de datos de
noticias falsas disponibles públicamente.
Extracción de caracterı́sticas Es posible analizar los artı́culos mencionados mediante técnicas de procesa-
miento de lenguaje natural para identificar las caracterı́sticas clave que podrı́an indicar la presencia de noticias
falsas. Algunas caracterı́sticas comunes son la inclusión de un tono emocional, sensacionalista y exagerado, el uso
de lenguaje engañoso y ambiguo, fuentes no confiables, carencia de verificación, sesgos por parte del redactor,
etc.
Diseño del modelo Se utilizarı́a un algoritmo de aprendizaje automático, basado en clasificación binaria, para
entrenar un modelo utilizando las caracterı́sticas extraı́das. Posteriormente, se dividirı́a el conjunto de datos en
conjuntos de entrenamiento y prueba evaluar el rendimiento del modelo. Para dichos entrenamientos, se debe
alimentar el conjunto de entrenamiento al modelo y ajústalo para que aprenda a distinguir entre noticias reales
y falsas en función de las caracterı́sticas proporcionadas, por lo que el uso de algoritmos como Naive Bayes,
Support Vector Machines o Redes Neuronales son factibles para entrenar el modelo. Finalmente, deberá ser
evaluado utilizando el conjunto de prueba, calculando métricas como precisión, recall y F1-score para medir la
efectividad del modelo en la detección de noticias falsas.

Figura 2: Diseño del algoritmo propuesto en el artı́culo ”Blockchain to Rein in the New Post-Truth World and Check
the Spread of Fake News”

Los posibles resultados de este sistema se verı́an reflejados instantáneamente, teniendo como consecuencias directas
la reducción de la difusión de noticias falsas y un aumento de confianza hacia las redes sociales. Al impedir la publicación
de noticias falsas, el sistema de filtrado ayuda a reducir la cantidad de información engañosa que circula en las redes
sociales, lo que a su vez disminuye la propagación de rumores y desinformación. Ası́ mismo, si los usuarios perciben que
los desarrolladores de las redes sociales están tomando medidas para garantizar la veracidad de la información que se
publica, podrı́an sentirse más seguros al usar estas plataformas y confiar más en la información que obtienen de ellas.
No obstante, si este sistema no es empleado de una forma correcta, puede provocar múltiples resultados negativos
como la pérdida de libertad de expresión y posibles problemas de censura. Si el sistema de filtrado no es diseñado
ni empleado de manera adecuada, podrı́a terminar limitando la libertad de expresión de los usuarios, al impedir la
publicación de información que podrı́a ser verdadera pero no es popular o aceptada por el sistema. Además, podrı́a
ser utilizado por las autoridades para censurar información que consideren peligrosa o incómoda, lo que podrı́a llevar
a la violación de los derechos humanos y la libre expresión [15][20][11][10][19]. Por esto, la implementación de posibles
reglas de uso por parte de las redes sociales es preferible, con un posible vı́nculo de estas con las leyes de los paı́ses
en los que se planee usar este sistema. De esta manera, el usuario podrá informarse de una forma efectiva y segura,
confiando plenamente en la información que recibe en las redes.

4. Resultados
La implementación de un sistema de filtrado de publicaciones en las redes sociales puede tener resultados signi-
ficativos en la lucha contra la desinformación y la regulación del contenido ofensivo. Los resultados podrı́an ser los
siguientes:
Reducción de la desinformación: Al verificar y filtrar las noticias antes de su publicación, se puede prevenir
la propagación de información falsa o engañosa en las redes sociales. Esto ayuda a garantizar que los usuarios
tengan acceso a noticias verı́dicas y confiables, lo que contribuye a una mejor comprensión de los acontecimientos
y a una toma de decisiones más informada.

6
 Prevención de discursos de odio: La detección y bloqueo de contenido ofensivo, como el racismo, la xenofobia
y el clasismo, ayuda a crear un entorno en lı́nea más seguro y respetuoso. Al evitar la propagación de discursos de
odio, se fomenta la convivencia pacı́fica y se protege a los usuarios de posibles ataques verbales o discriminación.
Promoción del debate constructivo: Al filtrar el contenido ofensivo y desinformación, se fomenta un ambiente
propicio para el intercambio de ideas constructivas y el debate fundamentado. Los usuarios pueden sentirse más
seguros para expresar sus opiniones sin temor a represalias o acoso, lo que promueve una cultura de respeto y
tolerancia en lı́nea.
Protección de los derechos humanos: La implementación de un sistema de filtrado puede contribuir a la
protección de los derechos humanos, especialmente en lo que respecta a la igualdad, la no discriminación y la
libertad de expresión. Al limitar la difusión de contenido que promueva la discriminación y el odio, se protege a
los grupos vulnerables y se fomenta una sociedad más inclusiva.
Mejora de la reputación de las plataformas: Las redes sociales que implementan medidas efectivas de
filtrado y moderación de contenidos pueden ganar la confianza de los usuarios y mejorar su reputación. Los
usuarios valoran plataformas que se preocupan por su seguridad y bienestar, lo que puede llevar a un aumento
en la participación y la adquisición de nuevos usuarios.

5. Conclusiones
La desinformación se ha convertido en un gran problema en nuestra sociedad debido al aumento del uso de las redes
sociales y la facilidad para compartir información en lı́nea. Para combatir esta problemática, se necesitan enfoques
múltiples que involucren la educación y alfabetización mediática, la verificación de hechos, el uso de herramientas
de verificación, la colaboración entre los medios de comunicación, la regulación y la promoción de la diversidad de
opiniones. Es fundamental que las personas sean crı́ticas y aprendan a evaluar la calidad y veracidad de las fuentes de
información que encuentran en lı́nea. Los medios de comunicación también tienen un papel importante que desempeñar
en la lucha contra la desinformación, y deben trabajar para verificar la información y promover la diversidad de
perspectivas. La alfabetización mediática es una herramienta clave para lograrlo y es fundamental que se fomente en
todos los niveles educativos. [18]

7
Referencias
[1] Johana Acosta-Quiroz and Sebastián Iglesias-Osores. Covid-19: Desinformación en redes sociales. Revista del
Cuerpo Médico Hospital Nacional Almanzor Aguinaga Asenjo, 13(2):217–218, 2020.
[2] Hunt Allcott and Matthew Gentzkow. Social media and fake news in the 2016 election. Journal of economic
perspectives, 31(2):211–236, 2017.
[3] Luciana Cuentas Arrospide. Caracterı́sticas de las fake news que se difunden por las redes sociales sobre el
coronavirus covid19 y sus consecuencias en la credibilidad de los medios de comunicación en arequipa–primer
semestre del 2020. 2020.
[4] Eileen Culloty and Jane Suiter. Disinformation and manipulation in digital media: Information pathologies.
Routledge, 2021.

[5] R Heath Donald. The age of surveillance capitalism: the fight for a human future at the new frontier of power:
authored by shoshana zuboff, publicaffairs, new york: 2019, 704 pp., 26.91(hardcover), 16.99 (kindle edition), isbn
978-1610395694, 2020.
[6] Ricardo Ribeiro Ferreira. Benkler, y., faris, r., & roberts, h.(2018). network propaganda: Manipulation, disinforma-
tion, and radicalization in american politics. oxford: Oxford university press. Mediapolis–Revista de Comunicação,
Jornalismo e Espaço Público, (11):103–105, 2020.
[7] Edward S Herman and Noam Chomsky. Manufacturing consent: The political economy of the mass media. Random
House, 2010.
[8] Ryan Holiday. Trust me, i’m lying: confessions of a media manipulator. Penguin, 2013.

[9] Nir Kshetri. 1 blockchain’s roles in meeting key supply chain management objectives. International Journal of
information management, 39:80–89, 2018.
[10] Kristen Mattson. Digital citizenship in action: empowering students to engage in online communities. (No Title),
2017.
[11] Filippo Menczer, Pak Ming Hui, and Alessandro Flammini. The Spread of Misinformation Online. Indiana
University Press, 2020.
[12] Tom Nichols. The death of expertise: The campaign against established knowledge and why it matters. Oxford
University Press, 2017.
[13] Jim O’Neill. Factfulness: Ten reasons we’re wrong about the world-and why things are better than you think.
Nature, 556(7699):25–26, 2018.
[14] Eli Pariser. The filter bubble: How the new personalized web is changing what we read and how we think. Penguin,
2011.
[15] Stuart R Poyntz. Remediating democracy: Participatory youth media scenes, cultural friction and media reform.
In International Handbook of Media Literacy Education, pages 159–173. Routledge, 2017.

[16] Michael Roy. Cathy o’neil. weapons of math destruction: How big data increases inequality and threatens de-
mocracy. new york: Crown publishers, 2016. 272p. hardcover, $26 (isbn 978-0553418811). College & Research
Libraries, 78(3):403, 2017.
[17] Brian G Southwell, Emily A Thorson, and Laura Sheble. Misinformation and mass audiences. University of
Texas Press, 2018.
[18] Soroush Vosoughi, Deb Roy, and Sinan Aral. The spread of true and false news online. science, 359(6380):1146–
1151, 2018.
[19] Samuel C Woolley and Katie Joseff. The Fight Against Disinformation. Oxford University Press, 2021.

[20] Melissa Zimdars. Fake News: Understanding Media and Misinformation in the Digital Age. Libraries Unlimited,
2018.

8
6. Anexos

Figura 3: Usuarios activos mensualmente en diversas redes sociales en el año 2021 (en millones)