Preparación de Artículos para la Revista Politécnica

1
Chango, Alejandro ;
Resumen: A lo largo de la historia
1 la tecnología
Escuela PolitécnicayNacional,
la cienciaEsfot,
se han combinado
Quito, Ecuadorde forma sorprendente el cual
ha generado tanto como cosas positivas también problemas con potentes campañas de desinformación o
información falso especialmente a través de la manipulación de imágenes estáticas o en movimiento.
Actualmente con el uso de la inteligencia artificial se ha ido generando un tipo de conflicto con características
digitales ya que puede generar datos irreales que puede afectar a la sociedad. El artículo subraya la importancia de
adoptar contramedidas efectivas frente al uso creciente de imágenes falseadas, enfatizando la necesidad de
transparencia, formación del consumidor, tecnología y legislación como elementos clave en este contexto.
Palabras clave: Ciencia, Desinformación, Imágenes falseadas, Datos irreales, Conflicto digital, Impacto social
Falsificaciones profundas e inteligencia artificial
Deep fakes and artificial intelligence
Abstract: Throughout history, technology and science have combined in a surprising way, which has generated
both positive things and problems with powerful disinformation campaigns or false information, especially through
the manipulation of static or moving images. Currently, with the use of artificial intelligence, a type of conflict with
digital characteristics has been generated since it can generate unreal data that can affect society. The article
highlights the importance of adopting effective countermeasures against the growing use of falsified images,
emphasizing the need for transparency, consumer education, technology and legislation as key elements in this
context.

Keywords: Science, Disinformation, Falsified images, Unreal data, Digital conflict, Social impact

1

enfoques innovadores y tecnologías emergentes que buscan
INTRODUCCION:
preservar la integridad de la información. Este análisis crítico
En la actualidad, el fenómeno de los "deep fakes" y el
permitirá comprender mejor la naturaleza cambiante del
papel fundamental de la inteligencia artificial en su desarrollo
paisaje mediático y la necesidad imperante de estrategias
han desencadenado un debate crucial en la intersección entre
efectivas para contrarrestar el potencial mal uso de estas
ética, tecnología y sociedad. Este paper se sumerge en la
tecnologías.
complejidad de los "deep fakes", destacando su impacto en la
percepción pública, la seguridad y la confianza en la
A medida que exploramos la intersección entre inteligencia
información.
artificial, ética y desafíos socioculturales, este paper pretende
arrojar luz sobre las posibles direcciones futuras en la
La capacidad de las tecnologías de inteligencia artificial
evolución de los "deep fakes". Al comprender mejor las
para generar contenido audiovisual hiperrealista,
implicaciones de estas tecnologías, podemos trabajar hacia un
aparentemente auténtico, plantea cuestionamientos profundos
uso responsable de la inteligencia artificial y garantizar que
sobre la veracidad de la información en la era digital.
su impacto en la sociedad sea beneficioso y éticamente
Exploraremos la evolución de los "deep fakes", desde su
sólido.
concepción hasta las aplicaciones contemporáneas,
abordando las implicaciones éticas y sociales de su
1. CONTEXTO Y ANTECEDENTES
proliferación.
La pandemia de la Covid-19 ha destacado la relevancia de los
Además, analizaremos los desafíos asociados con la
medios digitales en la transmisión de percepciones e
detección y mitigación de los "deep fakes", considerando información veraz. Durante el confinamiento, las pantallas de
1 computadoras y teléfonos móviles se convirtieron en la

Revista Politécnica- XXXX 202X, Vol. XX, No. X

principal ventana al mundo exterior, supliendo la falta de
experiencias directas.
Ante la ausencia de evidencia científica, rumores y bulos
proliferaron en las redes sociales para calmar el miedo y la
incertidumbre (EU vs Disinformation, 2020). La
interactividad digital permitió la mezcla indiscriminada de
contenidos, desde fuentes confiables hasta sátiras,
confundiendo a los receptores.
La rápida transición de los medios tradicionales a los
digitales ha creado desequilibrios. La autoridad de la palabra
impresa, respaldada por pruebas gráficas, ha perdido su
sinónimo de veracidad incuestionable. La introducción de
tecnologías como la inteligencia artificial y la realidad virtual
ha ampliado las posibilidades de manipulación de imágenes,
desafiando la estabilidad estratégica dependiente de
percepciones públicas.
Este trabajo aborda el papel de las nuevas tecnologías
digitales, especialmente deep-fakes, en las estrategias de
desinformación gráfica. Después de contextualizar, se
describirá el procedimiento de trabajo, revisando el estado
del arte sobre desinformación y sus efectos cognitivos. Se
propondrá una nueva taxonomía del uso de imágenes para la
desinformación, explorando también las herramientas
actuales para contrarrestarla. El trabajo se enmarca en
desarrollos doctrinales en las Fuerzas Armadas sobre el
ámbito cognitivo y operaciones de influencia, donde las
percepciones públicas son moldeadas por medios digitales
susceptibles de manipulación por inteligencia artificial.
Se utiliza una revisión sistematizada de artículos científicos,
libros e informes sobre desinformación y su impacto en el
ámbito cognitivo. Se analizan las herramientas tecnológicas
disponibles y se propone una novedosa taxonomía sobre el
uso de software de manipulación de imágenes para la
generación de desinformación, considerando actores,
finalidades y niveles tecnológicos.
2. DESINFORMACIÓN CON IMÁGENES EN MEDIOS
DIGITALES
En el entorno mediático actual, los consumidores siguen
historias a través de diversas fuentes en un proceso
transmedia (Aguado; Feijóo; Martínez-Martínez, 2013). La
combinación de redes sociales y tecnologías digitales ha
potenciado la libertad de información, pero también ha dado
lugar a riesgos significativos.
Las fake news, especialmente en forma de imágenes, se han
vuelto constantes y representan un desafío para discernir la
veracidad de la información (Alonso-González, 2019).
Internet y las redes sociales facilitan la rápida difusión de
bulos, aprovechando la velocidad y amplitud que ofrecen
estos canales.
La desinformación, especialmente a través de imágenes, tiene
repercusiones personales, corporativas y puede afectar a la
seguridad nacional debido a su valor histórico (Ángel
Gómez-de-Ágreda; Claudio Feijóo; Idoia-Ana Salazar-
García).
Revista Politécnica- XXXX 202X, Vol. XX, No. X
En la era actual, el periodismo se ve obligado a verificar la
información compartida, especificar el grado de confianza de
las fuentes y combatir la viralización de noticias falsas
(López-Borrull; Vives-Gràcia; Badell, 2018). La
desinformación se ha exacerbado durante la pandemia de la
Covid-19, aprovechando la incertidumbre y la
sobreexposición a la red durante el confinamiento (Marqués,
2020).
Las verificaciones de hechos han experimentado un
crecimiento del 900% en noticias en lengua inglesa solo en el
primer trimestre de 2020 (Brennen et al., 2020). Sin embargo,
aproximadamente el 59% de las falsas noticias no son
retiradas de Twitter, el 27% en YouTube y el 24% en
Facebook (Brennen et al., 2020). La desinformación
audiovisual utiliza técnicas como deep-fakes, minería de
información en redes sociales y realidad virtual (RV) o
realidad aumentada (RA) para intensificar el engaño (Miller,
2020).
Este fenómeno va más allá de la transmisión de información
falsa y engaños puntuales, afectando la capacidad de las
audiencias para construir relatos imparciales (Alonso-
González, 2019). La desinformación busca alterar las
percepciones, aprovechando la falta de coherencia interna del
discurso existente (Arendt, 2006).
Las tendencias actuales se centran en la minería de
información en redes sociales, manipulación de imágenes y
videos (deep-fakes), y el uso de RV y RA para intensificar el
engaño (Miller, 2020). Grupos de expertos realizan ataques
de información multimedia y multiplataforma, buscando
influenciar la audiencia, desacreditar adversarios o
distorsionar la realidad (Watts, 2019).
La desinformación audiovisual busca una alteración
altamente convincente de las percepciones, utilizando
técnicas como insinuación, presuposición y sobreentendido,
entre otras (Grijelmo, 2017; Bjola y Pamment, 2019). La
capacidad de generar nuevas evidencias, especialmente en el
caso audiovisual, deja la verdad en manos de aquellos que
pueden crear percepciones (Paris; Donovan, 2019).
La desinformación supone una amenaza, no solo por la
información falsa que transmite, sino también por su
capacidad para erosionar la confianza en las evidencias
basadas en información visual (Barnes; Barraclough, 2019).
En esta era digital, el combate contra la desinformación
requiere no solo verificar la veracidad de las noticias sino
también abordar la pérdida de confianza y referencias en la
sociedad (Bennett; Livingston, 2018).
Para las pautas de presentación, siga las instrucciones
emitidas por el sistema del sitio web de la revista de la EPN.
3. DESINFORMACIÓN VISUAL EN EL ÁMBITO
COGNITIVO
En el contexto actual de conflictos híbridos en el siglo XXI,
se predice que la utilización de la fuerza convencional será
 Preparación de Artículos para la Revista Politécnica
limitada, centrándose más en el ámbito financiero y digital.
La desinformación, especialmente mediante técnicas digitales
avanzadas como las deep-fakes, se ha convertido en una
herramienta insidiosa que afecta la opinión pública,
exacerbada por la rapidez de las redes sociales en la
propagación de noticias falsas.
El cambio en la definición clásica de guerra, donde la
violencia física era central, ahora implica la capacidad de
influir en las decisiones a través de medios no tradicionales.
La introducción de inteligencia artificial para crear deep-
fakes, junto con la realidad virtual y aumentada, representa
un salto cualitativo en las formas de desinformación.
En este contexto, el profesional de la información se enfrenta
al desafío de mantener la credibilidad en un entorno saturado
de información dudosa. La responsabilidad recae en destacar
la veracidad y contrastar la información, guiándose por
principios periodísticos sólidos.
El ámbito cognitivo, aún en desarrollo doctrinal en muchas
fuerzas armadas, se refiere al espacio no físico de
operaciones centrado en las percepciones humanas. En
España, se define como el espacio que abarca acciones,
procesos y efectos relacionados con las percepciones
humanas, la capacidad de juicio y toma de decisiones, así
como la conciencia grupal. Se vincula a la gestión conceptual
y estratégica de la información para influir en la audiencia
objetivo.
Este ámbito cognitivo se suma a otros, como terrestre, naval,
aéreo, espacial y cibernético, pero se distingue al no actuar
directamente sobre la realidad, sino sobre percepciones y
emociones. Las operaciones en este ámbito buscan afectar las
decisiones humanas manipulando percepciones,
aprovechando sesgos individuales y grupales.
La desinformación, especialmente a través de imágenes
falsas, se propaga principalmente en redes sociales y medios
marginales, generando desconfianza en el ecosistema
informativo. La manipulación de percepciones busca afectar
la voluntad de la audiencia, siendo las imágenes con
contenido falseado distribuidas a través de diversas
plataformas.
4. TAXONOMÍA
Algunas taxonomías generales relativas a falsas noticias,
como la que se recoge en (Molina et al., 2019), las divide en:
- noticias falseadas
- contenido polarizado
- sátira
- informes falsos
- comentarios
- información persuasiva;
- periodismo ciudadano simulado.
Esta tipología estaría insertada en cuatro dominios: el
mensaje, la fuente, la estructura y la red.
En cuanto a imágenes con contenido falseado, la clasificación
más habitual considera tres grandes grupos:
Revista Politécnica- XXXX 202X, Vol. XX, No. X
descontextualización, memes y manipulación (Garimella;
Eckles, 2020). Sin embargo, deja fuera las categorías más
sutiles de
manipulación, que son también las más conflictivas y de
mayor interés. Por este motivo, el artículo propone una nueva
clasificación más completa y que incluye actores e
intenciones, como se discute a continuación.
A partir de las ideas recogidas por Garimella y Eckles (2020)
y Paris y Donovan (2019), que sugieren una graduación
desde deep-fakes hasta descontextualización, se propone en
primer lugar una ampliación de las clasificaciones existentes
que recoja los siguientes tipos:
- imágenes descontextualizadas, es decir utilización de dobles
o atribución de la acción a un momento o lugar diferente
del original; como denuncia
https://www.elespanol.com/reportajes/
20171006/252225238_0.html
- imágenes parciales;
- imágenes/videos retocados, incluyendo alteraciones en la
velocidad;
- imágenes/videos alterados digitalmente;
- deep-fakes;
- imágenes/videos generados digitalmente ex novo, que se
pueden utilizar en la generación de perfiles falsos en redes
sociales (Povolny; Chick, 2020; Hartman; Satter, 2020).
Figura 1. Sobre la fotografía original (centro) se pueden ofrecer dos
relatos antagónicos mostrando solamente una parte de la realidad.
https://networkedthought.substack.com/p/reusable-media-fact-checking
La combinación de dos clasificaciones da lugar a un mapa de
cuadrantes que identifica objetivos, actores y niveles
tecnológicos en la creación de imágenes falseadas. Cuatro
escenarios principales emergen, dos requiriendo tecnologías
avanzadas de IA y dos solo necesitando conocimiento
experto:
Cuadrante superior derecho: Operaciones de influencia,
típicamente interesantes para agentes estatales, con imágenes
deep fakes que buscan desinformación y manipulación.
Cuadrante superior izquierdo: Enfoque de marketing, con
interés de grandes corporaciones o partidos políticos que
buscan propaganda o desprestigiar al rival.
Cuadrante inferior derecho: Búsqueda de conflicto, ocupado
por grupos de interés sin acceso a tecnologías avanzadas,
utilizando imágenes retocadas para influir en la percepción de
la audiencia.
Cuadrante inferior izquierdo: Prosumer, productor y agente
de la economía de la atención que contribuye a viralizar
imágenes con contenido falseado en redes sociales.

Los cuadrantes, especialmente los que involucran tecnologías

avanzadas con propósitos criminales o bélicos, plantean
preocupaciones significativas. La atribución de la autoría o la
detección de manipulación puede ser lenta, creando desafíos
para evitar efectos no deseados.

La descripción en cuadrantes es una aproximación a la

complejidad del tema, ya que las mismas técnicas pueden
aplicarse de diversas maneras. Por ejemplo, un "face swap"
puede ser satírico, legal o incluso delictivo según el contexto
y el propósito. A pesar de las diferencias, todos los actores
pueden utilizar diversas técnicas según sus recursos y
objetivos específicos.

Figura 3. Ejemplos de contenidos manipulados según la taxonomía

propuesta.

El desarrollo del deep-fake marcó un hito al aplicarse

inicialmente a audios y posteriormente al tratamiento gráfico,
representando un avance cualitativo significativo (Bregler,
Covell y Slaney, 1997). Para alterar videos, los algoritmos de
IA generan imágenes sintéticas mediante procesos de
extracción de parámetros y generación, siendo la duración del
proceso proporcional a la calidad del resultado (Thompson et
al., 2020). Aunque el uso de deep-fakes es aún limitado, su
complejidad técnica y requisitos de conocimiento reducen su
accesibilidad al público general (Paris; Donovan, 2019).

Las aplicaciones de deep-fakes varían, desde mejoras en

imágenes médicas hasta su uso en la industria
cinematográfica y fraudes, como un caso documentado en
Figura 2. Taxonomía de las imágenes con contenido falseado y escenarios
de uso. Propuesta de los autores.
2019 que involucró la síntesis de un audio para estafar a un
CEO (Stupp, 2019). Herramientas disponibles en línea, como
AI DeepFake o DeepNude, facilitan la manipulación de
imágenes y videos (Greengard, 2019).

El impacto de los deep-fakes en la sociedad abarca áreas

como el proceso político, el mantenimiento del orden y la
confianza en los medios audiovisuales (Turek, 2019). La falta
de certeza sobre la autenticidad de documentos gráficos
permite el "dividendo del mentiroso", desviando la
responsabilidad y afectando percepciones (Chesney; Citron,
2018).

El crecimiento de deep-fakes está vinculado a intereses

políticos y económicos, representando un desafío para la
detección y generando desinformación (Brennen et al., 2020).
La tecnología avanza hacia formas más sofisticadas,
desafiando la detección visual directa (Sayler; Harris, 2019).

Además de los deep-fakes, la realidad virtual (RV) y la

realidad aumentada (RA) también influyen en la
manipulación de imágenes. Aunque su uso actual se centra en

Revista Politécnica- XXXX 202X, Vol. XX, No. X

 Preparación de Artículos para la Revista Politécnica
aplicaciones controladas, su potencial manipulador y su
capacidad para provocar "contagios emocionales masivos"
son temas de preocupación (Kramer; Guillory; Hancock,
2014).
5. CONTRAMEDIDAS Y FACT-CHECKING PARA
COMBATIR DESINFORMACIÓN VISUAL
Las contramedidas contra la desinformación visual no deben
depender únicamente de la tecnología. La clave radica en una
estrategia comunicativa proactiva con una política clara y
honesta, construyendo una buena reputación que dificulte la
introducción de desinformación (Calvo-Albero et al., 2020;
Castro-Martínez, 2019). La desconfianza en instituciones y
élites es explotada por la tecnología para difundir
desinformación (Calvo-Albero et al., 2020). La pérdida de
confianza en las comunicaciones institucionales abre la
puerta a fuentes alternativas (Bennett; Livingston, 2018).
La lucha contra la desinformación es prioritaria para las
autoridades militares, destacando la creación de centros de
excelencia como el Stratcom Centre en Letonia (Stratcom
Centre of Excellence) (https://www.stratcomcoe.org). Sin
embargo, combatir la desinformación no es solo proporcionar
datos contrapuestos, ya que el sujeto está inmerso en una
experiencia emocional. Destacar el marco emocional puede
ser clave para que la audiencia rechace la desinformación
(Arendt, 2006; Howard, 2020).
En el ámbito tecnológico, se han desarrollado sistemas
automatizados para evaluar la veracidad de noticias y la
detección de deep-fakes. Algunos algoritmos superan a los
verificadores humanos en ciertos atributos cuantificables
(Flores-Vivar, 2019). La identificación precisa de imágenes
deep-fake es compleja, y la competencia entre generación e
identificación aumenta la incertidumbre (Gregory, 2020).
Programas como MediFor y SemaFor, de la agencia Darpa,
se centran en garantizar la integridad y describir la
manipulación de imágenes.
La mitigación de amenazas se centra en operar sobre las
audiencias para minimizar la probabilidad de éxito de la
desinformación. La correlación entre nivel educativo, juicio
crítico y libertad de prensa destaca la importancia de la
alfabetización mediática (Lessenski, 2018; Horowitz, 2019).
Sin embargo, la identificación de imágenes por algoritmos
difiere de la percepción humana, lo que plantea desafíos en la
conducción autónoma y otros campos (Zittrain, 2019).
La introducción de marcas de agua digitales y soluciones
legislativas, como la Malicious deep fake prohibition act, se
exploran para abordar el problema de las deep-fakes
(Alipour; Gerardo; Medina, 2019; Sasse, 2018). Sin embargo,
la legislación específica y su evolución plantean desafíos en
la delimitación entre la libertad de expresión y el abuso de la
misma (Greengard, 2019; Barnes; Barraclough, 2019). La
dispersión de la legislación aplicable y las dificultades en la
atribución de la autoría del ataque son preocupaciones
adicionales (Barnes; Barraclough, 2019).
Revista Politécnica- XXXX 202X, Vol. XX, No. X
REFERENCIAS
 Libros con un autor:
En las referencias:
Darwin, Charles. (1859). On the Origin of Species. Editorial Murray.
Tolkien, J.R.R. (1954). The Fellowship of the Ring. Houghton Mifflin.
 Libros con dos autores:
Pinker, Steven, y Bloom, Howard. (1990). Natural Language and
Natural Selection. Editorial Routledge.
Brown, Daniel, y Miller, Emily. (2012). The Art of Computer
Programming. Addison-Wesley.
 Libros con dos o más autores:
García, María, López, José, y Rodríguez, David. (2016).
Nanotecnología: Principios y aplicaciones. Editorial Científica.
White, Sarah, Taylor, Michael, et al. (2008). Advances in Neuroscience
Research. Academic Press.
 Artículos en revistas:
Rodríguez, Laura. (2015). "Machine Learning Algorithms in
Healthcare". Journal of Medical Informatics, 30(2), 78-94. DOI:
10.5678/jmi.2015.4321
Wang, Chen. (2013). "Quantum Computing: A Review". Physics
Today, 66(7), 34-39. DOI: 10.1063/PT.3.2061
Lee, Hye. (2017). "Neural Networks for Image Recognition".
Computer Vision Journal, 45(3), 210-225. DOI: 10.789/cvj.2017.5432
Chen, Xin. (2019). "Blockchain Technology in Supply Chain
Management". International Journal of Logistics Management, 25(4),
112-128. DOI: 10.1080/09537287.2019.1688415
 Artículos sin DOI:
Gómez, Luis. (2016). "Advancements in Renewable Energy
Technologies". Renewable Energy Journal, 12(2), 45-60. Recuperado
de https://www.renewableenergyjournal.com/article-789
Kim, Yoon. (2018). "Applications of Augmented Reality in
Education". Educational Technology Review, 7(1), 34-50. Recuperado
de https://www.edtechreview.com/article-234
 Artículos en línea:
Patel, Raj. (2020). "Ethical Considerations in Artificial Intelligence
Research". Journal of Ethics in Technology, 5(3), 123-145. Recuperado
de https://www.jethics.org/article-567
Chang, Mei. (2021). "The Future of Space Exploration". Space Science
Review, 18(4), 210-225. Recuperado de
https://www.spacereview.org/article-876
BIOGRAFÍA
Idoia-Ana Salazar-García
OdiseIA
Universidad San Pablo CEU
Fotografía Facultad de Humanidades y
actualizada
Ciencias de la
del autor Comunicación
 Paseo de Juan XXIII, 3. 28040 Madrid, España
idoiaana.salazargarcia@ceu.es

Ángel Gómez-de-
Ágreda
Universidad Politécnica de
Fotografía Madrid
actualizada Ministerio de Defensa
del autor Paseo de la Castellana, 109
28071 Madrid, España
angel@angelgomezdeagreda.es

Revista Politécnica- XXXX 202X, Vol. XX, No. X