FACULTAD LATINOAMERICANA DE CIENCIAS SOCIALES

PROGRAMA URUGUAY

Diploma para el abordaje de las violencias hacia las infancias y

adolescencias - CICLO 1

Cohorte IV

Montevideo, 17 de Abril de 2023

TRABAJO FINAL DEL DIPLOMA

Infancias y adolescencias a través de los ojos de la inteligencia
artificial: el caso de Midjourney

Presenta:
Raúl Cebrián Bessini
ÍNDICE

INTRODUCCIÓN............................................................................................................................. 1

MARCO TEÓRICO ......................................................................................................................... 2

Sociedad del conocimiento, niñeces y adolescencias................................................................... 2

Breve introducción al concepto y estado actual de la Inteligencia Artificial (IA) ................... 4

Modelo Midjourney de IA ............................................................................................................ 5

Funcionamiento de la IA Midjourney ......................................................................................... 6

Sesgos, androcentrismo y derechos de NN.NN.AA. en Midjourney ......................................... 8

METODOLOGÍA ........................................................................................................................... 10

DATOS RECOPILADOS ............................................................................................................... 11

Representaciones en espacios públicos ...................................................................................... 11

Representaciones según actividades .......................................................................................... 12

Representaciones según características de las/os sujetos ......................................................... 12

ANALISIS DE DATOS Y CONCLUSIÓN ................................................................................... 13

BIBLIOGRAFÍA ............................................................................................................................. 16
INTRODUCCIÓN
Resulta estremecedor observar hasta qué punto determinados momentos de expansión
tecnológica son capaces de alterar de manera irreversible los modos de vida de gran parte de
la humanidad en periodos realmente reducidos en términos históricos. Pensar en que, a finales
de la década de 1980, cuando algunos nacíamos en lo que posteriormente sería descrito como
la generación millennial, el uso de internet en el ámbito doméstico era apenas una fantasía.
Hoy, por el contrario, los niños y niñas aprenden las vocales y los números en simultaneo
con el uso de terminales de acceso a la red de redes. Todo esto en un lapso de 40 años.

El ritmo al cual nos hemos habituado a asumir cambios en el cotidiano devenidos de

avances en los campos de la computación, la microelectrónica y las telecomunicaciones no
hace más que incrementarse, son tantos y tan próximos en el tiempo que difícilmente nos
podemos dar el lujo de parar y pensar sobre las consecuencias de estos cambios, de si
queremos o no asumirlos, de hacia que dirección deseamos que se orienten; lejos están estas
reflexiones cuando el mantra contemporáneo es lapidario: adaptarse o quedar obsoleto.

Uno de estos cambios explosivos y radicales es el fenómeno asociado al desarrollo

de la inteligencia artificial. Un concepto que ha pasado, casi de repente, del ámbito ciencia
ficción a generar modelos funcionales para su uso masivo por parte de cualquiera que lo
desee y tenga un teléfono móvil. Según diversos estudios se estima que actualmente las
Inteligencias artificiales (IA) más potentes son apenas capaces de alcanzar el 10% del nivel
de inteligencia humano (Terrones, 2020); con esta capacidad, modelos de IA como Chatgpt
son capaces de proponer acciones concretas para luchar contra el cambio climático o mejorar
los sistemas de salud, Dall-e 2 o Midjourney son capaces de generar imágenes originales
capaces de engañar a jurados de concursos de arte, y ganarlos,

En un contexto en el que las infancias y adolescencias, concepto que emplearemos en

plural atendiendo a la diversidad de las mismas y las interseccionalidades (Crenshaw, 2016)
que las atraviesan, hacen un mayor uso de internet y tienen una facilidad para acceder a los
contenidos allí almacenados con mucha mayor fluidez que el mundo adulto, la cuestión de
las inteligencias artificiales (artífices de cada vez más de estos contenidos) debe de ser un
tema de ocupación para una sociedad que proclama considerar a este colectivo como sujeto
de especial protección. De manera repentina y difícilmente reversible, las inteligencias

1
artificiales se están constituyendo como un vector que, con su capacidad creciente para
elaborar discursos y representaciones, avanzan en su capacidad de influir en el conjunto de
la sociedad.

Esta monografía se origina frente a lo que consideramos riesgos de ignorar o

desatender la orientación en el desarrollo de esta tecnología, y a la afectación que tiene y que
tendrá sobre los NN.NN.AA.. Sin dejar de ser un trabajo de carácter introductorio, trataremos
de establecer una conexión inicial entre el desarrollo de la inteligencia artificial y su
capacidad de impacto sobre las percepciones, representaciones y derechos de las infancias y
adolescencias.

Especial mención requiere el Dr. en filosofía Antonio L. Terrones en cuya tesis

doctoral y consejos me he apoyado para la elaboración de esta monografía (véase Terrones,
2020).

MARCO TEÓRICO
Sociedad del conocimiento, niñeces y adolescencias
Del mismo modo que Antonio L. Terrones (2020), entendemos que para analizar
cualquier fenómeno relativo a las inteligencias artificiales debemos de tomar como punto de
partida el marco de referencia en el que éstas han nacido. Múltiples autoras/es coinciden en
establecer como este marco lo que denominamos como sociedad del conocimiento, una
coyuntura real y presente donde el saber y el conocimiento son la cima de la pirámide en
cuanto a la medición del poder, sea este político o económico, que además son convertidos
en producto y moneda, moneda con la cual las sociedades son capaces de comprar “progreso
y bienestar” (Terrones, 2020, p. 37).

La mercantilización del conocimiento no es un elemento novedoso, pero sí este papel

preponderante en la pirámide del poder. Para entender este cambio podemos emplear el
concepto de sociedad líquida (Bauman, 2006) que define un mundo sometido a cambios
constantes en las condiciones y estructuras que lo determinan, aquellas/os con mayor
capacidad de aprender y adaptarse a dichos cambios tendrán una capacidad de desarrollo
superior al resto. El anterior no es el único concepto importante para entender el valor
creciente de conocimiento y el saber en la actual coyuntura, también debemos de entendernos
como sujetos que habitan una sociedad en red (Castells, 1999) que, con el uso generalizado
2
de terminales de acceso a internet son capaces de generar lo que a finales del siglo pasado el
autor consideraba como “vastas comunidades” (p. 46) y que hoy se ven concretadas en redes
sociales y plataformas virtuales capaces de generar interacciones entre miles de millones de
personas. Esta capacidad de interactuar casi con cualquiera en un entorno sin restricciones
locativas aumenta en un grado jamás visto la capacidad de compartir o intercambiar este
saber y conocimiento, este poder. Resulta fácil inferir los peligros que podría suponer el
acopio excluyente de este poder o la capacidad para administrarlo con fines meramente
lucrativos.

No obstante, hay miradas que abordan las oportunidades que brinda la sociedad del
conocimiento, en particular para las niñeces y adolescencias con acceso a la sociedad en red.
J. Sanchez nos ofrece un horizonte donde “la participación de la infancia en la nueva
Sociedad del Conocimiento constituye un encuentro repleto de significaciones sociales que
contamos con la esperanza de que altere notablemente el contexto actual de postergación que
soportan los niños en el mundo” (2008, p. 25). Sin caer en una visión naif de la realidad, este
mismo autor asume el papel subalterno de las niñeces (y también las adolescencias) que
suponiendo aproximadamente un tercio de la población mundial siguen estando, como
sabemos que han estado desde que una cantidad marginal de los esfuerzos científicos se ha
dedicado a estudiar a este colectivo, sometidos a una “invisibilidad política y social […] que
repercute en el grado de discriminación y desigualdad que soportan” (p. 27) y este fenómeno
no puede ser obviado si aspiramos a que dicha sociedad del conocimiento tenga un carácter
mínimamente democrático.

Esta introducción tan sucinta al marco en el que se desarrollará esta monografía

genera múltiples preguntas en relación al papel que ocupan o al que son sometidas las niñeces
y adolescencias en la sociedad del conocimiento: si las/os NN.NN.AA. con acceso a internet,
al haberse desarrollado en una era ampliamente digitalizada, tiene mayor facilidad para el
uso y circulación en los espacios virtuales donde se acopia el conocimiento, ¿implica esto
una inversión del proceso tradicional y adultocéntrico de trasmisión de conocimientos?,
¿tienen las/os NN.NN.AA. libertad y capacidad para acceder a todos los conocimientos y
saberes acopiados en la red o esta capacidad es relativa?, ¿el ostracismo al que se ha sometido
históricamente a las infancias y adolescencias opera también en el espacio virtual?, ¿hemos

3
sido capaces de proteger los derechos de NN.NN.AA. en un contexto tecnológico marcado
por su desarrollo explosivo y vertiginoso? o, anticipándonos al próximo epígrafe, ¿qué papel
juegan las IA a la hora de determinar el desarrollo de las infancias y adolescencias presentes
y futuras? Si bien este trabajo no pretende dar respuesta a ninguna de las preguntas planteadas
anteriormente (ni a las muchas más que pueden ser planteadas) trataremos de aproximarnos
a la capacidad de influencia de las IA sobre el rol y el poder que en la sociedad tienen o
tendrán asignado más de un tercio de la población mundial.

Breve introducción al concepto y estado actual de la Inteligencia Artificial

(IA)
El concepto de IA es estudiado por múltiples disciplinas académicas y escuelas de
pensamiento, no es de extrañar que no obtengamos un enfoque unívoco a la hora de hallar
una definición. Dado que este trabajo aborda elementos sociales y de derecho que se hagan
presentes en la vida de las infancias y adolescencias, hemos optado por seleccionar las
definiciones que desde la perspectiva ética nos aporten mayos comprensión sobre las
concreciones operativas de la inteligencia artificial. A. Boden inicia su definición con una
aseveración altamente abarcativa: “La inteligencia artificial (IA) tiene por objeto que los
ordenadores hagan la misma clase de cosas que puede hacer la mente” (2017, p. 11), si bien
Boden va concretando después esta aseveración, nosotros optaremos por complementarla con
la visión de N. Nilsson que atribuye a la mente el comportamiento inteligente y lo vincula
con las IA de la siguiente manera: “supone percibir, razonar, aprender, comunicarse y actuar
en entornos completos. Una de las metas a largo plazo de la IA es el desarrollo de máquinas
que puedan hacer todas estas cosas igual, o quizá incluso mejor, que los humanos.” (2001, p.
1). Esta visión, que consideramos puede considerarse asumida casi como un axioma en el
desarrollo de las IA en la actualidad, supone por necesidad que éstas tienen como finalidad
imitar la capacidad de pensamiento humano de manera autónoma y si, en la misma capacidad
que sea capaz de imitarlo, seremos (¿serán?) capaces de sustituir uno por otro. No hablamos
de ciencia ficción, calcular o traducir (por poner algunos ejemplos) son actividades que las/os
humanos/as delegan cada vez más en las IA, tan presentes están ya en nuestro día a día.

Una definición más específica y desarrollada es la aportada por Vinuesa et al.:

4
 …consideramos como IA cualquier tecnología de software con al menos una de las siguientes
capacidades: percepción, que incluye audio, visual, textual y táctil (p. ej., reconocimiento
facial), toma de decisiones (p. ej., sistemas de diagnóstico médico), predicción (p. ej.,
pronóstico del tiempo), extracción automática de conocimiento y reconocimiento de patrones
a partir de datos (p. ej., descubrimiento de circulación de noticias falsas en las redes sociales),
comunicación interactiva (p. ej., robots sociales o bots de chat) y razonamiento lógico (p. ej.,
desarrollo de teorías a partir de premisas). Este punto de vista abarca una gran variedad de
subcampos, incluido el aprendizaje automático. (2006, pp. 1-2)

Esta definición, sumada a las aportadas anteriormente, podría haber descrito de

manera bastante cercana la realidad de las IA hace poco más de un año. No obstante, nos
encontramos ante un estallido tecnológico (propio de la sociedad del conocimiento
anteriormente mencionada) relacionado con la inteligencia artificial, ahondaremos más en
ello cuando desarrollemos el concepto de la IA seleccionada para este análisis en concreto.

Modelo Midjourney de IA
Como hemos visto anteriormente, inteligencia artificial es un concepto de una
amplitud inmensa, un paraguas que abarca diferentes perspectivas. Para ser capaces de
realizar una descripción discriminada y más específica del modelo de IA sobre el que estamos
investigando ha sido realmente útil la categorización que hace de Midjourney el periodista
especializado en tecnología A. Maruccia, quien la define como “algoritmo de aprendizaje
automático” (2020) concepto más conocido dentro del ámbito de la computación como
machine learning. Consideramos de mucha importancia detenernos y, sin tratar de
profundizar como lo haría un especialista en programación, sí al menos tener una noción
elemental de a qué nos referimos con machine learning:

Es una rama de la Inteligencia Artificial que se encargade generar algoritmos que tienen la
capacidad de aprender y no tener que programarlos de manera explícita. El desarrollador no
tendrá que sentarse a programar por horas tomando en cuenta todos los escenarios posibles
ni todas las excepciones posibles. Lo único que hay que hacer es alimentar el algoritmo con
un volumen gigantesco de datos para que el algoritmo aprenda y sepa qué hacer en cada uno
de estos casos. (Sandoval, 2018, p. 37)

Como vemos, ya nos vamos a aproximando a algunas claves sobre la base de

funcionamiento de este modelo como son, su capacidad de perfeccionarse en la realización
5
de la tarea para la que se desarrolló, su independencia de supervisión continua una vez
desarrollado y su necesidad de recibir alimento, es decir, datos no autogenerados para poder
funcionar.

Con esta aproximación, altamente superficial a la base elementar del funcionamiento

del modelo de IA empleado por Midjourney podemos empezar a describir su funcionamiento
en términos operativos, es decir, qué produce Midjourney y en cierta manera cómo lo hace.

Funcionamiento de la IA Midjourney
En una entrevista al portal web especializado en tecnología y divulgación científica
The Verge, David Holz (fundador y CEO de Midjourney Inc.) definía la función de la IA
Midjourney como un modelo capaz de “crear imágenes a través de la comprensión del
lenguaje” (Holz, 2022). En términos generales, la experiencia de un/a operador/a1 básico de
Midjourney es exactamente esa: introduce un conjunto de palabras2 que la IA reconoce,
relaciona e interpreta generando como producto un conjunto de cuatro imágenes creadas in
situ por el algoritmo base para que el/la operador/a, de entre las cuatro, seleccione la más
aproximada a su idea (comprensión) de los parámetros solicitados con palabras. Un
funcionamiento tan aparentemente simple en su operatividad encierra unas capacidades
altamente sofisticadas, pues la IA no solo tiene que reconocer la idea de cada una de las
palabras, si no también establecer una relación lógica entre ellas para crear (no para
seleccionar de entre otras imágenes preexistentes) una composición visual coherente, todo
ello de manera automatizada.

Ya tenemos pues dos de las claves mencionadas anteriormente en el concepto

learning machine, su autonomía a la hora de ejecutar las funciones paras las cuales ha sido
desarrollada y su capacidad de aprendizaje, esta última se produce cuando la persona que
opera con la IA selecciona cual de las cuatro composiciones generadas es la más adecuada a
los parámetros introducidos. Midjourney, lejos de generar un nuevo proceso de creación
desde cero en la confección de cada una de sus composiciones visuales, guarda todas y cada
una de sus interacciones con humanos/as (millones al día) para perfeccionarse, generando

1
El concepto operador/a hace referencia a la persona que interactúa con la IA

6
imágenes cada vez más aproximadas a la idea de(l) la usuario/a a trasvés de su interacción
con el/la mismo/a.

No obstante, todavía hay una característica no detallada completamente, y es la

necesidad de Midjourney de ser alimentada con datos. Parte de este alimento lo constituyen
las palabras por escrito introducidas por el/las operador/a y que constituyen la descripción de
la idea. No obstante, la IA carece de la experiencia perceptiva que le permitiría, por sí misma,
asociar cada concepto escrito con las infinitas posibles representaciones visuales del mismo.
Así pues, a falta de esta experiencia, requiere de una base de datos de dimensiones enormes
para poder interpretar de manera gráfica el lenguaje escrito. ¿De dónde, entonces, obtiene
Midjourney estos registros? De la base de datos más grande creada hasta ahora por la
humanidad, la web. El algoritmo que demarca el comportamiento de la IA genera una
búsqueda a través de internet, de entre todo el acervo de imágenes digitalizadas y
almacenadas en la misma, de cada uno de los conceptos introducidos a través de palabras y
así tener recursos visuales suficientes para confeccionar sus composiciones. La subsiguiente
pregunta podría ser, ¿pero como sabe una máquina que las representaciones gráficas
existentes en la web de, por ejemplo, un escritorio, corresponden realmente con la
representación visual entendida por una persona de escritorio? La respuesta es que
nosotras/os previamente se lo hemos indicado, bien en el nombre con el cual guardamos el
archivo de imagen, bien en su descripción, en el nombre del directorio en el que se clasifica,
en el contexto en el que está insertada u otros mecanismos mediados en un primer momento
por un ser humano.

Ya vemos que, si bien la IA con la que estamos interactuando es ciertamente autónoma

una vez desarrollada y dotada de datos, todo este proceso previo al inicio de su
funcionamiento independiente está mediado por acciones y decisiones humanas, pero que no
necesariamente incluyen de manera equitativa a toda la humanidad. Es aquí donde es
necesario introducir un concepto final como clave de bóveda para esta monografía, los
sesgos.

7
Sesgos, androcentrismo y derechos de NN.NN.AA. en Midjourney
Hasta el momento los aportes recogidos en este documento han tenido como objeto
principal sentar una base en el lector para aproximarse al concepto de inteligencia artificial,
en especial en lo que refiere a los aspectos operativos del modelo Midjourney, no obstante,
no hemos fundamentado la relevancia que estos elementos tienen en la realidad de las niñeces
y adolescencias en la actualidad. El presente epígrafe tiene como objeto mostrar y argumentar
la colisión entre estas dos categorías de análisis.

Para comenzar es necesario aproximarnos al concepto de sesgo, para ello hemos

escogido una definición que nos ayude a contextualizar como se resuelven las tomas de
elección en procesos con mucha información disponible (tal como el contexto de
funcionamiento de Midjourney). Una de las descripciones que nos pueden ayudar en esta
contextualización es la que S. Rampello realiza de los sesgos:

Para tomar decisiones es necesario contar con información y para ello se precisará buscarla.
[…] Pero sucede que hay mucha más información de la que podemos procesar. Precisamente
aquí es donde comenzamos a utilizar criterios propios para fraccionar esa información, donde
distinguimos lo que consideramos relevante de lo que no. (2019, p. 90)

De lo anterior se deduce que en toda toma de decisión hay pérdida de información, y

esto nos puede llevar a hacernos una pregunta: en los millones de procesos de toma de
decisión que tiene que realizar la IA Midjourney diariamente, ¿quién decide cuál es la
información relevante o irrelevante? Hay dos operaciones en el mecanismo de
funcionamiento de la IA que indican que es el factor humano quien sigue encargado de
discernir esta cuestión:

1. La IA requiere de un acervo de documentos gráficos cuya creación y

taxonomía dependen de la acción humana.
2. La IA requiere de la valoración humana de sus resultados para validar sus
resultados, aprender y generar soluciones cada vez más acordes a los deseos
de sus operadores/as.

Surge aquí un nuevo interrogante: si estas millones de decisiones diarias están

determinadas por los sesgos de las/os millones de operadores/as humanos/as, ¿cómo esto
puede generar sesgos concretos hacia segmentos de la población específicos como las/os
8
NN.NN.AA? Una posible respuesta se encuentra en el entendido de que estos/as millones de
operadores/as humanos/os conviven en el “sustrato de una sociedad fuertemente
adultocéntrica y patriarcal” (Morales y Magistros, 2019, p. 23). Existe una extensa
bibliografía acerca de estos dos conceptos que de acuerdo con las autoras están entrelazados
con las estructuras dominantes de las sociedades contemporáneas (y en las precedentes); pero
si este análisis quiere aproximarse a cómo se generan sesgos comunes en las representaciones
conceptuales hay un elemento central que abarca y supera a estos dos conceptos, el
androcentrismo. Esta construcción hace referencia a un modelo social donde el sujeto varón,
caucásico, cisgénero, heterosexual, adulto con capital económico y cultural3 (Gómez, 2020)
es el sujeto de poder, el modelo al cual aspirar o frente al cual ser sometido/a. Si observamos
las categorías que hemos empleado para definir el sujeto andros podemos observar que todas
ellas son exclusivas y excluyentes, fáciles de emplear como marco de referencia para
establecer el valor o significancia de lo diferente al modelo hegemónico.

Este trabajo no tiene como objeto analizar el grado de implantación del modelo
androcéntrico en las sociedades contemporáneas, no obstante, existen múltiples análisis en
relación a la pobreza, el reparto del poder político y económico, la representación en los
procesos de participación, uso del lenguaje y otros fenómenos sociales que nos hacen inferir
que cuanto menos este grado de implantación es significativo.

Asumiendo lo anterior, también debemos de asumir que una sociedad con un fuerte
carácter androcéntrico entra en plena contradicción con una sociedad donde las infancias y
adolescencias sean contempladas en las condiciones establecidas en la Convención de
Derechos del Niño, no sólo como sujetos de derecho si no también como “seres pensantes,
capaces de formarse juicios e ideas propias en función de su grado de desarrollo” (Giorgi,
2019, p. 330). En su análisis sobre el 30º aniversario de la CDN, V. Giorgi advierte de la
necesidad de transformación del paradigma imperante, trasformación que necesariamente va
a ser precedida por un proceso de conflicto para “restablecer relaciones de autoridad que se
sienten amenazadas” (p. 330). Todo proceso de trasformación de paradigma debe de
reconocer la existencia de un paradigma precedente y, con respecto a las niñeces y

3
Nos tomaremos la licencia de añadir a esta definición la característica plenamente funcional, elemento no
analizado por la autora pero significativo si pretendemos ampliar el marco de diversidad como
contraposición al marco de androcentrismo

9
adolescencias estos dos paradigmas están demarcados por un modelo adultocéntrico y
patriarcal que se hace cuerpo en el androcentrismo o una sociedad equitativa que habilite un
“empoderamiento básico” (p. 330) de NN.NN.AA.

Éste es el punto de colisión planteado al inicio de este epígrafe, en un proceso de

pugna por la revalidación o impugnación del paradigma hegemónico, ¿qué papel juega la
inteligencia artificial? Ciertamente este papel todavía se encuentra en desarrollo, tanto en sus
dimensiones técnicas como éticas, pero de la lectura del profundo estudio de A. Terrones
(2020) sobre la cuestión podemos establecer dos escenarios:

Escenario 1: la IA, en el desarrollo de sus algoritmos, “hereda los prejuicios y

requisitos sociales que el ser humano empleaba” (Terrones, 2020, p. 154), en nuestro
caso los prejuicios de tipo androcéntrico.

Escenario 2: con la condición de “evitar los sesgos injustos, los sistemas de IA

podrían incluso aumentar la equidad social” asumiendo en el desarrollo de las IA
“principios éticos aplicados a la IA favorecen el cultivo de habilidades cívicas y
democráticas desde una orientación humanista de la tecnología”. (Terrones, 2020, pp.
77-78).

METODOLOGÍA
Trazaremos como objetivo fundamental de esta monografía reflejar el grado de
adherencia que las representaciones gráficas generadas por Midjourney tienen con los valores
androcéntricos y el ostracismo de la infancias y adolescencias o, en su formulación contraria,
que grado de diversidad (en concreto de representación de NN.NN.AA.) es capaz de reflejar
la IA en las imágenes que genera.

Para no caer en sesgos de auto-confirmación emplearemos categorías del tipo más

neutro posible para interactuar con la inteligencia artificial, evitando solicitar la
representación de espacios, acciones o situaciones donde no es general la presencia de
NN.NN.AA..

Los resultados de este análisis estarán circunscritos al nivel de desarrollo actual de la

IA.

10
 El método de investigación será cuantitativo y de una única variable: el grado de
representatividad que la IA concede a las infancias y adolescencias en ambientes y
actividades y características neutras4. De manera colateral, se analizarán las variables
relacionadas con el grado de diversidad étnica, de género o de diversidad funcional aparece
en las representaciones de NN.NN.AA. generadas por Midjourney (si las hubiere).

Para generar nuestra muestra, por cada concepto o idea que le solicitemos a la
inteligencia artificial que represente, generaremos cien imágenes, y analizaremos en qué
porcentaje de las mismas hay presencia de NN.NN.AA, así como que grado de diversidad
existe entre las representaciones propias de las infancias y adolescencias.

El idioma empleado para introducir los conceptos textuales será el inglés, dado que
es el más habitual en el uso de Midjourney y amplía en un grado muy importante el acervo
de aprendizaje de la IA sobre el cual se genera la muestra.

DATOS RECOPILADOS
Representaciones en espacios públicos
Concepto: personas en una plaza RESULTADO (porcentaje de presencia)
Comando de texto: People in square NN.NN.AA. general 8%
NN.NN.AA. no varones cisgénero 6%
realistic5
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: ninguna Resultado no concluyente6 2%

Concepto: personas en una ciudad RESULTADO (porcentaje de presencia)

Comando de texto: people in the city NN.NN.AA. general 2%
NN.NN.AA. no varones cisgénero 2%
realistic
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: ninguna Resultado no concluyente 0%

4
Entenderemos como ambientes , actividades y características neutras para la confección de los conceptos a
representar aquellas en que no están preferentemente vinculadas al mundo adulto.

5
Se incluye el comando de texto “realistic” para generar imágenes en un estilo realista, todo con el objeto de
que los rostros y cuerpos sean identificados y analizados de manera más precisa en imágenes de multitudes
6
Porcentaje de imágenes en las que, bien por su nivel de definición o por otros factores, no se puede
aseverar que al menos una de las figuras representadas no corresponda con un/a NN.NN.AA., tampoco lo
contrario

11
Concepto: personas en un asentamiento
rural moderno RESULTADO (porcentaje de presencia)
Comando de texto: people in a modern NN.NN.AA. general 32%
NN.NN.AA. no varones cisgénero 20%
country settlement
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: del total de imágenes Resultado no concluyente 8%
generadas con presencia de NN.NN.AA,
más del 50% corresponden a
representaciones de nucleos familiares.

Representaciones según actividades

Concepto: personas conversando RESULTADO (porcentaje de presencia)
Comando de texto: people in square NN.NN.AA. general 0%
NN.NN.AA. no varones cisgénero 0%
realistic
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: ninguna Resultado no concluyente 0%

Concepto: personas disfrutando RESULTADO (porcentaje de presencia)

Comando de texto: people enjoying NN.NN.AA. general 10%
NN.NN.AA. no varones cisgénero 8%
realistic
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: ninguna Resultado no concluyente 0%

Concepto: personas paseando RESULTADO (porcentaje de presencia)

Comando de texto: people walking NN.NN.AA. general 5%
NN.NN.AA. no varones cisgénero 3%
realistic
NN.NN.AA. racializados 0%
Nº de imágenes generadas: 100 NN.NN.AA diversidad funcional 0%
Observaciones: ninguna Resultado no concluyente 0%

Representaciones según características de las/os sujetos

Concepto: persona con derechos RESULTADO (porcentaje de presencia)
Comando de texto: person with rights NN.NN.AA. general 20%
NN.NN.AA. no varones cisgénero 18%
Nº de imágenes generadas: 100
NN.NN.AA. racializados 18%
Observaciones: del total de imágenes NN.NN.AA diversidad funcional 0%
generadas con presencia de NN.NN.AA. el Resultado no concluyente 0%
75% corresponden a adolescentes mujeres
con rasgos árabes y velo o hijab

12
Concepto: personas socialmente RESULTADO (porcentaje de presencia)
vulnerable NN.NN.AA. general 52%
NN.NN.AA. no varones cisgénero 25%
Comando de texto: socially vulnerable
NN.NN.AA. racializados 22%
person NN.NN.AA diversidad funcional 0%
Nº de imágenes generadas: 100 Resultado no concluyente 2%
Observaciones: ninguna

ANALISIS DE DATOS Y CONCLUSIÓN

Los resultados obtenidos a través de la experimentación con Midjourney arrojan datos
relativamente heterogéneos. No obstante, en términos generales, existe una clara tendencia
hacia la infrarrepresentación (cuando no representación insignificante) de las infancias y
adolescencias en los espacios públicos, aumentando esta relevancia en los casos en que la IA
reproduce imágenes de núcleos familiares, que únicamente aparecen cuando incluímos en el
ámbito rural en la solicitud. Esta infrarrepresentación se presenta más acuciante en las
imágenes que tienen que representar a seres humanos realizando acciones, especialmente
relevante es que en ninguno de los resultados obtenidos la IA haya sido capaz de asociar la
figura de un/a NN.NN.AA. realizando una acción tan cotidiana como conversar. Acerca de
las representaciones en función de las características de las/os sujetos, los resultados
arrojados en esta dimensión son altamente disparejos al resto; resulta evidente que la elección
de características no ha sido arbitraria, ha respondido a nuestro interés subyacente más allá
del mero sesgo de representatividad general de los NN.NN.AA, y este interés radica en
valorar la capacidad de Midjourney para contemplar a este colectivo y vincularlo de manera
relevante con en concepto derechos y vulnerabilidad. En este sentido, los resultados arrojan
una mayor representación de las infancias y adolescencias, principalmente cuando se analiza
la representación de la vulneración social.

Sobre el análisis de los datos colaterales, podemos afirmar que nuestros resultados no
han mostrado una sobrerrepresentación de los NN.NN.AA. con estereotipos vinculados a
varones cisgénero, mas bien al contrario, dentro de la representación de las infancias y
adolescencias generadas por Midjourney para este trabajo los estereotipos de este tipo han
sido minoritarios. Caso contrario cuando analizamos los resultados en tanto al sesgo étnico,
pues en las imágenes no vinculadas directamente con derechos o vulnerabilidad no aparece

13
ninguna persona racializada. En tanto a las infancias y adolescencias con diversidad
funcional, la representación ha sido absolutamente nula.

A tenor de estos resultados, pero sin obviar que el estudio ha sido de carácter
introductorio, nuestras conclusiones, más allá de los elementos cuantitativos, no pueden
considerarse más que interpretaciones constituyentes de nuevas hipótesis para continuar
investigando sobre la materia.

Con carácter general, entendemos que la investigación muestra que a pesar de la

cantidad de operadores/as humanos/as que están involucrados en los procesos de desarrollo
de Midjourney, el sesgo adultocéntrico, lejos de ponderarse y moderarse, se ve
retroalimentado. Los contenidos generados por Midjourney, también con carácter general,
estarán ahondando en la invisibilización de las infancias y adolescencias, en especial las que
se encuentran en interseccionalidad con la racialización y la diversidad funcional, pues los
sesgos a este respecto pueden inferirse con igual o mayor intensidad. Considerando que los
contenidos gráficos generados por este modelo de IA diariamente se cuentan por millones, y
que una cantidad significativa de ellos son difundidos a través de redes sociales con una
fuerte implementación en la sociedad, este fenómeno supone una vulneración de derechos
cuyo impacto va a verse acrecentado con el paso del tiempo si no es atendido.

Esta vulneración, generada en a través de mecanismos tan intangibles como el

desarrollo de algoritmos para el aprendizaje a largo plazo de las IA o la taxonomía sobre la
cual se ha ordenado durante las últimas décadas el acervo de datos gráficos en la red, pero
que a su vez genera consecuencias concretas y mesurables sobre los derechos de las infancias
y adolescencias, puede entenderse como la punta del iceberg de un nuevo tipo de violencia:
una violencia virtual en su gestación, pero material en sus efectos.

Al igual que en otros fenómenos como la uberización de las relaciones laborales

(véase Augverón, 2016) que han supuesto cambios abruptos en las relaciones sociales o
económicas, con el caso de las inteligencias artificiales la capacidad regulatoria puede
considerarse a rezago de los avances técnicos. Se hace pues patente la necesidad de señalar
las consecuencias de ignorar los aspectos éticos en el desarrollo de estos avances e
investigarlos en mayor profundidad para ser capaces de prevenir los efectos nocivos para la
conformación de una sociedad equitativa de un progreso carente de control y reflexión,

14
efectos que ya pueden observarse y cuya capacidad de crecimiento es proporcional a la
velocidad con la que se desarrolla la tecnología.

15
BIBLIOGRAFÍA
Auvergnon, P. (2016) Angustias de Uberización y retos que plantea el trabajo digital al
Derecho Laboral en Revista Derecho social y empresa, Nº. 6. Ed. Dickinson (pp. 25-
42)
Bauman, Z., (2006) “Vida líquida” Buenos Aires: Paidós
Boden, M., (2017) “Inteligencia Artificial” Madrid: Turner
Castells, M., (1999) “La Era de la Información: Economía, Sociedad y Cultura: La sociedad
Red” México: Siglo XXI
Crenshaw, K., (2016) The Urgency of intersectionality [Archivo de video]
https://www.ted.com/talks/kimberle_crenshaw_the_urgency_of_intersectionality
Giorgi, V. (2019) 30 años de la Convención sobre los Derechos del Niño: entre movimientos
instituyentes y fantasmas de restauración en Sociedad e Infancias. Madrid: Ediciones
Complutense. (pp. 329 – 334)
Holz, D., (2 de Agosto ed 2022) An engine for the imagination’: the rise of AI image
generators. An interview with Midjourney founder David Holz. The Verge.
https://www.theverge.com/2022/8/2/23287173/ai-image-generation-art-midjourney-
multiverse-interview-david-holz Entrevistado por Vincent J.
Maruccia, A. (10 de noviembre de 2022) Midjourney v4 greatly improves the award-winning
image creation AI. Techspot. https://www.techspot.com/news/96619-midjourney-v4-
greatly-improves-award-winning-image-creation.html
Morales, S. y Magistris, G. (2019) “Niñez en movimiento:del adultocentrismo a la
emancipación”. Buenos Aires: Editorial Chirimbote.
Nilsson J., (2001) “Inteligencia artificial: una nueva síntesis” Madrid: McGraw-Hill
Rampello, S., (2019) “Los sesgos en la toma de decisiones” en Facultad de Ciencias
Económicas y Jurídicas de la UNLPam - Volumen 9 - N° 1. Universidad nacional de
la Pampa; pp. 84 – 95
Sanchez, J., (2008) La infancia en la sociedad del conocimiento en Revista CTS, Nº 11, vol.
4 (pp. 23 – 43) https://dialnet.unirioja.es/descarga/articulo/3044889.pdf
Sandoval, L., (2018) “Algoritmos de aprendizaje automático para análisis y predicción de
datos” en Revista Tecnológica N° 11. ITCA-FEPADE Sede Central: Santa Tecla; pp.
36 – 40

16
Terrones, A. (2020) “Inteligencia artificial responsable. Humanismo tecnológico y ciencia
cívica” [Tesis de doctorado, Universitat de Valencia)
https://roderic.uv.es/bitstream/handle/10550/77016/Inteligencia%20artificial-AT-
FA-20200909.pdf?sequence=2&isAllowed=y
Vinuesa, R. et al. (2006) The role of artificial intelligence in achieving the Sustainable
Development Goals en Nature Communications, Nº 11, pp. 1 - 10

17