Documentos de Académico
Documentos de Profesional
Documentos de Cultura
5. LA PERSPECTIVA MULTIMODAL
5.1 INTRODUCCIÓN
En lo relativo al estudio multimodal, esta tesis se sustenta en postulados teóricos que
dan importancia al análisis e interpretación del lenguaje verbal tomando en consideración
cómo éste se conjuga con los otros modos semióticos presentes en la comunicación visual
(Kress, 2010; Kress y van Leeuwen, 1996, 2001, 2002; Kress, Leite-García y van Leeuwen,
2000/2008; Martinec, 2004; Martinec y van Leeuwen, 2009; Muntigl, 2004, van Leeuwen
2005).
43
La analogía entre el lenguaje verbal y el visual establecida por Kress y van Leeuwen
(1996) no implica que la codificación de las estructuras visuales se realice de la misma
manera que la de las estructuras lingüísticas. La relación es más general: las estructuras
visuales realizan significados, tal como lo hacen las estructuras lingüísticas y, de ese modo,
dan pie a diversas interpretaciones de la experiencia y a diversas formas de interacción
social.
The visual, like all semiotic modes, has to serve several communicational (and
representational) requirements, in order to function as a full system of communication.
We have adopted the theoretical notion of ‘metafunction’ from the work of Michel
Halliday for the purpose of dealing with this factor (Kress y van Leeuwen, 1996: 40).
Para Halliday, una de las cosas que distingue a la gramática sistémica es que otorga
prioridad a las relaciones paradigmáticas: “it interprets language not as a set of structures
but as a network of SYSTEMS, or interrelated sets of options for making meanings (1994:
15). Para él es esencial que la consideración del lenguaje no se limite a un inventario de
estructuras. “A language is a resource for making meaning, an indefinitely expandable
source of meaning potential; constituent structure is a device for mapping different kinds of
meaning onto each other and coding them in concrete form” (1994: 16).
44
In our view signs are never arbitrary, and motivation should be formulated in
relation to the sign-maker and the context in which the sign is produced, and not in
isolation from the act of producing analogies and classifications. Sign-makers use the
forms they consider apt for the expression of their meaning, in any medium in which
they can make signs (Kress y van Leeuwen, 1996: 7).
Por lo anterior, no interesa el estudio del signo aislado, que se centra sólo en las
connotaciones que éste implica. El análisis multimodal, por el contrario, exige el estudio
del signo en conjunción con otros, es decir, inmerso en un medio social, el que se codifica
en las imágenes analizadas. De esta manera, aún cuando la finalidad sea realizar un trabajo
teórico descriptivo, el estudio multimodal exige estudiar cómo se relacionan y combinan
los signos teniendo en cuenta también cómo se conforma la semiosis o asignación de
sentido (Kress et al. 2008: 376) o, en otras palabras, la capacidad humana para significar e
interpretar esos signos.
45
ambos en la conformación de la semiosis. Con esto, se busca dar cuenta de la analogía
establecida por Kress y van Leeuwen (1996) respecto del examen de las representaciones
visuales narrativas y conceptuales y el estudio de la transitividad en el lenguaje verbal
(Halliday, 1985a), centrando así la perspectiva de análisis en la metafunción ideacional,
con la intención de evidenciar en el texto multimodal estudiado de qué manera se relaciona
el modo visual y el verbal oral para la representación de la realidad de la experiencia. Otro
ámbito con el que se busca explorar y establecer nexos entre el modo oral y el visual lo
constituyen las metáforas.
Finalmente, este estudio propone utilizar las herramientas que proporciona van
Leeuwen (2008) para indagar en la representación que se hace de los actores sociales y sus
prácticas, buscando indagar en los nexos que se pueden establecer en el modo verbal y el
visual.
A given culture (or a given context within a culture) has not only his own,
specific array of ways of representing the social world, but also its own specific ways
of mapping the different semiotic modes onto this array, or prescribing, with greater or
lesser strictness, what can be realized verbally and visually, what only verbally, what
only visually, and so on (van Leeuwen, 2008: 25).
Kress y van Leeuwen (1996) aclaran que no todas las relaciones que se observan en el
lenguaje verbal pueden ser observadas en las imágenes, ni viceversa. Más bien establecen
que, aún cuando no son homologables de manera exacta, sí se pueden percibir paralelos y/o
diferencias, los que deberán ser establecidos mediante el análisis.
46
distintos modos que conforman un texto multimodal realizan diferentes tipos de trabajo
semiótico, ya que cada uno tiene distintos potenciales de significado.
El estudio multimodal aislado permite diferenciar cuáles son los modos presentes en
un determinado texto, sea este escrito, oral o visual, pero no puede decirnos nada sobre las
diferencias de estilos, ni qué significados implican esas diferencias. Para responder a lo
anterior, Kress y van Leeuwen (1996, 2001, 2002) plantean la necesidad de tratar el
significado multimodal bajo una teoría que pueda dar cuenta de él en todos sus aspectos y
apariencias, en todos los hechos sociales y en todos los sitios culturales. Esta teoría la
inscriben dentro de lo que denominan, siguiendo a Halliday (1978, 1982, 1985a, 1985b),
Semiótica Social, la que considera el estudio de los signos lingüísticos en relación con las
prácticas sociales donde éstos se generan e interpretan.
Si bien no es fácil realizar una delimitación entre sociedad y cultura, Kress (2010:
14) establece diferenciaciones. El término sociedad está relacionado con las acciones
humanas en grupos sociales; el término cultura, por su parte, marca el énfasis en los
efectos, en los trabajos sociales, en los productos y en los resultados de esas acciones. En la
propuesta de análisis multimodal de Kress y van Leeuwen (1996), el potencial del lenguaje
para significar, social, cultural y sicológicamente es proyectado a otros sistemas. Este
potencial semiótico (qué se puede decir y cómo se puede decir, en cualquier medio) está
definido por los recursos disponibles, tanto para el creador del signo como para el receptor.
The study of modes in multimodal social semiotics focuses on the material, the
specific, the making of signs now, in this environment for this occasion. In its focus on
the material it also focuses on the bodilyness of those who make and remake signs in
47
constant semiotic (inter)action. It represents a move away from high abstraction to the
specific, the material; from the mentalistic to the bodily (Kress, 2010: 13).
REPRESENTACIONES NARRATIVAS
Son imágenes que narran una o más acciones, las que son realizadas a través de un
vector. Este último está representado por una acción o proceso que tensiona fuerzas
dinámicas, conecta a los participantes y permite, en definitiva, la representación visual
narrativa, ya que posibilita que los elementos sean caracterizados haciendo algo “a” o
“para” otro. Una representación narrativa no se reduce al despliegue de una acción o un
evento; los procesos de cambio y las disposiciones espaciales transitivas también presentan
patrones narrativos.
48
Leeuwen (1996) son los de acción, de reacción, mentales, discursivos, de conversión o de
simbolismo geométrico.
49
Unidirec Bidirecc No Uniderec Bidirec No
cional ional Transaccional cional cional Transaccional
Transac Transac Transac Transac
cional cional cional cional
Actor Interac Acción de un Mirada de Mirada de Mirada de un
que se tores actor sin una un un reactor sin meta
dirige a (actor y meta definida reactor reactor definida
una meta dirigida a dirigida a
meta interrela un un
cionado fenómeno fenómeno
s) y
viceversa
El actor puede fundirse con el vector en diversos grados. Esto sucede, por ejemplo,
en la pintura de la figura 1, La Creación de Adán (1511) de Miguel Ángel. El actor (la
divinidad) se fusiona con el vector en su dedo índice, generador de la vida, en una acción
bidireccional y transaccional. El ejemplo, asimismo, permite diferenciar reacciones
transaccionales bidireccionales (la mirada entre Dios y Adán) y reacciones
transaccionales unidireccionales (la mirada de los querubines hacia Adán). Dado que el
constructo teórico desarrollado en este apartado es el de la metafunción ideacional, la
mirada que nace desde uno de los querubines hacia el espectador no debe ser incluida en
esta parte del análisis. Es una interacción que el productor de las imágenes establece entre
su creación y el espectador, por lo que debe ser observada desde la metafunción
interpersonal. Sin embargo, si alguno de los espíritus celestes representados mirara al
infinito, por ejemplo, se trataría de una reacción no transaccional y podría ser observada
desde la metafunción ideacional, ya que la reacción formaría parte de la manera referencial
en que se representa conceptualmente la realidad y el mundo.
50
Figura 1: La creación de Adán, de Miguel Ángel
51
El cuadro de Malevich, Rectángulo blanco, triángulo azul (1915), figura 2, permite
apreciar cómo las realizaciones de los procesos son aplicables a una obra visual abstracta.
En este caso, las lecturas que puede producir el espectador son múltiples y todas legítimas.
Pero aún así, no son infinitas, ya que se ceñirán a la acción principal: la incrustación del
triángulo en el rectángulo. Este último es pasivo, una meta. El triángulo, figura dominante,
asume el rol de actor. Los elementos están relacionados en una acción bidireccional
transaccional.
The phenomenon of the Transactional Reaction, and the content of the dialogue
balloon are not represented directly, but mediated through a Reacter, a ‘senser’ (in the
case of a thought balloon), or a ‘Speaker’ (in the case of the dialogue balloon)” (Kress
y van Leeuwen, 1996: 67).
Figura 3: La Negra Ester, fin del primer acto y anuncio del intermedio.
52
En el caso del cine o la proyección audiovisual, los autores consideran que el proceso
verbal se realiza a través del diálogo (Kress y van Leeuwen, 1996: 72) y se refieren a él
como proceso visual, ya que no se realiza tal como lo haría en un cómic, es decir, a través
del dibujo de un globo que contiene el texto con la narración. Sin embargo, el ejemplo de la
figura 3 permite concluir que, aún cuando esa es la norma general, sí es posible detectar en
la audiovisualidad ejemplos donde se conectan pensamientos o enunciados con locutores
por medio de procesos verbales expresados gráficamente. Siguiendo a Halliday (1985a),
Kress y van Leeuwen llaman proyectivos a los procesos que incluyen una proposición
visual (texto verbal oral en conjunto con la imagen) o una proposición verbal completa
(texto verbal escrito e imagen), como el ejemplo de la figura 3, y no proyectivos a los que
no lo hacen (1996: 73), como en la figura 1 o 2.
o PROCESOS DE CONVERSIÓN
o SIMBOLISMO GEOMÉTRICO
53
Figura 5: Simbolismo geométrico.
o LAS CIRCUNSTANCIAS
54
relación a éste, pero sin que exista una separación física con el participante. Esto sucede,
por ejemplo, cuando alguien indica con su brazo un elemento e intensifica la acción con un
gesto ad-hoc, o cuando porta un elemento que está dentro de la línea del vector.
REPRESENTACIONES CONCEPTUALES
o PROCESOS DE CLASIFICACIÓN
Figura 6: Taxonomía visual, primera aparición escénica de las prostitutas en La Negra Ester.
55
o PROCESOS ANALÍTICOS
Los autores (Kress y van Leeuwen, 1996: 72) plantean que las circunstancias locativas
pueden ser interpretadas también como procesos analíticos incrustados. La figura 8, por
ejemplo, muestra que la escenografía, PORTADOR, está compuesta de una serie de de
56
piezas de desecho, ATRIBUTOS. La estructura completa constituye un todo, pero es
inclusiva porque no se muestra completamente. Al mismo tiempo, da cuenta de una
circunstancia locativa donde se desarrolla la acción.
Fig 8: la escenografía constituye una circunstancia locativa compuesta por procesos analíticos
incrustados.
o PROCESOS SIMBÓLICOS
Conectan a un participante con lo que “es” o “significa”. Si se trata de un participante
humano, en una relación atributiva, debe presentar una postura que no pueda ser
interpretada como narrativa. Este tipo de proceso puede relacionar al PORTADOR con un
símbolo, tal como se muestra en la figura 9. El marido de la Negra Ester, Barahona, da
cuenta de su condición de zapatero por la relación que establece con un símbolo de su
oficio, el zapato. No se puede interpretar como un proceso analítico, ya que el detalle
simbólico se enfatiza en una determinada atmósfera (mood).
Una última consideración a tener en cuenta respecto de todos los tipos de procesos
que se han presentado, ya sean narrativos o conceptuales, es que son susceptibles de incluir
57
otras imágenes incrustadas (embedding), lo que genera imágenes complejas en las cuales es
posible reconocer diferentes procesos involucrados.
Las imágenes contemplan dos tipos básicos de participantes: los representados y los
interactivos
Los participantes interactivos, por lo tanto, son las personas reales que producen y
otorgan sentido a las imágenes creadas en el contexto de situaciones sociales (Kress y van
Leeuwen, 1996: 119). La distinción básica entre el conocimiento del productor y el
conocimiento del espectador respecto de las imágenes presentes en un texto multimodal
radica en un aspecto fundamental: el productor es un activo generador de sentido y realiza
una actividad especializada. El segundo es pasivo, solamente recibe el mensaje y lo
interpreta. La relación entre ambos puede ser una interacción directa, como en el teatro, o
indirecta, como en la pintura o el video.
58
o IMÁGENES DE OFERTA Y DEMANDA
Kress y van Leeuwen (1996) establecen un vínculo analógico entre los actos de
habla y lo que ellos denominan “actos de imagen” (images act), en los cuales el productor
utiliza la imagen para provocar una reacción en el espectador. Los participantes
representados que miran directamente a los ojos del espectador establecen un contacto
visual por medio de vectores y, aunque sea a un nivel imaginario, se dirigen a un “tú”: el
observador. Este tipo de imagen es denominado demanda, ya que insta al espectador a
entrar en una relación con el o los participantes representados. El contacto puede ser
establecido, por ejemplo, por medio de un gesto dirigido hacia quien observa.
A hand can point at the viewer, in a visual ‘Hey, you there, I mean you’,
or invite the viewer to come closer, or hold the viewer at bay with a defensive
gesture, as if to say: stay away from me. In each case the image wants
something from the viewers – wants them to do something (come closer, stay
at a distance) or to form a pseudo-social bond of a particular kind with the
represented participant. And in doing this, images define to some extent who
the viewer is (e.g. male, inferior to the represented participant, etc), and in that
way exclude other viewers (Kress y van Leeuwen, 1996: 123).
Otras imágenes se dirigen al espectador indirectamente, como una oferta. No lo
involucran como objeto sino que como sujeto de la mirada, sin establecer un contacto
directo. De esta manera, el rol del espectador es anónimo e invisible en relación a la
imagen.
Además de la elección entre oferta y demanda, el creador elige cómo presentar a los
participantes frente a los espectadores, lo que involucra la codificación de diferentes
distancias, en una relación imaginaria, no real. Aún cuando la distancia es un continuum en
las imágenes que implican movimiento, como en el cine o en cualquier otro formato
59
audiovisual, se contemplan puntos límites de cortes, los que se perciben por medio de la
imagen editada, es decir, “ensamblada” en el registro audiovisual final.
Estas categorías pueden también ser aplicadas a objetos o paisajes. No son absolutas,
ya que las variantes estilísticas son posibles.
o PERSPECTIVA
60
Como se ve, el sistema de la perspectiva involucra la relación entre las imágenes y un
punto de fuga (un lugar o punto situado en el infinito donde convergen y nacen todas las
rectas proyectadas paralelamente). Además, contempla la ubicación de un ángulo para
realizar la mirada o visión de la imagen, es decir, representa un punto de vista particular.
Un punto de vista frontal representa una participación del espectador en la imagen,
mientras que un punto de vista oblicuo implica una diferencia, una distancia. Es necesario
recalcar que la perspectiva y el ángulo (o punto de vista/observación) son dos conceptos
diferentes, que se relacionan entre sí para codificar una relación subjetiva u objetiva
respecto de la imagen representada. La perspectiva se observa dentro de la imagen. El
ángulo, por su parte, si bien determina la imagen internamente, representa el punto de
partida del creador desde el exterior hacia la imagen como tal.
The frontal angle says, as it were: ‘what you see here is part of our word,
something we are involved with.’ The oblique angle says: ‘what you see here is not
part of our world; it is their world, something we are not involved with’ (Kress y van
Leeuwen, 1996: 143).
Figura 10: imágenes que muestran la misma perspectiva y diferentes ángulos de encuadre.
61
importancia del sujeto representado, ya que lo hace ver más pequeño. Un ángulo bajo
otorga una impresión de superioridad del participante caracterizado. Una imagen al nivel de
los ojos otorga un punto de vista de igualdad.
Los sistemas mencionados actúan simultáneamente: una imagen puede ser de oferta o
de demanda. Además, incluye la selección de un cierto tamaño de encuadre, un ángulo y
una perspectiva visual. De esta manera, al interactuar, se crean relaciones complejas entre
los participantes involucrados en la imagen, es decir, entre los representados y los
interactivos.
LA MODALIDAD EN LA IMAGEN
Por lo anterior, la propuesta de estos autores busca establecer cómo una imagen
visual se presenta al espectador como verdadera o falsa, es decir, cómo se vincula a los
valores y creencias de un determinado grupo social y, por lo tanto, a su “verdad”. Estos
62
valores que se comunican no sólo tienen que ver con las creencias de ese grupo específico,
sino que también comunican grados de verdad o falsedad respecto de los valores y
creencias de otros. Por lo anterior, la modalidad de la imagen construye un “nosotros”
imaginario y, a la vez, define, por contraposición, a los “otros”.
Just as in language one can say There certainly are ghosts (high modality) and
I believe ghost may exist (low modality), so in pictures one may have realistic and
not-so-realistic depictions of ghost (Kress y van Leeuwen, 1996: 164).
63
asociado a la imagen. Sin embargo, un fondo demasiado articulado en relación a un
primer plano también atenta el grado de verdad asignado a la imagen1.
El Brillo y la Claridad: ambos forman parte de los extremos de una escala que se
establece desde un número máximo de diversos grados de brillo hasta el mínimo.
Este último extremo está representado por dos grados absolutos: el blanco y el
negro (u oscuridad). También puede estar representado por dos valores de brillo del
mismo color como, por ejemplo, una imagen extremadamente iluminada que no
presenta matices y una imagen con iluminación acorde a la muestra de detalles.
1
Un ejemplo de esta situación, descrito por Kress y van Leeuwen (1996: 166), es el de las antiguas
películas de Hollywood que presentan un close up de un personaje manejando un auto. A través de
las ventanas de éste es posible apreciar cómo el paisaje pasa, rápidamente. La distorsión producida
al espectador entre ese fondo realista y el primer plano de estudio disminuye el grado de verdad
asignado a la imagen. Para un espectador actual, la inverosimilitud es aún mayor, ya que una
imagen de este tipo no tiene credibilidad en el cine actual.
64
5.5.3 LA METAFUNCIÓN TEXTUAL
Estas tres bases composicionales pueden ser aplicadas a imágenes individuales, como
las que se utilizan en la página de una revista, o a composiciones visuales que combinan el
texto y la imagen, como las que se presentan en páginas impresas o en una pantalla.
65
o Lo Dado y lo Nuevo
En occidente, la ubicación de los elementos de la composición a la izquierda
representa lo ya conocido, lo que es parte de la cultura, lo que el espectador ya conoce. Es
el punto de partida del mensaje visual. En este sentido, la estructura asumida para presentar
la información es ideológica, ya que le presenta al espectador un estatus de valor
predeterminado. Aún cuando este valor puede ser cuestionado por quien observa, la
estructura en que se presenta la información debe ser aceptada tal como ha sido definida
por el creador.
o Lo Ideal y lo Real
El modelo de lo Ideal y lo Real se basa también en la división de la información en
dos polos contrastables, pero presenta otro significado. Este se relaciona, por una parte, con
la información que es idealizada y que aparece en la parte de arriba de la composición. Por
otra parte, la información que se muestra como general o real se ubica en la mitad inferior
de la composición (Martinec y van Leuween, 2009: 16).
o El Núcleo y la Periferia
El elemento central de la composición provee el núcleo de la información. Se
presenta como lo más importante y unifica los elementos periféricos. El modelo prototípico
es el patrón de “astro” (Martinec y van Leuween, 2009, 25), en el cual los satélites se
relacionan con un núcleo por una relación atributiva o identificativa. Si bien esta estructura
compositiva predomina en las culturas de Asia del Este, es posible identificarla en
composiciones occidentales como alternativa a la polarización Ideal / Real.
PROMINENCIA (SALIENCE)
66
diferentes grados. En esa relación algunos objetos del espacio visual se destacan sobre
otros, lo que está determinado por la ubicación en primer o segundo plano, los tamaños, los
contrastes tonales, la nitidez y el difuminado, entre otros.
Una alta prominencia está marcada, por ejemplo, por la ubicación de un elemento
entre el blanco y el negro (contraste tonal). Asimismo, puede ser observada en las áreas de
contraste entre el azul y el rojo o entre los colores saturados y los suaves (contraste del
color). Por otra parte, los elementos que se ubican en la parte superior de una composición
tienen una mayor prominencia que el resto, lo cual es intensificado si asumen una línea de
desplazamiento hacia la izquierda, debido a la asimetría que se produce en el campo de
visión. La perspectiva también es un dispositivo que otorga prominencia, ya que los objetos
del primer plano son más sobresalientes que los del fondo.
ENMARCADO (FRAMING)
Relaciona o separa los componentes del espacio, los que asumen un significado
simbólico en la imagen. Esto, porque el sistema conecta o desconecta elementos por medio
de líneas o marcos que dividen o agrupan estructuras. Lo anterior implica dotar a los
elementos de significados de pertenencia o exclusión. En el caso de una composición
visual, el enmarcado puede materializarse en diversos grados, ya que los elementos
composicionales pueden estar fuertemente o débilmente enmarcados.
67
El contraste tonal también participa en el enmarcado, por medio de la discontinuidad
del color. La discontinuidad de las formas es otro de los componentes del sistema, así como
los vectores, ya que permiten enfatizar algunos constituyentes de la composición por sobre
otros. Es importante tener presente que aún cuando un mismo elemento compositivo puede
ser analizado desde más de un sistema, estos últimos siempre funcionan por separado
(Kress y van Leeuwen, 2006: 217).
El término recurso semiótico se origina a partir del trabajo de Halliday (1978), quien
en sus consideraciones metodológicas respecto del lenguaje como sistema argumenta que
éste es un recurso para crear significados. Lo anterior presupone una interpretación del
sistema semiótico social como un sistema de significado que constituye la realidad de la
cultura. El sistema semántico de la lengua, por ejemplo, es una realización del sistema
semiótico social (Halliday 1978: 123).
68
porque evita la impresión de que lo que representa un signo es algo dado e inamovible, que
no se ve afectado por el uso. La utilización de un recurso semiótico puede obedecer a
normas o prácticas que regulan su uso o, por el contrario, permitir un práctica relativamente
libre por parte de los usuarios, como sucede en la utilización con fines artísticos (van
Leeuwen: 2005: 3). Este último punto también es relativo, ya que las tradiciones artísticas
clásicas restringen el ámbito de representación.
The function of sign systems like the traffic lights is to make meanings.
Sign systems create meanings by ordering the world in two ways:
1. The order content: of all the possible behaviours that we could enact
at intersections, the systems sets up only three as being meaningful (i.e. going,
stopping, slowing down);
2. The order expression: of all the possible coloured lights we could
have at intersections, the system sets up only three as being meaningful (i.e.
red, green, amber) (Eggins 1994: 15).
69