Caracterizacin de canal no lineal usando modelos de Volterra-Parafac.

2012

CAPTULO 3
Tensores.
Muchos fenmenos fsico se representan matemticamente mediante
Tensores, los cuales, por necesidad son representados en un sistema de referencia,
de este modo surge el concepto de componentes del tensor. Si bien los tensores
son independientes del sistema de referencia, las componentes sern dependientes
y variarn con ste.

Los tensores pueden clasificarse segn su orden como:

Escalar (Tensor de orden 0). Cantidad que tiene magnitud pero no

direccin (ejemplo: densidad, temperatura, presin). Los escalares
pueden ser funciones del espacio y del tiempo y no necesariamente han
de ser constantes.

Vector (Tensor de orden 1). Cantidad que tiene magnitud y direccin

(ejemplo: velocidad, aceleracin, fuerza). Ser simbolizado por una
letra en negrita en minscula.

1
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Tensor de segundo orden (Tensor de orden 2). Cantidad que tiene

magnitud y dos direcciones (ejemplo: tensin, deformacin). Ser
simbolizado por una letra negrita en mayscula, tambin para los
tensores de orden superior.

Este captulo trata del estudio detallado de los tensores y de algunas

herramientas matemticas que darn soporte al desarrollo de las teoras que se
exponen en los captulos posteriores.

1. Propiedades de Tensores y Base del lgebra de Tensores

Dada una matriz de dato no negativa


 , y un rango reducido ,

encontrar dos matrices no negativas

=   ,  , ,   
 y  =  =

 ,  , ,    lo que factoriza a
de la mejor forma:



=
 +  =
 + 
(3.1)

Esta NMF (Nonnegative Matrix Factorization) se puede representar,

tambin, como una forma especial de un modelo bilineal.

 

=    +  =    + 
 

(3.2)

donde el smbolo indica el producto externo de dos vectores.

2
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Un tensor es una matriz multi-dimensional. El orden del tensor es el

nmero de la dimensin, tambin conocido como las direcciones o modos. Se
define formalmente como:

 ,  , ,  . Un tensor

Definicin de tensor.- Se indica los ndices de lmites superiores como
! #

direcciones donde los elementos $% estn indexados por &' (1,2, , ' +
de orden N es un vector de N

%! %#

para 1 - .

Los tensores son, obviamente, generalizaciones de vectores y matrices, por

ejemplo, un tensor de tercer orden tiene tres ndices (o modos o direcciones) como
se muestra en la figura n6. Un tensor de orden cero es un escalar, de orden uno un
vector, de segundo orden una matriz, y un tensor de tercer orden o mayor se les
denomina tensores de ms altor orden (ver figura n7).

Figura n 6 . Tensor de tercer orden
./0 con elementos $%12 .

3
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Figura n 7 . Ilustracin de datos con mltiples direcciones (rdenes). Los tensores de 4 y 5

orden se representan aqu como un conjunto de tensores de 3er orden.

mayscula, negrita y subrayado, por ejemplo


La nomenclatura a utilizar es la siguiente: los tensores se representan en
! #
. Mientras que las

minscula y negrita, como el caso de . Sea el caso de una matriz A, sus columnas
matrices se representa en mayscula y negrita, por ejemplo Y, y los vectores en

se denotan como  y los elementos como 3% . Anlogamente, los elementos de un

tensor de tercer orden de dimensiones (&, 5, 6), es decir
8 , se
representan como $%12 , donde & = 1,2, , ; 5 = 1,2, , :; 6 = 1,2, , ;.

La matricizacin es un proceso por el cual se reordenan los elementos de

un tensor de orden N en una matriz. Con frecuencia, es muy conveniente
representar tensores como matrices.

4
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

2. Productos externo y de Kronecker.

1.1. Producto externo.

El producto externo de dos tensores
 ! #

y   ! <

viene dado por la siguiente expresin:

= =
  ! #  ! <

(3.3)

>% = $% %! %# ? ! <
donde
%! %#  ! <

(3.4)

Observe que, el tensor = contiene todas las posibles combinaciones de

pareja de productos con coherencia entre los elementos de
y .

Un caso especial, el producto externo de dos vectores  y  

producen una matriz de rango uno.

=  =  
(3.5)

y el producto externo de tres vectores:  ,   y @ 8 producen un

tensor de rango uno y tercer orden.

= =  @ 8
(3.6)

en el que,

5
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

>%2 = 3% A B2 .
(3.7)

1.2. Producto de Kronecker.

El dicho producto de dos matrices

 y  C es una matriz
que se indica como
 C y se define como (en Matlab es la funcin
kron):

3  3 

 = E H
3  3 
(3.8)

Es necesario considerar que, en general, el producto externo de vectores

produce un tensor mientras que el producto Kronecker nos da un vector.

2. Multiplicaciones modo-n. Producto reducido de Tensor.

Para multiplicar un tensor por una matriz, necesitamos especificar el

modo del tensor que se est multiplicando por las columnas o filas de una matriz
(ver figura n8).

(a)

6
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

(b)

(c)

Figura n 8 . Ilustracin multiplicacin modo-n de un tensor de 3er orden por matrices. (a)
modo-1, (b) modo-2 y (c) modo-3.

= I '
de un tensor I  y una matriz
J J es un tensor
Definicin (producto modo-n de tensor-matriz).- El producto modo-n
! #

 JK J JL #
, con elementos

J

$ ,! ,,JK ,%J ,JL ,,# =  M ,! ,,# 3%J J

J 

(3.9)

El producto tensor-matriz se puede aplicar sucesivamente a lo largo de

varios modos, y es conmutativo, esto es:

7
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

NI '
O P  = NI P O '
= I '
P  (Q -)
(3.10)

La iteratividad de este tipo de producto modo-n para matrices

y  de
dimensiones apropiadas se puede simplificar de la siguiente forma:

NI '
O P  = I ' (
)
(3.11)

de un tensor
 S indica el
por un vector J se denota por (
Definicin (producto modo-n de tensor-vector).- La multiplicacin modo-n
! #

producto reducido):

S ' 
= =
JK JL #

(3.12)

Un elemento acertado, tenemos

J

>% ,%! ,,%JK ,%JL ,,%# =  $% ,%! ,,%# 3%J

%J 

(3.13)

Es posible, tambin, multiplicar un tensor por un vector en ms de una

direccin (ndice o modo). Multiplicando un tensor de tres direcciones por un
vector en dos direcciones resulta un tensor de una direccin, es decir, un vector;
multiplicndolo en todas las direcciones resulta un escalar. Podemos intercambiar
el orden de la multiplicacin por la siguiente regla:

SP

S '  = N

S P O
S '  = N

S ' O
S P para Q < -
(3.14)
8
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Por ejemplo, la multiplicacin modo-n de un tensor I CU por los

vectores  ,  C y @ U se puede expresar como:

 C U
S
> = I S 
S V @ =    MWX 3 AW BX
 W X

(3.15)

Esto se puede ver como ilustracin la siguiente figura

Figura n 9 . Ilustracin de multiplicacin de modo-n de un tensor de tercer orden I por vectores

produciendo un escalar.

dos tensores
,   del mismo orden se escribe como
,  y se
Definicin (producto escalar o producto interno).- El producto escalar de
! #

calcula como una suma de productos de elementos en todos los ndices, esto es,

 ! [

B =
,  =    A% ,%! ,,%# 3% ,%! ,,%#
% %! %#

(3.16)

alto de un tensor
como
El producto escalar nos permite definir la norma de Frobenius de orden

9
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

 ! [

\
\] = ^
,
= _   3 % ,%! ,,%#
% %! %#

(3.17)

Mientras que la norma-` de un tensor se define como:

 ! [

\
\ =   a3% ,%! ,,%# a
% %! %#

(3.18)

 y  
Definicin (producto reducido).- El producto reducido de dos tensores
<  # < b bc

es un tensor de tamao   d dU , dado por

a lo largo de primeros M ndices

 <

, ,,e;,,e (f , , f , g , , gU ) =   3% ,,%< , ,,# A% ,,%< ,h ,,hc
%  %< 

(3.19)

Los modos restantes estn ordenados tal que esos de

viene antes que .
Los argumentos que especifican los ndices de
y de  no necesitas ser
consecutivos por contraccin. Sin embargo, los tamaos de las correspondientes
dimensiones han de ser iguales.

10
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

3. Formas especiales de expresar un tensor.

Los tensores pueden tomar formas o estructuras especiales.

3.1. Tensor de rango uno.

Usando el producto externo, el rango del tensor puede ser definido como
sigue.

Definicin (tensor rango uno).- Un tensor
 ! #

de orden N
tiene rango uno si puede escribirse como un producto externo de N vectores, i.e.,

= () () ()

(3.20)

donde (') J y $% = 3% 3%! 3%# . El rango del tensor est definido

() () ()
,%! ,,%#

como el nmero mnimo de tensores de rango uno
 , ,
C tal que
= CW
W .

Los tensores de rango uno tiene muchas propiedades interesantes y

juegan un papel importante en anlisis de multi-direcciones. Tal representacin de
un tensor por una combinacin lineal de tensores de rango uno es PARAFAC
(PARAllel FACtor descomposition) el cual preserva la singularidad bajo algunas
condiciones.

3.2. Tensor simtrico o sper simtrico.

Un vector de k direcciones se llama simtrico si sus entradas no cambian

todos los N vectores () son iguales al vector g, su producto externo se llama
despus de cualquier permutacin de sus ndices. Para un caso particular cuando

11
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

tensor sper simtrico de rango uno. Un tensor sper simtrico tiene la misma
dimensin en cada direccin.

W = j j(W) j(W)
klllllmllllln
(W)

 opqpr

(3.21)

y $% = M% M%! M%# . Podemos expresar un rango R del tensor simtrico

(W) (W) (W) (W)
,%! ,,%#

como

C C

=
W =  j(W) j(W) j(W)
W W

(3.22)

C C C 
$% =  $% = M% M%! M%# =  s M%J
(W) (W) (W) (W) (W)
,%! ,,%# ,%! ,,%#
W W W '

(3.23)

El rango simtrico se obtiene cuando la formacin de tensores de rango

uno est impuesta por ser ellos mismo simtricos.

3.3. Tensor diagonal.

Un tensor cbico de orden N
 ! #

$% 0 solo si & = & = = & . Utilizamos u para referirnos al tensor cbico

es diagonal si los elementos

,%! ,,%#

identidad con unos en la sper diagonal y el resto cero. Este concepto puede ser
generalizado o extendido.

4. Descomposicin de tensores y factorizacin.

12
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Muchas modernas aplicaciones generan grandes cantidades de datos con

mltiples aspectos y gran dimensin para lo cual los tensores aportan una
representacin natural. Estos incluyen text mining, clustering, trfico de internet,
grabaciones de telecomunicaciones y una gran escala de redes sociales.

La descomposicin tensorial y factorizacin se iniciaron en 1927 por

Hitchcock, y despus fueron desarrolladas por Cattelin in 1944 y por Trucker en
1966. Estos conceptos y aproximaciones recibieron mayor atencin despus de
que Carroll y Chang propusieran la Canonical Descomposition (CANDECOMP) e
independientemente Harshman propuso un modelo equivalente llamado
PARAFAC (Parallel Factor Analysis) en 1970.

Mck redescubri el PARAFAC cuando estaba abordando un problema de

neurociencia de potenciales de eventos relativos (ERP) en el contexto del escner
del cerebro.

Aunque algunos modelos de descomposicin tensorial han sido

propuestos a lo largo del tiempo, han atrado el inters de investigadores
trabajando en matemtica, procesamiento de seales, data mining y neurociencia.
Esto probablemente explica por qu teoras matemticas disponibles rara vez
tratan de aspectos computacionales y algortmicos de la descomposicin de
tensores, junto con muchos problemas fundamentales sin resolver todava.

Nuestro principal objetivo aqu es la descomposicin de seales multicanal

variando en el tiempo en mltiples canales con distinta modalidad en los dominios
de espacio, tiempo y frecuencia en orden de identificar entre ellos las componentes
comunes a travs de los diferentes dominios, el cual al mismo tiempo son
discriminativos a travs de diferentes condiciones.

13
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Nos centraremos, debido a nuestro inters en el algoritmo desarrollado

que ser ver despus, en la descomposicin PARAFAC.

4.1. PARAFAC (Parallel Factor analysis).

representacin grfica). Dada un tensor
8 y el ndice positivo J,

Se puede formular como sigue (ver figuras n9 y n10 para una

encontrar matrices de tres componentes, tambin llamados factores,

=
  ,  , ,    ,  =  ,  , ,    y v = @ , @ , , @  8 las
cuales provocan la siguiente factorizacin aproximada:

=    @ = w
, , vx


(3.24)

o equivalentemente,

$%12 =  3% A1 B2 + y%12



(3.25)

14
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

(a) Como un conjunto de tres matrices usando una representacin escalar

(b) Como un conjunto de vectores usando un sumando de tensores de rango uno expresado por el
producto externo de los vectores.

(c) Descomposicin desarrollada a lo largo de la fila dentro de dos matrices.

(d) Descomposicin por el corte frontal.

Figura n 9 . Representaciones alternativas del modelo PARAFAC de tercer orden.

15
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

z = w
, , vx es la notacin corta de la factorizacin PARAFAC.
El smbolo

Es, a menudo, conveniente asumir que todos los vectores tienen unidad de
longitud, por ello podemos usar el modelo PARAFAC de Harshman modificado que
viene dado por

=  {   @ = w|,
, , vx


(3.26)

$%12 =  { 3% A1 B2



(3.27)

donde { son factores de escala. Si  =  = @ , podremos llamar a esta ecuacin

la descomposicin simtrica del producto externo del tensor simtrico
. La
siguiente figura n10 ilustra el modelo y su representacin alternativa.

Figura n 10 . Modelo PARAFAC de Harshman con tensor de ncleo superdiagonal I = } ~  ,

siendo } = &3M({).

16
 Caracterizacin de canal no lineal usando modelos de Volterra-Parafac. 2012

Las tres direcciones del modelo PARAFAC pueden describirse tambin

usando el corte frontal, lateral y horizontal como sigue:

2
2 (@2: )

(3.28)

:1:
1 (1: )v

(3.29)

% % ( %: )v

(3.30)

donde % ( %: ), 1 (1: ) y 2 (@2: ) son matrices diagonales que toman la fila i-sima,
t-sima y q-sima de las matrices A, B y C, respectivamente, y produce matrices
diagonales colocando la fila correspondiente en la diagonal principal.

17