Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Introduccin
El asociador lineal
La Red BSB
i 1
xk = (xk1, xk2, xk3,...,
xkN) con k = 1,2, ... ,p son los patrones
de referencia
x* = (x*1, x*2, . . . , x*N) es el patrn de prueba
Si las componentes de los vectores son binarias ({0,1}), Dk
coincide con la distancia de Hamming.
Si los vectores son bipolares ({-1,1}) la distancia de
Hamming se calcula con Dk/4
Introduccin
yi =(xi) = W xi
El asociador lineal
Arquitectura
N unidades de entrada y M unidades de proceso independientes
Cada entrada se conecta a todas las unidades de proceso.
Ley de Aprendizaje:
p
W y k (x k ) T
k 1
Dinmica de la computacin:
Los resultados se obtienen instantneamente, sin evolucin en los
estados del sistema
La funcin de activacin es la funcin identidad.
yi =(xi) = W xi
El asociador lineal
K 1
k 1
p
y i y k ( x k )T d y i (d )
k 1
Ventaja:
Simplicidad
Inconveniente:
La condicin de ortogonalidad de los patrones clave
Ejercicio:
Construir un asociador lineal que memorice los patrones
{(1000), (00)}, {(0110), (01)}, {(111), (11)}
Calcular la salida ante las siguientes entradas:
(1100)
Asociador no lineal simple
Arquitectura
N unidades de proceso.
Todas las neuronas conectadas con todas.
Ley de aprendizaje:
1 p k k
Regla de Hebb: wij si s j
N k 1
1 p 1 p 1
Aprendizaje iterativo: wij ( p 1) wik ( p) si s j
N
Asociador no lineal simple
Dinmica de la computacin
Si(k) es el estado de la neurona i en el instante k de
ejecucin. Ser 1 si la neurona est activa y 1 si no lo
est. La actualizacin se realiza en tiempo discreto
N N N 1
S i (1) sgn wij S j (0) sgn wij s j sgn si s j s j sgn si si
j 1 j 1 j 1 N
Asociador no lineal simple
N N
N N 1
Si (1) sgn wij S j (0) sgn wij s j sgn si s j s j sgn
1
si si
j 1 j 1
j i
j 1
j i
N
N
1
wij si s j ij wii 0
N
Asociador no lineal simple
N N n N
Si (1) sgn wij S j (0) sgn wijrj sgn wij ( s j ) wij s j
j 1 j 1 j 1 j n 1
n 1 N
1 1 n 1 N
sgn ( si s j )( s j ) ( si s j ) s j sgn si si
j 1 N j n 1 N N j 1 N j n1
n N n 2n
sgn si si sgn (1 ) si
N N N
Asociador no lineal simple
si si n N / 2
Si (1)
si si n N / 2
p
Cw
Nw
Teorema:
La capacidad mxima de una red de Hopfield est acotada por
1
c
4 ln N
Asociador no lineal simple
1 p
n k r N 2n r
hi (t) s s j s j
k
i k
j
r
j
s s 1- si
N
N k 1
k r
j 1 j n 1
Ejemplo:
Diseo de un asociador lineal que memorice los patrones
(1 -1 1) y (-1 1 -1). Probarla con la entrada (1 1 1).
(-1 1 1)
(-1 -1 1)
(1 -1 1)
(1 1 1)
(-1 -1 1) (-1 1 1)
(1 -1 1) (1 1 1)
Asociador no lineal simple
Asociador no lineal
2/3 2/3
-2/3
1 2
2/3 -2/3
3
2/3
Asociador no lineal simple
Estado inicial: (1 1 1)
Computamos hasta que se estabiliza la red.
Estado final: (1 1 1)
(-1 -1 1) (-1 1 1)
(1 -1 1)
(1 1 1)
(-1 -1 1) (-1 1 1)
(1 -1 1) (1 1 1)
La red BSB
Dinmica de la computacin:
Actualizacin en unidades de tiempo discretas.
N
xi (k 1) f wij x j (k )
j 1
1 si u i (k ) 1
f (u i (k )) u i (k ) si - 1 u i (k ) 1
- 1 u i (k ) 1
si
La red BSB
1 si w ij y j (k ) i
j 1
m
xi (k 1) xi (k ) si w ij y j (k ) i
j 1
m
- 1
si w
j 1
ij y j (k ) i
1 si w x (k ) ij i j
i 1
n
y j (k 1) y j (k ) si w x (k )
ij i j
i 1
n
- 1
si w x (k )
i 1
ij i j
n m n m
E (k ) wij xi (k ) y j (k ) i xi (k ) j y j (k )
i 1 j 1 i 1 j 1
La Memoria Asociativa Bidireccional (BAM)
Teorema 1.
Si seguimos una actualizacin paralela la funcin de energa computacional
decrece, o no cambia, en cada actualizacin, y la red alcanza un estado
estable (estado de equilibrio) despus de un nmero finito de
actualizaciones.
n m n m
E (k 1) E (k ) wij xi (k ) y j (k 1) i xi (k ) j y j (k 1)
i 1 j 1 i 1 j 1
n m n m
wij xi (k ) y j (k ) i xi (k ) j y j (k )
i 1 j 1 i 1 j 1
n m m
wij xi (k ) y j (k 1) y j (k ) j y j (k 1) y j (k )
i 1 j 1 j 1
n
m
y j (k 1) y j (k ) wij xi (k ) j
j 1 i 1
La Memoria Asociativa Bidireccional (BAM)
p
W (x k ) T y k
k 1
(1 -1 -1)
(-1 -1 1)
(1 1 1 -1 1 -1 -1 1 -1) (1 -1 -1 1 -1 -1 1 1 1)
La Memoria Asociativa Bidireccional (BAM)
Actualizacin:
Patrn a reconocer: (-1 -1 1)
0 2 0 2
2 0 2 4
2 0 2 4
Actualizacin:
2 0 2 1 4
2
0 2 1 4 (1 -1 -1 1 -1 -1 1 1 1)
0 2 0 1 2
2 0 2 4
0 2 0 2
2 0 2 4
La Memoria Asociativa Bidireccional (BAM)
Actualizacin:
(1 -1 -1 1 -1 -1 1 1 1) (-1 -1 1)
0 2 0
2 0 2
2 0 2
2 0 2
(1 1 1 1 1 1 1 1 1) 2 0 2 (12 6 12)
0 2 0
2 0 2
0 2 0
2 0 2
Resultado final:
Patrn a reconocer: (-1 -1 1)