Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Redes Neuronales
Artificiales
Introducción
2
IC - Redes Neuronales - 2016
MODELO NEURONAL
ARQUITECTURA DE REDES
5
IC - Redes Neuronales - 2016
Fundamentos - El modelo biológico
El cerebro humano
contiene más de cien
mil millones de
neuronas.
La clave para el
procesamiento de la
información son las
conecciones entre ellas
llamadas sinápsis.
6
IC - Redes Neuronales - 2016
Estructura biológica
Las dendritas
son la vía de
entrada de las
señales que se
combinan en el
cuerpo de la
neurona.
El axón es el
camino de salida
de la señal
generada por la
neurona.
7
IC - Redes Neuronales - 2016
Estructura biológica
nnd2n2
9 IC - Redes Neuronales - 2016
Estructura Artificial
10
IC - Redes Neuronales - 2016
Una capa de neuronas
12
IC - Redes Neuronales - 2016
Funciones transferencia
Arquitectura (Topología).
– Número de capas.
– Número de neuronas por capa.
– Tipo de conexiones. Normalmente, todas las
neuronas de una capa reciben señales de la capa
anterior (más cercana a la entrada) y envían su
salida a las neuronas de la capa posterior (más
cercana a la salida de la red).
Tipo de aprendizaje.
14
IC - Redes Neuronales - 2016
Redes feedforward
18
IC - Redes Neuronales - 2016
Comportamiento
19
IC - Redes Neuronales - 2016
PERCEPTRÓN
EL MODELO
NEURAL NETWORK TOOLBOX - MATLAB
recta de ecuación
y = -4/3 x - 2
Wp+b = 0
w1 x + w2 y = - b
22
IC - Redes Neuronales - 2016
La neurona perceptrón
Ejemplo:
23
IC - Redes Neuronales - 2016
Arquitectura
La red Perceptrón
consiste de una única
capa oculta de S neuronas
perceptrón conectadas a R
entradas a través de
conexiones con pesos wi,j.
Los índices i y j indican
que wi,j es el peso de la
conexión desde la j-ésima
entrada hacia la i-ésima
24 neurona.
IC - Redes Neuronales - 2016
Creación de un perceptrón con
Matlab
net = perceptron
net = configure(net, P, T);
25
IC - Redes Neuronales - 2016
Creación de un perceptrón con
Matlab (Antes)
net = newp(PR, S)
Ejemplo:
net = newp([-2 2; -2 2], 1)
26
IC - Redes Neuronales - 2016
Inicialización
Ejemplo:
p1 = [1;1];
a1 = sim(net, p1);
o
a1 = net(p1);
28
IC - Redes Neuronales - 2016
Regla de Aprendizaje de la red
Perceptrón I
En consecuencia:
W = W + ep'
Si consideramos el umbral como un peso cuya
entrada siempre es 1 tenemos:
b=b+e
32
IC - Redes Neuronales - 2016
Regla de Aprendizaje de la red
Perceptrón V
¿Cómo queda
la recta
después de
aprender para
el punto
negro?
nnd4pr
33
IC - Redes Neuronales - 2016
Regla de Aprendizaje de la red
Perceptrón VI
34
IC - Redes Neuronales - 2016
Entrenamiento I
36
IC - Redes Neuronales - 2016
RED ADALINE
REDES LINEALES ADAPTATIVAS
39
IC - Redes Neuronales - 2016
Error cuadrático medio (LMS)
40
IC - Redes Neuronales - 2016
Algoritmo LMS (least mean square)
e2(w) = (t - a(w))2
El gradiente apunta hacia la
nnd10lc dirección de crecimiento
41 más rápido
IC - Redes Neuronales - 2016
Algoritmo LMS (least mean square)
42
IC - Redes Neuronales - 2016
REDES BACKPROPAGATION
44
IC - Redes Neuronales - 2016
Redes Backpropagation II
net = feedforwardnet(10);
net = configure(net,x,t);
y1 = net(x);
net = train(net,x,t);
y2 = net(x);
plot(x,t,'o',x,y1,'x',x,y2,'*')
net = init(net);
y3 = net(x);
net = train(net,x,t);
y4 = net(x);
plot(x,t,'*r',x,y1,'ob',x,y2,'*b', x, y3, 'og', x, y4, '*g')
48
IC - Redes Neuronales - 2016
Ejemplo train - init
3
-1
-2
49 -3
0 1 2 3 4 5 6 7 8
IC - Redes Neuronales - 2016
Reconocimiento de patrones
[x,t] = iris_dataset;
net = patternnet(10);
[net, tr] = train(net,x,t);
view(net)
y = net(x);
perf = perform(net,t,y); % tr.best_tperf
plotperform(tr);
classes = vec2ind(y);
51
IC - Redes Neuronales - 2016
Errores
Best Validation Performance is 0.062685 at epoch 12
0
10
Train
Validation
Cross-Entropy (crossentropy)
Test
Best
-1
10
-2
10
-3
10
0 2 4 6 8 10 12 14 16 18
18 Epochs
xx = 1:tr.num_epochs + 1;
52 plot(xx, tr.perf, 'b', xx, tr.tperf, 'r', xx, tr.vperf, 'g')
IC - Redes Neuronales - 2016
Conjuntos de entrenamiento,
validación y test
54
IC - Redes Neuronales - 2016
Simulación de las redes
55
IC - Redes Neuronales - 2016
Optimizar el modelo
57
IC - Redes Neuronales - 2016
Redes Neuronales - Resumen (II)
59
IC - Redes Neuronales - 2016