Está en la página 1de 19

Redes Neuronales con

conexiones hacia adelante


Inteligencia Artificial II
Guillermo Pizarro
gpizarro@ups.edu.ec
Contenido de la Unidad

1. El Perceptrón monocapa
2. El Perceptrón multicapa
3. Las Redes ADALINE y MADALINE
4. La Red Backpropagation
5. Redes Neuronales y Lógica Difusa
6. Aplicaciones prácticas de las redes neuronales multicapa
Las Redes ADALINE y MADALINE
Redes Neuronales con conexiones hacia adelante
Las Redes ADALINE y MADALINE

ADALINE [1]

● El ADALINE (ADAptative LINear Element) es un tipo de red neuronal artificial


desarrollada por el profesor Bernard Widrow y su alumno Ted Hoff en la Universidad
de Stanford en 1960.
● El modelo está basado en la neurona de McCulloch-Pitts.

Bernard Widrow Ted Hoff


Las Redes ADALINE y MADALINE

ADALINE

● Generalmente se compone de una sola capa de n neuronas (por tanto, n valores de


salida) con m entradas con las siguientes características:
○ Las m entradas representan un vector x de entrada que pertenece al espacio
Rm.
○ Por cada neurona, existe un vector w de pesos sinápticos que indican la fuerza
de conexión entre los valores de entrada y la neurona. En la práctica
representan la ponderación de cada entrada sobre la neurona.
○ Una constante Ө.
○ La salida y de la neurona se representa por la función de activación, que se
define como:
Las Redes ADALINE y MADALINE

ADALINE - Arquitectura
Las Redes ADALINE y MADALINE

ADALINE - Aprendizaje

● A diferencia del perceptrón, a la hora de modificar los pesos durante el


entrenamiento, el ADALINE tiene en cuenta el grado de corrección de la salida
estimada respecto a la deseada.
● Esto se consigue mediante la aplicación de la regla delta, y que se define, para un
patrón de entrada xp, con una salida yp y una salida deseada dp, como | dp - yp |.
Las Redes ADALINE y MADALINE

ADALINE - Aprendizaje

● Dado que el objetivo del Adaline es poder estimar de la manera más exacta la salida
(conseguir una salida exacta es prácticamente imposible en la mayoría de los
casos), se busca minimizar la desviación de la red para todos los patrones de
entrada, eligiendo una medida del error global. Normalmente se utiliza el error
cuadrático medio.
Las Redes ADALINE y MADALINE

ADALINE - Aprendizaje

● La manera de reducir este error global es ir modificando los valores de los pesos al
procesar cada entrada, de forma iterativa, mediante la regla del descenso del
gradiente. Suponiendo que tenemos una constante de aprendizaje :

● Si operamos con la derivada, queda:

● Que será la expresión que utilizaremos por cada entrada para modificar los pesos.
Las Redes ADALINE y MADALINE

ADALINE - Aplicaciones

● Asociación de patrones: se puede aplicar a este tipo de problemas siempre que los
patrones sean linealmente separables.

En el campo del procesamiento de señales:

● Filtros de ruido: Limpiar ruido de señales transmisoras de información.


● Filtros adaptativos: Un adaline es capaz de predecir el valor de una señal en el
instante t+1 si se conoce el valor de la misma en los p instantes anteriores (p es >0
y su valor depende del problema). El error de la predicción será mayor o menor
según qué señal queramos predecir. Si la señal se corresponde a una serie temporal
el Adaline, pasado un tiempo, será capaz de dar predicciones exactas.
Entrenando una Red ADALINE

edad altura estado Color de satisfecho edad altura estad Color satisfecho
civil piel o civil de piel
43 1.99 Casado Blanco 1 .43 1.99 1 100 1

54 1.34 Soltero Mestizo 0 .54 1.34 0 010 0

76 1.65 Casado Mestizo 1 .76 1.65 1 010 1

34 2.01 Soltero Negro 0 .34 2.01 0 001 0

56 1.67 Soltero Mestizo 1 .56 1.67 0 010 1

70 1.10 Soltero Mestizo 0 .7 1.10 0 010 0


Seudocódigo del entrenamiento de la Red ADALINE
Entrenando una Red ADALINE

edad altura estado Color satisfecho 0.43 edad


civil de piel
0.3
.43 1.99 1 100 1
1.99 ϴ =-0.6
0.5 W
.54 1.34 0 010 0

.76 1.65 1 010 1


1 0.2
.34 2.01 0 001 0
0.1
y
.56 1.67 0 010 1
1 1
.7 1.10 0 010 0 0.9

0
Inicialmente 0.7
ΔW2-1=0
Para cada patrón α=0.1
y=0.43*0.3+1.99*0.5+1*0.2+1*0.1+0*0.9+0*0.7+(-0.6)=0.829 0
ΔW2-1=ΔW2-1 +α*(d-y)*altura = 0 + 0.1*(1-0.829)*1.99 =0,034029
Ejemplo

edad altura satisfecho


.43 1.99 1
.54 1.34 0 edad
0.3

0.5
altura

Ө= -0.6

bias 1 α=0.1
Código
Código
Las Redes ADALINE y MADALINE

MADALINE

● Una red multicapa de ADALINE es conocido como MADALINE (Many ADALINE).


● Es una red de tres capas totalmente conectada.
Bibliografía

Bibliografía Base

● Setphen Lucci, Danni Kopec. Artificial


Intelligence in the 21st Century. Mercury
Learning, 2013 (ISBN: 1936420236,
ISBN-13:9781936420230).
Recursos Bibliográficos

[1]. https://es.wikipedia.org/wiki/Adaline

También podría gustarte