• Combinación de módulos ADALINE básicos en una estructura de capas.
ESCOM I P N Enero 2000 1
Error en MADALINE
ESCOM I P N Enero 2000 2
Generalización
ESCOM I P N Enero 2000 3
Entrenamiento de la Red MADALINE • Se aplica un vector a las entradas de MADALINE y se hace propagar hasta las unidades de salida.
• Se cuenta el número de valores incorrectos
que hay en la capa de salida, denominándose error a dicho número
ESCOM I P N Enero 2000 4
• Para las unidades de la capa de salida: – Se selecciona la primera neurona que no haya sido seleccionada antes y cuya salida lineal esté más próxima a 0. Esta es la neurona que puede cambiar su salida binaria con el menor cambio de sus pesos y, según el principio de mínima perturbación, debe tener prioridad en el aprendizaje – Cambiar los pesos de la neurona seleccionada de modo que cambie su salida binaria. – Propagar vector de entrada hacia delante una vez más. ESCOM I P N Enero 2000 5 – Admitir cambio de pesos si ha dado lugar a una reducción del error; en caso contrario, se restauran los pesos originales. • Repetir paso anterior para todas las capas, salvo la de salida. • Para todas las unidades de la capa de salida: – Seleccionar el par de neuronas que no hayan sido seleccionadas anteriormente y cuyas salidas lineales estén más próximas a 0. – Aplicar una corrección de pesos a ambas neuronas para modificar el valor de salida. ESCOM I P N Enero 2000 6 – Propagar hacia delante el vector de entradas, desde las entradas hasta las salidas. – Admitir el cambio de pesos si ha dado lugar a una reducción del error; en caso contrario, restaurar pesos originales. • Repetir el paso anterior para todas las capas, salvo la de entrada. • Los dos últimos pasos se pueden repetir con grupos de 3,4 o mayor número de neuronas hasta obtener resultados satisfactorios. Se considera que las parejas son apropiadas para redes con un máximo de 25 neuronas por capa, aprox. ESCOM I P N Enero 2000 7 COMANDOS DE MATLAB
• initlin Inicializa una capa linear
• adaptwh Adapta una capa linear con la regla
de Widrow-Hoff
ESCOM I P N Enero 2000 8
% Definición de las señales E/S de entrenamiento for k=1:100 u(k) = 0.6*sin (2* pi* k /10) + 1.2*cos (2* pi* k / 10); y(k) = 2.5* u(k) + 2; end; %Definición de la red ADALINE inicial [w, b] = initlin (u, y) ; %Entrenamiento de la red [o, e, w, b] = adaptwh (w, b, u, y, 1.0) ; % α =1 %Gráfica de la señal de error clg; grid; plot (y - o, ‘y’); xlabel(‘Time Step’); ylabel(‘Error’); ESCOM I P N Enero 2000 9 ESCOM I P N Enero 2000 10 Dudas ???