REDES DE FUNCIONES DE BASE RADIAL (RBFN)

CARLOS LEON FABIAN PEALOZA CHRISTIAN PIEDRA

AGENDA
INTRODUCCION ARQUITECTURA CARACTERISTICAS ENTRENAMIENTO APLICACIONES BIBLIOGRAFIA

INTRODUCCION
Broomhead y Lowe en 1988, introducen un mtodo alternativo al perceptrn multicapa (MLP), para hacer ajuste a funciones no lineales. A esta clasificacin no lineal se la nombro las redes RBFN. A diferencia de la disposicin que se tiene en la funciones de activacin que permite construir modelos de entrenamiento mediante backpropagation, estas nuevas redes basadas en RBF construyen sus modelos con funciones de activacin que son diferente tanto en la capa oculta como la de salida.

INTRODUCCION
En general, una red RBF tiene un mejor desempeo con un mayor volumen de datos de entrenamiento. La construccin de una red RBF requiere de una mayor cantidad de neuronas en los nodos ocultos que en las redes que usan backpropagation.

INTRODUCCION
Aunque las redes RBF no son comnmente utilizadas en aplicaciones que impliquen un alto volumen de patrones de entrenamiento, se le reconoce como una red con una alta eficiencia en la fase de entrenamiento.

ARQUITECTURA
Una RBFN est conformada por las siguientes capas:
Capa de entrada: reciben las seales del exterior, no realizan ningn pre procesado. Capa Oculta: reciben las seales de la capa de entrada con la cual se interconecta con todos sus nodos y se realiza una transformacin local y no lineal sobre dichas seales a travs de la funcin radial (gaussiana). Capa de Salida: Se realiza una combinacin lineal de las activaciones de las neuronas de la capa oculta y acta como salida de la red.

ARQUITECTURA

CARACTERISTICAS
Los nodos ocultos contienen una funcin base radial, la cual tiene como parmetros un centro y un ancho. Existe un centro para cada funcin radial involucrada en la capa oculta. Regularmente, definen un vector de la misma dimensin del vector de entrada y hay normalmente un centro diferente por cada nodo de la capa oculta.

CARACTERISTICAS
Por otro lado, el ancho es el trmino empleado para identificar a la amplitud de la campana de gauss originada por la funcin radial. Es decir, la desviacin estndar de la funcin radial.

CARACTERISTICAS

ENTRENAMIENTO
El primer clculo efectuado en la capa oculta es hallar en un nodo de la capa oculta la distancia radial (distancia euclidiana) d entre el vector de entrada x, con n observaciones, a ese nodo en particular y el centro de gravedad c de ese mismo nodo: Este valor d es un componente de la entrada para activar la funcin radial G().

ENTRENAMIENTO
Una de las derivaciones del modelo RBF es emplear el ancho (desviacin estndar) para activar la funcin G(). En este caso se estara trabajando con algo como:

donde a es el ancho para ese nodo oculto.

ENTRENAMIENTO

ENTRENAMIENTO
Tal como se puede observar en el grafico la salida z del sistema sera:

donde G() es la salida de la capa oculta y se corresponde con la funcin radial aplicada a la distancia euclidiana en cada una de las unidades ocultas.

ENTRENAMIENTO
APRENDIZAJE HIBRIDO
Fase no supervisada: se determinan los parmetros de la capa oculta. Fase supervisada: se determinan los pesos en la capa de salida.

ENTRENAMIENTO
APRENDIZAJE HIBRIDO
Fase no supervisada
Puesto que las neuronas ocultas se caracterizan porque representan zonas diferentes del espacio de entradas, los centros y las desviaciones deben de ser calculados con este objetivo (clasificar el espacio de entradas en diferentes clases).

ENTRENAMIENTO
APRENDIZAJE HIBRIDO
Fase supervisada
Se utiliza la tcnica de correccin de error empleada en el Adaline y el perceptron multicapa donde el objetivo es la minimizacin de la funcin de error:

Donde N es el nmero de patrones.

ENTRENAMIENTO
APRENDIZAJE HIBRIDO
Fase supervisada
e(n) es el error cometido por la red para el patrn X(n), que viene dado por:

Donde Y(n) es la salida de la red, S(n) es la salida deseada para un patrn X(n)

ENTRENAMIENTO
APRENDIZAJE HIBRIDO
Determinacin de pesos:

ENTRENAMIENTO
APRENDIZAJE TOTALMENTE SUPERVISADO
A diferencia con el mtodo anterior, este tipo de aprendizaje no conserva, en principio, las propiedades o caractersticas locales de las redes de base radial. En este caso, todos los parmetros de la red, centros, amplitudes, pesos y umbrales, se determinan de manera completamente supervisada y con el objetivo de minimizar el error cuadrtico medio.

ENTRENAMIENTO
APRENDIZAJE TOTALMENTE SUPERVISADO
En este proceso, en ningn momento se tiene en cuenta que las amplitudes alcancen valores tales que el solapamiento de las activaciones de las neuronas de la capa oculta sea lo ms suave posible. As que en principio, esa caracterstica de localidad se puede perder.

ENTRENAMIENTO
APRENDIZAJE TOTALMENTE SUPERVISADO
Calculo de parmetros:

APLICACIONES
Las redes RBF son frecuentemente utilizadas para resolver problemas de clasificacin, aunque generalmente son para problemas de Mapeo y poseen capacidades de aproximacin universal.

REDES DE BASE RADIAL VS MULTICAPA

Perceptrn Multicapa
Uso de Funciones de Transferencia Sigmoidales. Aprendizaje Lento: Cambio de un solo peso ante un patrn, provoca cambios en la salida para todos los patrones presentados anteriormente, reducindose as el efecto de previos ciclos de aprendizaje y retrasando la convergencia.

REDES DE BASE RADIAL VS MULTICAPA

Redes de Base Radial
Cada neurona de la capa oculta se especializa en una determinada regin del espacio de entradas. La relacin entre la entrada y la salida es una suma de funciones no lineales y locales. Aprendizaje ms rpido: el cambio de peso slo afecta a la neurona oculta asociada a dicho peso

En ciertos casos, es necesario un elevado nmero de neuronas en la capa oculta.

El nmero de neuronas ocultas aumenta exponencialmente con la dimensin del espacio de entradas.

BIBLIOGRAFIA
http://www.ibiblio.org/pub/linux/docs/LuCaS/ Presentaciones/200304cursoglisa/redes_neuronales/curso-glisaredes_neuronales-html/x185.html http://www.webdelprofesor.ula.ve/economia/gc olmen/programa/redes_neuronales/capitulo4_f unciones_bases_radiales.pdf http://www.varpa.org/~mgpenedo/cursos/scx/ archivospdf/Tema5-6.pdf