Redes Neuronales Artificiales

Los atributos bsicos de una red neuronal pueden ser

divididos en:

!
!

Arquitectura
Propiedad funcionales

!
!

La Arquitectura define la estructura de la red, esto es, el

numero de neuronas en la red y su interconectividad.

Las redes neuronales consisten de varias elementos de

procesamiento como entradas, pesos, funciones de
activacin, salidas, y bias.

!
!
!

Redes Neuronales Artificiales

Las Propiedad Funcionales define como la red aprende,

recuerda, asocia, y continuamente compara nueva
informacin con informacin ya existente, tambin como
clasifica nueva informacin, y como desarrolla nuevas
clasificaciones si es necesario.

El termino bias, se refiere a un valor de umbral que tiene

que ser alcanzado o excedido por la neurona para
producir una seal de salida.

!
!

Redes Neuronales Artificiales

Redes Neuronales Artificiales

La funcin de activacin (o transferencia) es la encargada

de producir la seal de salida.

Tambin, el objetivo es asegurar que la respuesta de la

neurona este restringida (acotada), es decir, la respuesta
actual esta condicionada.

Diferentes funciones de activacin son usadas,

dependiendo del problema y del algoritmo de aprendizaje
siendo utilizado.

Las funciones de activacin mostradas en la siguiente

diapositiva estn condicionadas, es decir tienen un limite
inferior y un limite superior.

Redes Neuronales Artificiales

Aprendizaje en redes neuronales

Aprendizaje en redes neuronales es de suma importancia

y es en la actualidad tanto en redes biolgicas como
artificiales un tema de investigacin intenso.

Cmo aprendemos?
Cul es la mejor manera de aprender?
Qu tanto y que tan rpido podemos aprender?
Cules son los obstculos en aprender?

Aprendizaje no es proceso nico, existen diferentes

procesos de aprendizaje, cada uno adecuado para
diferentes especies.

En redes neuronales artificiales, se selecciona el tipo de

aprendizaje mas adecuado de acuerdo al problema en
cuestin.

!
!

Aprendizaje en redes neuronales

En trminos generales, aprendizaje es el proceso por el

cual la red neuronal se adapta por si sola a estmulos
(entradas) y eventualmente (despus de hacer ajustes a
sus parmetros (pesos) propiamente) produce una
respuesta deseada.

Aprendizaje es un proceso de clasificacin de los

estmulos de entrada; cuando un estimulo aparece a la
red, la red reconoce ese estimulo o desarrolla una nueva
clasificacin.

Durante el proceso de aprendizaje la red ajusta sus

parmetros (pesos) en respuesta de una entrada, hasta
que la respuesta actual es la misma que la respuesta
deseada. La red ha completado la fase de aprendizaje; en
otras palabras, ha adquirido el conocimiento.

!
!

Aprendizaje en redes neuronales

En trminos generales existen 2 tipos de aprendizaje:

Supervisado
No Supervisado

Durante la etapa de entrenamiento (training) de una red

neuronal, una entrada es aplicada que resulta en una
respuesta de salida.

Esta respuesta es comparada con una respuesta a priori

deseada (target response).

Si la respuesta actual difiere de la respuesta deseada, la

red genera una seal de error, el cual es usado para
calcular el ajuste que debera ser realizado a los pesos de
la red para que la respuesta actual coincida con la
respuesta deseada.

Aprendizaje en redes neuronales

En otras palabras, el error es minimizado, posiblemente

hasta cero.

El proceso de minimizacin del error requiere de un

maestro o supervisor, de ah el nombre de aprendizaje
supervisado.

Cunto toma aprender un nuevo idioma?

En redes neuronales la cantidad de tiempo requerido para

minimizar el error depende del algoritmo usado; esto es,
herramientas matemticas derivadas de una tcnica de
optimizacin.

!
!
!
!

Aprendizaje en redes neuronales

El aprendizaje no supervisado no requiere un maestro o

supervisor, no hay respuesta deseada.

Durante la etapa de entrenamiento, la red recibe

diferentes seales de entrada, y arbitrariamente organiza
los patrones en categoras.

Cuando un estimulo es aplicado, la red provee una

respuesta de salida indicando a que clase pertenece. Si
una clase no pudo ser encontrada para ese estimulo de
entrada, una nueva clase es generada.

Por ejemplo, ensea a una persona un conjunto de

diferentes objetos; despus, pregntale que los separe en
grupos o clasificaciones, de tal modo que objetos en un
tengan ciertas similitudes muestra otro objeto y
pregunta que lo clasifique dentro de algn grupo..

Aprendizaje en redes neuronales

Existe otro tipo de aprendizaje que es el aprendizaje

reforzado.

Puede ser clasificado dentro de aprendizaje supervisado,

pero a diferencia de este no se indica que tan cerca se
esta de la respuesta deseada.

El maestro no representa la salida deseada a la red, pero

presenta una indicacin de si/no.

As, la seal de error generada durante el proceso de

entrenamiento es una seal binaria: 1 o 0.

!
!
!
!
!
!

Parmetros de las redes neuronales

Topologa de la red neuronal.

Numero de capas en la red.

Numero de neuronas por capa.

Algoritmo de aprendizaje: En redes neuronales, la

descripcin matemtica de como los pesos se actualizan
durante el proceso de entrenamiento constituye el
algoritmo de aprendizaje.

Nmero de iteraciones.

ndice de rendimiento de la red.

Etc

!
!

Topologas de redes neuronales

Las redes neuronales comprenden varias neuronas, que

puede ser interconectadas de diferentes maneras.

Tpicamente, la capa donde los patrones de entrada son

aplicados se le conoce como la capa de entrada.

La capa donde la respuesta es obtenida es la capa de

salida.

La capas entre la capa de entrada y salida es la capa

oculta. Puede existir una o mas capas ocultas, y son
llamadas as por que sus salidas no son directamente
observables.

!
!
!
!

Topologas de redes neuronales

Recurrent
Neural Network

Feedforward
Neural Network

Modelos de redes neuronales

Existen diferentes modelos de redes neuronales presentes

en la literatura:

!
!
!
!

Perceptron
Adaline
Perceptron multicapa (Multilayer NN)
Base radial (Radial Basis)
Memorias asociativas
Elman
Jordan
Hopfield
Etc.

Modelos de redes neuronales

El modelo de Perceptron es un modelo con una sola

neurona.

Perceptron multicapa esta compuesta de muchos

Perceptron simple en una estructura jerrquica formando
una estructura de propagacin hacia adelante con una o
mas capas ocultas entre la capa de entrada y salida.

El numero de neuronas y capas no es fijo, cada capa

puede contener diferente numero de neuronas,
dependiendo de la aplicacin.

Diferentes algoritmos han sido desarrollados para

Perceptron multicapa, el mas comn es el de propagacin
hacia atrs (backpropagation)

!
!
!