REDES NEURONALES

ARTIFICIALES

Prof. Francisco J. Arias S.

2013

Objetivo General
Introducir a los estudiantes en los temas fundamentales de
las Redes Neuronales Artificiales y desarrollar habilidades
para su uso e implementacin en la solucin de diferentes
problemas.

Objetivos Especficos
Conocer la inspiracin biolgica de las Redes Neuronales
Artificiales (RNA) y sus fundamentos.
Entender el funcionamiento de los modelos mas populares de
las RNA.
Identificar en que tipo de problemas pueden ser aplicados
modelos de RNA.

Inspiracin Biolgica
Antes de abordar el estudio de las RNA es conveniente
exponer algunos conceptos bsicos de los sistemas
neuronales biolgicos. Esto con el fin de establecer el
paralelismo existente entre ambos.

Inspiracin Biolgica
El Cerebro Humano

Trata gran cantidad de informacin

Capacidad de tratar situaciones

nuevas.

Capacidad de aprendizaje

Almacenamiento distribuido.

No binario, no estable y no
secuencial.

Poder desconocido

1011 Neuronas
(procesadores)
1000 10000 conexiones
por neurona
Capacidad basada en las
conexiones.
Cada neurona es muy
compleja.

Inspiracin Biolgica
Neurona

Pueden presentar muchas

formas, aunque presentan
un aspecto similar.

Cuerpo celular o soma

(10 80 micras).

Dendritas de entradas

Un axn de salida

Sinapsis de conexin.

Inspiracin Biolgica

Inspiracin Biolgica
Generacin y transmisin de la seal nerviosa

Las seales se pueden transmitir

elctrica o qumicamente.

Qumica: a travs del intercambio

de neurotransmisores (como el
glutamato y la adrenalina).

Elctrica: a travs de descargas

que se producen en el cuerpo
celular y que se propagan por el
axn

Inspiracin Biolgica
Potencial de accin

La reaccin qumica producida

por la interaccin de los
neurotransmisores con la clula
generan un voltaje.

Si se supera un umbral de
disparo se genera un potencial
de accin.

Es una onda de descarga

elctrica que viaja a lo largo de
la neurona.

Se
utilizan
para
llevar
informacin entre neuronas.

Inspiracin Biolgica
Potencial de accin
No todas las neuronas se disparan generando un tren de pulsos
de una frecuencia aproximadamente constante, pues la
presencia de otras especies inicas hace que diferentes neuronas
posean patrones de disparo distintos:

trenes puros.

Paquetes

de pulsos.

Presentando

patrones mas complejos.

Inspiracin Biolgica
Aprendizaje
Existen diversas formas de aprendizaje:
Establecimiento

de nuevas conexiones.
Ruptura de conexiones.
Muerte neuronal.
Intensidad sinptica.
Este tipo de acciones, en especial la intensidad sinptica, sern
las que utilicen la redes neuronales artificiales para llevar a cabo
el aprendizaje.

Cerebro Vs Computador
Computador

Cerebro

Construido en torno a una

nica CPU o procesador.

Construido en torno a miles

de millones de procesadores
(neuronas).

Ejecucin de modo
secuencial.

Ejecucin de modo paralelo.

Posiciones de memoria bien

definidas.

Memoria distribuida.

Baja tolerancia a fallas.

Redundancia de informacin,
por lo cual hay tolerancia a
fallas.

Cerebro Vs Computador
Computador

Cerebro

Muy eficiente en la solucin a

problemas matemticos
complejos y de simulacin.

Muy eficiente en tareas de

reconocimiento (imgenes y
voz.

Muy eficiente realizando

tareas repetitivas y bien
definidas.

Muy eficiente en adaptacin y

aprendizaje.
Muy eficiente con problemas
de percepcin.
Muy
eficiente
en
generalizacin de conceptos a
partir de casos particulares.

Cerebro Vs Computador
Conclusin 1
Los seres humanos no tienen mucho xito en tareas que las
computadoras convencionales realizan excelentemente, y
viceversa.
Conclusin 2
Los
sistemas
biolgicos
utilizan
estrategias
de
procesamiento muy diferentes a los sistemas de cmputo
convencionales.

Que Son las Redes Neuronales

Artificiales (RNA)?
Las Redes Neuronales Artificiales (RNA)
son modelos
matemticos inspirados en sistemas biolgicos, adaptados y
simulados en computadoras convencionales.
Los tres conceptos claves de los sistemas biolgicos, que se
pretenden emular en los artificiales son:

Paralelismo de calculo.

Memoria distribuida.

Adaptabilidad al entorno.

Elementos de un Sistema Neuronal

Artificiales
El elemento esencial de partida es la neurona artificial, que
se organiza en capas; varias capas constituyen una red
neuronal; y, por ultimo, una red neuronal (o un conjunto de
ellas), junto con las interfaces de entrada y salida
constituirn el sistema neuronal.

Modelo General de Neurona

Artificial
Definicin Neurona Artificial
Se denomina procesador elemental o neurona a un
dispositivo simple de calculo que, a partir de un vector de
entrada procedente del exterior o de otras neuronas,
proporciona una nica respuesta o salida.

Modelo General de Neurona

Artificial
Los elementos que constituyen la neurona de etiqueta i son:

Modelo General de Neurona

Artificial
Los elementos que constituyen la neurona de etiqueta i son:

Conjunto de entradas,

Xj(t).

Pesos sinpticos de la neurona i. Wij representa la

intensidad de interaccin entre cada neurona pre sinptica j
y la neurona post sinptica i.

g(Wij, Xj(t)). Proporciona el valor

sinptico hi(t) = g(Wij, Xj(t)) de la

Regla de propagacin

del potencial post

neurona i en funcin de sus pesos y entradas.

Modelo General de Neurona

Artificial
Funcin

fi(ai(t-1), hi(t)), que proporciona el

actual ai(t) =fi(ai(t-1), hi(t)) de la
de su estado anterior ai(t-1) y de su

de activacin

estado de activacin

neurona i, en funcin
potencial post sinptico actual.
Funcin de salida

Fi(ai(t)),

que proporciona la salida

actual yi(t) = Fi(ai(t)) de la neurona i en funcin de su

estado de activacin.
De este modo, la operacin de la neurona i puede expresarse
como:

yi(t) = Fi(fi[ai(t-1), g(Wij, Xj(t))]

Modelo General de Neurona

Artificial
Interaccin entre una neurona pre sinptica y una post sinptica:

Modelo General de Neurona

Artificial
Peso sinptico
Si el peso es positivo tendera a excitar a la neurona post
sinptica, si el peso es negativo tender a inhibirla. As se
habla de sinapsis excitadora e inhibidora en las redes
neuronales artificiales.

Modelo General de Neurona

Artificial
Regla de propagacin
La funcin mas habitual es de tipo lineal, y se basa en la
suma ponderada de las entradas con los pesos sinpticos

Que formalmente tambin puede interpretarse como el

producto escalar de los vectores de entrada y pesos

Modelo General de Neurona

Artificial
Regla de propagacin
Otra regla de propagacin habitual es:

Que representa la distancia (al cuadrado) existente entre el

vector de entradas y el de pesos. Cuando ambos vectores
son muy similares, la distancia es muy pequea; cuando son
muy diferentes, la distancia crece.

Modelo General de Neurona

Artificial
Funcin de activacin o funcin de transferencia
En muchos modelos de RNA se considera que el estado
actual de la neurona no depende de su estado anterior, si no
nicamente de su estado actual:

ai(t) =fi(hi(t))

Modelo General de Neurona

Artificial
Funcin de activacin habituales

Modelo General de Neurona

Artificial
Funcin de salida
Muy frecuentemente la funcin de salida es simplemente la

identidad F(x)=x, de modo que el estado de activacin de la

neurona se considera como la propia salida.

yi(t) = Fi(ai(t)) = ai(t)

Esto ocurre con los modelo mas comunes, como el MLP
(Multi Layer Perceptron) y el adalina. La funcion de salida
puede ser tambien de tipo escalon, lo que supone que la
neurona no se dispara hasta que la activacin supere un
cierto umbral.