Universidad de la Sierra Jurez

Simposio de Ciencias Naturales y Tecnologa

ante el Cambio Climtico
Minera de datos aplicada a la industria petrolera.
Un caso de estudio con registros geofsicos

Guillermo Molero-Castillo
ggmoleroca@conacyt.mx

21 de noviembre de 2014

Redes Neuronales Artificiales

(RNA)

1. Redes neuronales artificiales (RNA)

Sistemas de procesamiento de informacin cuya estructura y funcionamiento estn
inspiradas en las redes neuronales biolgicas.

Dendritas

Pesos entrada
Cuerpo de la clula
Umbral

Axn
Sinapsis

Realidad

Activacin

Pesos salida

Inteligencia Artificial

1. Redes neuronales artificiales (RNA)

Sus inicios
Dcada de los cuarenta: Inicio de la neurocomputacin
McCulloch y Pitts (1943), Donald Hebb (1949), Wiener y Von Newman
Dcada de los cincuenta y sesenta: Primera poca de oro
Widrow y Hoff (1960), Rosenblatt (1962). Introdujeron las primeras redes
neuronales artificiales (RNA) prcticas y reglas de aprendizaje.
Minsky y Papert (1969). Demostraron las limitaciones de las RNA existentes. El
perceptrn no puede aprender la funcin lgica XOR.
Muchas investigaciones en el campos se suspendieron.

Dcada de los setenta: Los aos tranquilos

Trabajos de Teuvo Kohonen (1972), Anderson (1972) y Grossberg.
Se sigue trabajando pero a pasos lentos.
Dcada de los ochenta: Entusiasmo renovado
Trabajos de John Hopfield (Premio Novel de Fsica), David Tank (AT&T).
Desarrollaron varias redes neuronales para resolver varios problemas de
optimizacin, como TSP. Resurgimiento de las RNA.

1. Redes neuronales artificiales (RNA)

Aplicaciones
Espacio areo. Simulaciones y predicciones de trayectorias de vuelo, sistemas

de control de vuelo, deteccin de fallas en componentes de la nave, entre

otros.
Bancos. Evaluacin de crditos, identificacin de firmas.
Electrnica. Anlisis de fallas de circuitos, sntesis de voz, control de procesos.
Robtica. Control de trayectorias, reconocimiento de voz, visualizacin.
Telecomunicaciones. Comprensin de datos e imgenes, traduccin del
lenguaje hablado.
Automotriz. Diagnstico de motores, tiempos y movimientos.
Seguridad. Reconocimiento facial, identificacin y acceso de personas.
Finanzas. Evaluacin de bienes races, prediccin de la bolsa y tipo de cambio.
Medicina. Diseo de prtesis, optimizacin de tiempos de trasplante,
deteccin del cncer.

1. Redes neuronales artificiales (RNA)

Concepto de una RNA
rea de investigacin de la IA encargada de simular el sistema nervioso humano y
su capacidad para aprender y adaptarse.

1.
2.
3.
4.
5.

Entradas:
Pesos:
Funcin de transferencia
Funcin de activacin:
Salida:

y entrada neta

-->

1. Redes neuronales artificiales (RNA)

Elementos de un sistema neuronal artificial
El elemento base es una neurona artificial, que se organiza en capas. Varias capas
forman una red neuronal. Una red neuronal o ms constituye un sistema neuronal.

1. Redes neuronales artificiales (RNA)

Elementos de un sistema neuronal artificial
La capa de entrada sirve
para distribuir los datos
por la red y no realiza
ningn clculo.
La capa de salida genera
la salida de toda la red
neuronal.
La capa oculta transmite
seales desde la capa de
entrada a la capa de
salida.

1. Redes neuronales artificiales (RNA)

RNA tipo Perceptrn multicapa
Aprende de la asociacin que existe entre un conjunto de patrones de
entrada y salidas.
Capa de entrada
Umbral
N1

Capa de salida
2
3

N7

Capa oculta

Variable de
estudio

1. Redes neuronales artificiales (RNA)

Perceptrn multicapa
El entrenamiento de una red neuronal multicapa se realiza mediante un proceso de
aprendizaje, para esto se debe definir con claridad la topologa de la red:

Nmero de neuronas en la capa de entrada (vectores de entrada).

Cantidad de capas ocultas.
Nmero de neuronas en la capa oculta.
Nmero de neuronas en la capa de la salida.
Funciones de transferencia requeridas en cada capa.

Con base en la topologa escogida se asignan valores iniciales a cada uno de los
parmetros que conforma la red.

1. Redes neuronales artificiales (RNA)

Normalizar los datos
Antes de entrenar a la red, es muy importante normalizar los valores. Esto se hace
usando la siguiente frmula:

xn xmin
x
xmax xmin
*
n

Su aplicacin mapea los valores al intervalo:

[0,1]

1. Redes neuronales artificiales (RNA)

a) Nmero de neuronas en la capa oculta
No existe una tcnica especfica para determinar el nmero de neuronas en la capa
oculta.
La eleccin se determina por la experiencia del diseador, con base en heursticas,
como:

El # de neuronas ocultas relacionada con el # de neuronas de entrada. Regla:

2(1), # de neuronas ocultas debe ser al menos la mitad ms uno del # de
neuronas de entrada.

El # de neuronas ocultas debe ser 2/3 del # de neuronas de entrada.

Regla: h = 2/3(n)

1. Redes neuronales artificiales (RNA)

b) Funcin de activacin

Nmero de neuronas en la capa l-1

Capa

Activacin

n ( l 1)

(l)
(l-1)
(l)
zi f ( wij z j ti )
j 1

Funcin de activacin

Pesos

Umbral

1. Redes neuronales artificiales (RNA)

b) Funcin de activacin

1. Redes neuronales artificiales (RNA)

b) Funcin de activacin

1. Redes neuronales artificiales (RNA)

Algoritmo de aprendizaje Backpropagation (BP)
La retropropagacin consiste en propagar el error hacia atrs, es decir, de la capa de
salida hacia la capa de entrada, pasando por la capa intermedia, ajustando los
pesos de las conexiones con el fin de minimizar el error, el cual se calcula a travs de
las derivadas parciales de dicho error.

INICIO
Establecer aleatoriamente los pesos y umbrales inciales.
Para cada vector o elemento v del conjunto de aprendizaje
HACER
Realizar la ejecucin para obtener la respuesta de la red ante el vector v
Calcular el error
Calcular el incremento de los pesos y umbrales asociados a cada vector v
Calcular el incremento total (para todos los vectores)
Actualizar los pesos y umbrales
FIN ALGORITMO

Caso de estudio:
Redes Neuronales Artificiales
(RNA)

1. Redes neuronales artificiales (RNA)

Se tiene 5 mediciones RC1, RC2, RC3, RC4 y RC5.
Se desea obtener un valor predecido de estas 5 mediciones.

1. Redes neuronales artificiales (RNA)

Se tiene 5 mediciones RC1, RC2, RC3, RC4 y RC5.
Se desea obtener un valor predecido de estas 5 mediciones.
Variable
meta o
clase

1. Redes neuronales artificiales (RNA)

Solucin: