Redes Neuronales

Artificiales I
Teora y Diseo

M en C. Jos Luis Caldern O.

Agosto 2002 ESCOM IPN 1

 UNIDAD I: Introduccin a las Redes
Neuronales Artificiales.
Marco histrico de las redes neuronales
artificiales.
Definiciones de redes neuronales.
Caractersticas de las redes neuronales.
Aplicaciones de las redes neuronales.
El modelo biolgico neuronal.
Elementos de una red neuronal artificial.
Estructuras de redes neuronales artificiales.
Topologas de redes neuronales.
Algoritmos de aprendizaje.

Agosto 2002 ESCOM IPN 2

 Redes Neuronales
Artificiales
Computer Science
Artificial Intelligence

Mathematics
Biology Linear Algebra
Neurophysiology Differential Eqns

Cognitive Neural Economics

Psychology Networks Time Series

Engineering
Pattern Classification Statistics
Control Theory Classification
Regression Analysis

Physics
Dynamical Systems

Agosto 2002 ESCOM IPN 3

 Marco histrico de las
redes neuronales
artificiales.

Agosto 2002 ESCOM IPN 4

 Marco Histrico de
las Redes Neuronales
Antecedentes Historicos
1943 W. Mc Culloc y
W. Pitts. N. Digitales.
1949 Donal Hebb
La organizacin del
comportamiento.
1951 M. Minsky & D.
Edmonds. SNARC

Agosto 2002 ESCOM IPN 5

 Antecedentes Histricos

1957 F.Rosemblatt
El Perceptron.
1959 B. Widrow y T.
Hoff.
Adaline & Madaline
1967 S. Grossberg
Red Avalancha.

Agosto 2002 ESCOM IPN 6

 Antecedentes Histricos

1969 M. Minsky y S
Papert, Perceptrons.
1977 J. Anderson
Asociador lineal, BSB
1978 Teuvo Kohonen
Mapas
Autoorganizativos
(SOM)

Agosto 2002 ESCOM IPN 7

 Antecedentes Histricos

1980 K. Fukushima
Cognitron y
Neocognitron
1982 John Hopfield
Red Hopfield
1982 Rumelhart,
Hinton y William,
Algoritmo de
retropropagacin
Agosto 2002 ESCOM IPN 8
 Definicin de
Red Neuronal

Que es una Red Neuronal Artificial ?

Es una red compuesta de muchas
unidades de procesamiento simple , cada
una puede tener una cantidad pequea de
memoria local; las unidades estn
comunicadas a travs de conexiones que
usualmente transportan informacin
numrica.
Agosto 2002 ESCOM IPN 9
 Definiciones de
redes neuronales.

Agosto 2002 ESCOM IPN 10

 Que es una Red
Neuronal Artificial ?
Algunas redes neuronales son modelos
biolgicos y otros no, gran parte del
origen de las redes neuronales proviene
del deseo de producir sistemas artificiales
capaces de efectuar procesos sofisticados,
quizs inteligentes, similares a los que
realiza el cerebro humano comnmente.

Agosto 2002 ESCOM IPN 11

 Definiciones de una
RNA
Es un arreglo masivo de elementos de
procesamiento simple llamados neuronas,
los cuales poseen un alto grado de
interconectividad entre sus elementos, en
los que la informacin puede fluir en
cascada o en retroceso. Estos arreglos
estn inspirados en la naturaleza
biolgica de las neuronas.
Agosto 2002 ESCOM IPN 12
 Definiciones
de una RNA
Las redes neuronales Artificiales son redes
interconectadas masivamente en paralelo de
elementos simples y con organizacin
jerrquica, las cuales intentan interactuar
con los objetos del mundo real del mismo
modo que lo hace el sistema nervioso
biolgico.
Teuvo Kohonen
Agosto 2002 ESCOM IPN 13
Caractersticas de las
redes neuronales.

Agosto 2002 ESCOM IPN 14

 Caractersticas
de las RNA
Aprendizaje Adaptativo:
Capacidad de aprender a realizar tareas
basada en un entrenamiento experiencia
inicial
Autoorganizacin: Una red puede
crear su propia organizacin o
representacion de la informacin que recibe
mediante una etapa de aprendizaje.
Agosto 2002 ESCOM IPN 15
 Caractersticas
de las RNA
Tolerancia a Fallos. La destruccin parcial
de una red conduce a una degradacin de su
estructura; sin embargo algunas capacidades de la
red se pueden retener, incluso sufriendo un gran
dao.
Operacin en tiempo real. Los
computadores neuronales pueden ser realizados en
paralelo, y se disean y fabrican maquinas con
hardware especial para obtener tal capacidad.
Agosto 2002 ESCOM IPN 16
 Caractersticas
de las RNA
Fcil construccin en CI. Se puede
obtener chips especializados para redes
neuronales que mejoren su capacidad en
ciertas tareas . Ello facilitara la integracion
modular delos sistemas existentes.

Agosto 2002 ESCOM IPN 17

 Que puede hacer una
Red Neuronal?
Las Redes Neuronales son tiles para:
Clasificacin de patrones
Aproximacin de funciones
Mapeo
En los que exista informacin imprecisa y
con tolerancia a fallos

Agosto 2002 ESCOM IPN 18

 Las Redes Neuronales
no son tiles para:

Prediccin de nmeros aleatorios o semi-

aleatorios
Procesamiento de enteros largos
Determinacin si un entero largo es primo o
compuesto
Desencriptar algo encriptado por un buen
algoritmo.

Agosto 2002 ESCOM IPN 19

 Aplicaciones de las
redes neuronales.

Agosto 2002 ESCOM IPN 20

Areas de Aplicacin Generales
de las RNA
Generales Especificas
Biologa Reconocimiento de
Empresa patrones
Medio Ambiente Toma de Decisiones
Finanzas Filtrado de Seales
Manufacturacin Control de Robots
Medicina
Militar
Agosto 2002 ESCOM IPN 21
 Otras Aplicaciones
Aerospace
High performance aircraft autopilots, flight path
simulations, aircraft control systems, autopilot
enhancements, aircraft component simulations, aircraft
component fault detectors
Automotive
Automobile automatic guidance systems, warranty
activity analyzers
Banking
Check and other document readers, credit application
evaluators
Agosto 2002 ESCOM IPN 22
 + Aplicaciones
Defense
Weapon steering, target tracking, object
discrimination, facial recognition, new kinds of
sensors, sonar, radar and image signal processing
including data compression, feature extraction
and noise suppression, signal/image identification
Electronics
Code sequence prediction, integrated circuit chip
layout, process control, chip failure analysis,
machine vision, voice synthesis, nonlinear
modeling
Agosto 2002 ESCOM IPN 23
 + Aplicaciones

Financial
Real estate appraisal, loan advisor, mortgage
screening, corporate bond rating, credit line use
analysis, portfolio trading program, corporate
financial analysis, currency price prediction
Manufacturing
Manufacturing process control, product design
and analysis, process and machine diagnosis,
real-time particle identification, visual quality
inspection systems, beer testing, welding quality
analysis, paper quality prediction,
Agosto 2002 ESCOM IPN 24
 + Aplicaciones
++Manufacturing
computer chip quality analysis, analysis of grinding
operations, chemical product design analysis,
machine maintenance analysis, project bidding,
planning and management, dynamic modeling of
chemical process systems
Medical
Breast cancer cell analysis, EEG and ECG analysis,
prosthesis design, optimization of transplant times,
hospital expense reduction, hospital quality
improvement, emergency room test advisement
Agosto 2002 ESCOM IPN 25
 + Aplicaciones

Robotics
Trajectory control, forklift robot, manipulator
controllers, vision systems
Speech
Speech recognition, speech compression, vowel
classification, text to speech synthesis
Securities
Market analysis, automatic bond rating, stock
trading advisory systems
Agosto 2002 ESCOM IPN 26
 + Aplicaciones

Telecommunications
Image and data compression, automated
information services, real-time translation of
spoken language, customer payment
processing systems
Transportation
Truck brake diagnosis systems, vehicle
scheduling, routing systems

Agosto 2002 ESCOM IPN 27

 Algunos Tipos de Redes
Neuronales Artificiales

Perceptron 1957 Reconocimien

to de caract.
impresos
Adaline & 1960 Filtrado de
Madaline seales
Backpropagati 1974-85 sintesis de voz
on control de
robots,
patrones
Agosto 2002 ESCOM IPN 28
Tipos de Redes Neuronales

N e o c o g n itro n 1978 R econoc. de

c a ra c te re s
M a n u s c r ito s
H o p fie ld 1982 R e c o n s tr u c . d e
p a tro n e s
SOM 1 9 8 0 -8 4 R econoc. de
p a tro n e s c o d if.
d e d a to s
ART 1986 R econoc. de
p a tro n e s
( r a d a r,s o n a r )
Agosto 2002 ESCOM IPN 29
 Instituciones y Centros
de Investigacin

Nacionales:
Cinvestav IPN, CIC, UNAM, UAM,
ITESM, ESCOM, etc.
Internacionales:
MIT, UCLA, Universidad de Helsinky,
Universidad Politcnica de Madrid, Texas
A&M, etc.

Agosto 2002 ESCOM IPN 30

 Asociaciones
de RNA
1987 International Neural Network
Society (INNS).
1988 International Joint Conference on
Neural Networks (IJNN).
1991 International Conference on
Artificial Neural Networks
(ICANN).
Agosto 2002 ESCOM IPN 31
 Publicaciones
sobre RNA
Neural Networks (INNS).
Network, Computation in Neural System.
IEEE Transactions on Neural Networks.
Neural Computation.
International Journal of Neural Systems.

Agosto 2002 ESCOM IPN 32

 Dudas ???

Agosto 2002 ESCOM IPN 33

 Hasta la prxima !!!

Agosto 2002 ESCOM IPN 34