Está en la página 1de 6

Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori.

Informe Proyecto RECONOCIMIENTO DE


VOCALES
Cruz William, Barragan Leonardo, Larco Gregori.

wcruz@est.ups.edu.ec, lbarragan@est.ups.edu.ec, glarco@est.ups.edu.ec

Universidad Politécnica Salesiana


componente relativamente simple del ser humano,
pero cuando millares de ellas se conectan en forma
Resumen—En este trabajo se expone un breve conjunta se hacen muy poderosas.
panorama de la historia de las redes neuronales,
siendo el tema principal de este trabajo las redes
neuronales backpropagation, por lo que se explica el II. HISTORIA
funcionamiento de este tipo de red y se da un Este algoritmo lo desarrollaron a partir de estudios
ejemplo empleando un software llamado de anteriores con el fin de crear una red que aprendiera
reconocimiento de vocales. las relaciones existentes entre pares de datos. Existe
por lo menos una capa intermedia, la
I.INTRODUCCIÓN regla backpropagation (BP) o el algoritmo BP
comenzó a ser usado cuando, en 1986 Rumelhart, et
Las redes neuronales son más que otra forma de al., 1986 desarrollaron el modelo actual.
emular ciertas características propias de los El proceso básico necesita que el patrón de
humanos, como la capacidad de memorizar y de información incluya tanto los datos de entrada
asociar hechos. Si se examinan con atención (input) como los datos de salida (output).
aquellos problemas que no pueden expresarse a Inicialmente a partir de las neuronas de la capa de
través de un algoritmo, se observará que todos ellos entrada se van propagando los datos de las
tienen una característica en común: la experiencia. variables input, por el resto de las neuronas y
El hombre es capaz de resolver estas situaciones conexiones en función de los pesos que inicialmente
acudiendo a la experiencia acumulada. Así, parece son aleatorios. A partir del algoritmo de aprendizaje,
estos pesos se irán modificando hasta producir
claro que una forma de aproximarse al problema
determinados outputs. En el proceso de
consista en la construcción de sistemas que sean
entrenamiento se presentan simultáneamente a la
capaces de reproducir esta característica humana.
red patrones de datos input - output, ya que cada
Las redes neuronales son un modelo artificial y valor de entrada tiene su correspondiente valor de
simplificado del cerebro humano, que es el ejemplo salida.
perfecto del que se dispone para un sistema que es
capaz de adquirir conocimiento a través de la
Leer más: http://www.monografias.com/trabajos95/redes-
experiencia. Una red neuronal es “un nuevo sistema neuronales-artificiales-metodologia-desarrollo-y-
para el tratamiento de la información, cuya unidad aplicaciones/redes-neuronales-artificiales-metodologia-
desarrollo-y-aplicaciones.shtml#algoritmoa#ixzz3SNcblkNt
básica de procesamiento está inspirada en la célula
fundamental del sistema nervioso humano: la La importancia de la red consiste en su capacidad
neurona”. Todos los procesos del cuerpo humano se de autoadaptar los pesos de las neuronas de las
relacionan en alguna u otra forma con la capas intermedias para aprender la relación que
(in)actividad de estas neuronas. Las mismas son un existe entre un conjunto de patrones dados como

ejemplo y sus salidas correspondientes. Después del
Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori. 2

entrenamiento, puede aplicar esta misma relación a


nuevos vectores de entrada con ruido o incompletas,
dando una salida activa si la nueva entrada es
parecida a las presentadas durante el aprendizaje.
La capacidad de generalización es una característica
importante que se exige a los sistemas de
aprendizaje, se entiende como la facilidad de dar
salidas satisfactorias a entradas que el sistema no ha
visto nunca en su fase de entrenamiento y que Figura 1: Arquitectura de los SOM
puede aplicar a entradas no presentadas durante la
etapa de aprendizaje, esto para clasificarlas según
Las conexiones entre las dos capas que forman la
las características que compartan con los ejemplos
red son siempre hacia delante, es decir, la
de entrenamiento.
información se propaga desde la capa de entrada
Las redes tipo Backpropagation tienen una gran
versatilidad, debido a la naturaleza de su proceso de hacia la capa de salida. Cada neurona de entrada i
aprendizaje, que solamente necesita de dos está conectada con cada una de las neuronas de
ecuaciones para propagar las señales de error hacia salida j mediante un peso wji. De esta forma, las
atrás. Se elige entre una u otra ecuación neuronas de salida tienen asociado un vector de
dependiendo si la unidad de proceso es o no de pesos Wj llamado vector de referencia (o
salida. codebook), debido a que constituye el vector
El algoritmo Backpropagation puede entrenar redes prototipo (o promedio) de la categoría representada
multicapas feedforward, con funciones de por la neurona de salida j. Así, el SOM define una
transferencia diferenciables para ejecutar funciones proyección desde un espacio de datos en alta
de aproximación, asociación y clasificación de dimensión a un mapa bidimensional de neuronas.
patrones. Pueden entrenarse también otros tipos de Entre las neuronas de la capa de salida, puede
redes, aunque la red multicapa es la más decirse que existen conexiones laterales de
comúnmente usada. El término Backpropagation se excitación e inhibición implícitas, pues aunque no
refiere al proceso por el cual pueden calcularse las estén conectadas, cada una de estas neuronas va a
derivadas de error de la red, con respecto a los tener cierta influencia sobre sus vecinas. Esto se
pesos de la red. Este proceso puede usarse con consigue a través de un proceso de competición
varias estrategias de optimización diferentes. entre las neuronas y de la aplicación de una función
Se han desarrollado numerosas variaciones de denominada de vecindad , que produce la topología
Backpropagation, con el propósito de mejorar la
o estructura del mapa. Las topologías más
velocidad del proceso de entrenamiento.
frecuentes son la rectangular y la hexagonal.
III. ARQUITECTURA Las neuronas adyacentes pertenecen a una
vecindad Nj de la neurona j. La topología y el
Un modelo SOM está compuesto por dos capas
número de neuronas permanece fijo desde el
de neuronas. La capa de entrada (formada por N
principio. El número de neuronas determina la
neuronas, una por cada variable de entrada) se
suavidad de la proyección, lo cual influye en el
encarga de recibir y transmitir a la capa de salida la
ajuste y capacidad de generalización del SOM.
información procedente del exterior. La capa de
Durante la fase de entrenamiento, el SOM forma
salida (formada por M neuronas) es la encargada de
una red elástica que se pliega dentro de la nube de
procesar la información y formar el mapa de rasgos.
datos originales. El algoritmo controla la red de
Normalmente, las neuronas de la capa de salida se
modo que tiende a aproximar la densidad de los
organizan en forma de mapa bidimensional como se
datos. Los vectores de referencia del codebook se
muestra en la figura1:
acercan a las áreas donde la densidad de datos es
alta.
Eventualmente unos pocos vectores el codebook
Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori. 3

están en áreas donde existe baja


densidad de datos.
V. APLICACIONES
Aplicación de Kohonen - mapa organizativo para el
IV. ALGORITMO DE APRENDIZAJE análisis de estructura urbana
En este artículo se presenta un estudio de caso de
En una red Backpropagation existe una capa de
la aplicación de SOM para análisis de la estructura
entrada con n neuronas y una capa de salida con m
urbana de la ciudad de Nueva Orleans. Un aspecto
neuronas y al menos una capa oculta de neuronas
de este trabajo es la inclusión de los datos
internas. Cada neurona de una capa (excepto las de
ambientales de imágenes de satélite para la
entrada) recibe entradas de todas las neuronas de la
agrupación.
capa anterior y envía su salida a todas las neuronas
de la capa posterior (excepto las de salida). No hay A. Razones de Estudio
conexiones hacia atrás feedback ni laterales entre 485 Bloques
las neuronas de la misma capa. La aplicación del 2005, Katrina
algoritmo tiene dos fases, una hacia delante y otra Diversidad Demográfica
hacia atrás. Durante la primera fase el patrón de Protección de inundación
entrada es presentado a la red y propagado a través B. El conjunto de datos
de las capas hasta llegar a la capa de salida. Diez variables socio-económicas derivadas del
Obtenidos los valores de salida de la red, se inicia la censo de 2000
segunda fase, comparándose éstos valores con la Datos se utilizaron en este estudio:
salida esperada para así obtener el error. Se ajustan 1) Pop: Densidad de población (personas por
los pesos de la última capa proporcionalmente al kilómetro cuadrado)
error. Se pasa a la capa anterior con una 2) Hou: Casa densidad (número de viviendas por
retropopagación del error, ajustando los pesos y plaza kilómetro)
continuando con este proceso hasta llegar a la 3) Vac: Tasa de vacantes (la proporción de viviendas
primera capa. De esta manera se han modificado los vacías a un total decasas)
pesos de las conexiones de la red para cada patrón 4) Veh: Tasa de Multi-vehículo (el tipo de hogar
de aprendizaje del problema, del que conocíamos su ocupado que tienen dos o más vehículos)
valor de entrada y la salida deseada que debería 5) Edu: tasa de Licenciatura (la tasa de 25 años de
generar la red ante dicho patrón. La técnica edad o más personas que tienen licenciatura o grado
Backpropagation requiere el uso de neuronas cuya superior)
función de activación sea continua, y por lo tanto, 6) Punto De Vista: Tasa de pobreza (la tasa de
diferenciable. Generalmente, la función utilizada hogares que están por debajo nivel de pobreza)
será del tipo sigmoidal. Pasos para aplicar el 7) absolutos en miles: Tasa de desempleo (la tasa de
Algoritmo de Entrenamiento Paso 1. Inicializar los 25 años o más personas en la fuerza laboral que
pesos de la red con valores pequeños aleatorios. están en paro)
Paso 2. Presentar un patrón de entrada y especificar 8) Blanco:% de blancos
la salida deseada que debe generar la red. Paso 3. 9) Alquiler: renta mediana (mediana casa de alquiler
Calcular la salida actual de la red. Para ello se de ocupado hogar)
presentan las entradas a la red y se calcula la salida 10) Inc: el ingreso promedio de los hogares (medio
de cada capa hasta llegar a la capa de salida, ésta por hogar los ingresos de los hogares ocupados)
será la salida de la red. Los pasos son los siguientes: A. Características y términos
Se calculan las entradas netas para las neuronas 1) topología Mapa
ocultas procedentes de las neuronas de entrada. Para Las neuronas de salida se organizan en un mapa,
una neurona j oculta: que puede ser de cualquier dimensión. Tres
topologías 2-dimensionales son ampliamente
utilizado: rejilla, hexágono, o al azar.
2) La función de la distancia de salida de las
neuronas
Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori. 4

La medida que se obtiene se basan en la posición


espacial de la neuronas en el mapa SOMy permite
medir las distancia euclídea entre las posiciones
espaciales de dos neuronas de salida; mide el
número de neuronas compartidas para conectar dos
neuronas de salida;
3) Tasa de Aprendizaje
Tasa de aprendizaje se utiliza para ajustar el vector
de peso. Se varió de 0 a 1 y dinámicamente decaído
a partir de un valor mayor (0.9) a un valor pequeño
(como 0.02) a lo largo de la red de formación
Implementación
11 Neuronas de Entrada
Topología - cuadrícula 9
Diferencia entre el vector de entrada y el vector de
pesos

Resultado

En el bloque de grupos del clúster 8 y 9 se encuentran


principalmente áreas verdes como parques y campos de golf

Mapa organizativo para la detección de movimientos del


cirujano durante endoscopia
Tiene la capacidad para reconocer la acción
actual del cirujano posee una importancia crucial en
Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori. 5

el desarrollo de un robot capaz de ayudar a un


cirujano durante la operación quirúrgica
endoscópica.

VI. EJEMPLO

Resultado:
• La principal ventaja de la segmentación
basada en mapa de Kohonen es que toma en VII.
cuenta las propiedades dinámicas de
diferentes movimientos y permite una fácil VIII. CONCLUSIONES
adaptación al algoritmo de detección.
• Permite ahorrar tiempo requerido por En el estudio de las redes de Kohonen se puede aplicar una
humanos a la segmentación etalon hecho a función de vecindad para sus cálculos, el entendimiento de su
funcionamiento es un poco complicado al no tener alguna idea
los efectos del modelo adaptación y puesta a del funcionamiento de las neuronas, pero con una
punto. investigación adecuada se puede llegar al desarrollo de la una
• Los movimientos del Robot son mucho más sistema que realizar un mejor funcionamiento y entendimiento
precisos que los del ser humano. de las redes de Kohonen.

El primer caso permite obtener un análisis importante para el


desarrollo socio económico y ambiental de la ciudad de Nueva
Orleans, es interesante ya que esta ciudad está expuesta
directamente a huracanes y su población es sumamente alta,
Universidad Politécnica Salesiana. , Cruz William, Barragan Leonardo, Larco Gregori. 6

de tal manera que el análisis estructural debe realizarse


correctamente.

REFERENCIAS

[1] Kohonen T., Automatic formation of topological maps of


patterns in a self-organizing system, in Erkki Oja and Olli
Simula, editors, Proc. 2SCIA, Scand. Conf. on Image
Analysis, pages 214-220, Helsinki, Finland, 1981,
Suomen Hahmontunnistustutkimuksen Seura r. y.

[2] Kohonen T., Self-organizing formation of topologically


correct feature maps, Biol. Cyb., 43(1):59-59, 1982.

[3] Neural Networks, 2008. IJCNN 2008. (IEEE World


Congress on Computational Intelligence). IEEE
International Joint Conference on

[4] Petlenkov, E. ; Dept. of Comput. Control, Tallinn Univ. of


Technol., Tallinn ; Nomm, S. ; Vain, J. ; Miyawaki, F.

También podría gustarte