RNN y Deep learning

José Mira
Laboratorio de Estadística
Junio 2022
 Temario

Introducción y Objetivos
Análisis discriminante con dos grupos: normal bivariante
Recta frontera
Técnica de Fisher para dos grupos
Función discriminante
Contrastes
Análisis discriminante para más de dos grupos:
Técnica de Fisher para más de dos grupos
Función discriminante
Contrastes
Ejemplos con R
Referencias
 RNN

Modelos de series temporales no lineales

Jordan
Elman
Paper Connor
NAR(1)
NAR(k)
NARMA
Vanishing gradient
GRU
LSTM
Jordan RNN
Elman RNN
NAR(1)
NAR(k)
NARMA(p,q)
Problema Vanishing gradient
Redes GRU
Redes LSTM
Análisis de la varianza 12
Análisis de la varianza 13
 Convolutional Neural Networks:
convolución

 Operación de convolución discreta

 Dadas:
 Señal
 Función de respuesta a impulsos:

 A través de ejemplo:

Análisis de la varianza 14
  A través de ejemplo:

Análisis de la varianza 15
 Convolución 2-D 8VER TB FIG 8.2 P 321
AGGAR
 ))=
 Ejemplos:

 +

Análisis de la varianza 16
 Padding aggar p 322 fig p 323

Análisis de la varianza 17
 Pooling (Patt 182 aggar 326
 Resumen de comp local alrededor de un pixel
 Ej :
 máximo de pixels en un entrono
 Promedio de pixels en un entorno
 Resume todo en entrono en el valor del pixel resumen y así hay
menos info q dar. Ej si 2x2 se resume en 1, num de pixel sse
divide por 4
 Supongo q stride q viene después es forma alternativa de resumir.
 MIRAR EJEMPLO DE FIG 8.4 DE P 326 DE AGGARWAL

Análisis de la varianza 18
 Strides p ?(Patt 167 Aggarwal 324 Eksom

 Para reducir tamaño de matriz de imagen

 No se hace conv para todos los píxles origianles
 Si stride=1, la convolución se hace solo en posiciones
1,Sq+1,2Sq+1,.. Para las 2 coord. Espac
 Output size es entonces height (Lq-Fq)/Sq+1 y width de
(Bq-Fq)/sq+1
 Se reduce pro tanto tamaño de imagen por factor de aprix Sq en
cada dimensión y Sq^2 para toda imagen.

Análisis de la varianza 19
 Mean filter patt 167

Análisis de la varianza 20
 Median filter patt 171

Análisis de la varianza 21
 Gaussian filter patt 173

Análisis de la varianza 22
 Sobel Edge detection filter patt
175

Análisis de la varianza 23
Análisis de la varianza 24
 Identity trans patt 177

Análisis de la varianza 25