Universidad Veracruzana

Maestría en Ciencias en Tecnología Energética

Redes Neuronales Artificiales multicapa

Dr. Roberto Agustín Conde Gutiérrez

roconde@uv.mx
 Universidad Veracruzana

Integración de los parámetros al modelo RNA

¿Qué hacer con los coeficientes ajustados a partir del proceso de aprendizaje?

Sono-fotocatálisis

U. Cruz-Jacobo, R.A. Conde-Gutiérrez, J.A. Hernández, S. Silva-Martínez, D. Colorado, D. Juárez-Romero, A. Álvarez-Gallegos. Optimization strategy to improve the
removal efficiency of commercial herbicides using a multivariable inverse artificial neural network adapted with particle swarm optimization 277(2022)90-104
 Universidad Veracruzana

Integración de los parámetros al modelo RNA

¿Qué hacer con los coeficientes ajustados a partir del proceso de aprendizaje?

[ ( )]
𝑆
2
𝐶𝑂𝐷 = ∑ 𝑊𝑜( 𝑠 ) −1 +𝑏

( (∑ ( ))
𝑠=1 𝐾
1 +exp −2 𝑊𝑖 𝑠 , 𝑘 × 𝐼𝑛 𝑘 ) +𝑏 1( 𝑠 )
𝑘=1

U. Cruz-Jacobo, R.A. Conde-Gutiérrez, J.A. Hernández, S. Silva-Martínez, D. Colorado, D. Juárez-Romero, A. Álvarez-Gallegos. Optimization strategy to improve the
removal efficiency of commercial herbicides using a multivariable inverse artificial neural network adapted with particle swarm optimization 277(2022)90-104
 Universidad Veracruzana

Integración de los parámetros al modelo RNA

Integre los siguientes coeficientes para obtener el número de decesos (N D) ocurridos el 30
septiembre 2020 (Día 196), considerando una función de transferencia tangencial

( )
Number of Weights Bias 𝑋 𝑛 − 𝑋 𝑚𝑖𝑛
neurons (s) 𝑥 𝑁 =0.8 × +0.1
𝑋 𝑚𝑎𝑥 − 𝑋 𝑚𝑖𝑛
Hidden layer (Wi) Output layer (Wo) b1 b2
1 -3.3207 -44.8528 2.1520 45.0504

2 -8.9762 2.1309 1.5450

3 12.9962 3.7335 -5.9835

[ ( )]
𝑆
2
𝑁 𝐷 = ∑ 𝑊𝑜( 𝑠 ) −1 +𝑏2

( (∑ ( ))
𝑠 =1 𝐾
1 +exp − 2 𝑊𝑖 𝑠 , 𝑘 × 𝐼𝑛 𝑘 ) +𝑏 1(𝑠 )
𝑘=1

Conde-Gutiérrez, R. A., Colorado, D., & Hernández-Bautista, S. L. (2021). Comparison of an artificial neural network and Gompertz model for predicting the dynamics
of deaths from COVID-19 in México. Nonlinear Dynamics, 104(4), 4655-4669.
 Universidad Veracruzana

Integración de los parámetros al modelo RNA

Integre los siguientes coeficientes par obtener el número de decesos (N D) ocurridos el 30
septiembre 2020 (Día 196), considerando una función de transferencia tangencial

( )
Number of Weights Bias 𝑋 𝑛 − 𝑋 𝑚𝑖𝑛
neurons (s) 𝑥 𝑁 =0.8 × +0.1
𝑋 𝑚𝑎𝑥 − 𝑋 𝑚𝑖𝑛
Hidden layer (Wi) Output layer (Wo) b1 b2
1 -3.3207 -44.8528 2.1520 45.0504

2 -8.9762 2.1309 1.5450

3 12.9962 3.7335 -5.9835

( )
𝑠 𝑠
2 𝑊𝑜( 𝑠 )
𝑁 𝐷 =𝑏2 − ∑ 𝑊𝑜( 𝑠 ) + ∑
1+𝑒 (
−2 ∙ ( 𝑊𝑖( 𝑠) ∙ 𝑡 +𝑏1( 𝑠) ) )
𝑠 =1 𝑠 =1

Conde-Gutiérrez, R. A., Colorado, D., & Hernández-Bautista, S. L. (2021). Comparison of an artificial neural network and Gompertz model for predicting the dynamics
of deaths from COVID-19 in México. Nonlinear Dynamics, 104(4), 4655-4669.
 Universidad Veracruzana

Integración de los parámetros al modelo RNA

Integre los siguientes coeficientes par obtener el número de decesos (N D) ocurridos el 30
septiembre 2020 (Día 196), considerando una función de transferencia tangencial

( )
𝑠 𝑠
2 𝑊𝑜( 𝑠 )
𝑁 𝐷 =𝑏2 − ∑ 𝑊𝑜( 𝑠 ) + ∑
( −2 ∙ ( 𝑊𝑖( 𝑠) ∙ 𝑡 +𝑏1( 𝑠) ) )
𝑠 =1 𝑠 =1 1+𝑒

𝑁 𝐷 =45.0504 − [ ( − 44.8528 ) + ( 2.1309 ) + ( 3.7335 ) ] +

[ 2∙ ( − 44.8528 )
1+ 𝑒
( 𝑥1 )
+
2∙ ( 2.1309 )
1+𝑒
( 𝑥 2)
+
2 ∙ ( 3.7335 )
1+𝑒
( 𝑥3 ) ]
𝑥1 =−2 ∙ ( ( −3.3207 ) ∙ 𝑡 + 2.1520 )
𝑁 𝐷 ≈ 77.333

𝑁 𝐷 ≈ 77.333 ×1000 77333

Conde-Gutiérrez, R. A., Colorado, D., & Hernández-Bautista, S. L. (2021). Comparison of an artificial neural network and Gompertz model for predicting the dynamics
of deaths from COVID-19 in México. Nonlinear Dynamics, 104(4), 4655-4669.
 Universidad Veracruzana

Validación del modelo RNA

Comparación entre las muertes acumuladas y las estimadas por el modelo RNA

100000

80000 Data real R2=0.9999

DEATHS ACCUMULATED

Modeled data
60000

40000

20000

0
3/16/2020 4/18/2020 5/21/2020 6/23/2020 7/26/2020 8/28/2020 9/30/2020

-20000 DATA

Conde-Gutiérrez, R. A., Colorado, D., & Hernández-Bautista, S. L. (2021). Comparison of an artificial neural network and Gompertz model for predicting the dynamics
of deaths from COVID-19 in México. Nonlinear Dynamics, 104(4), 4655-4669.
 Universidad Veracruzana

Modelo RNA multicapa

Un modelo RNA con una configuración de múltiples capas ocultas es bastante

poderoso. Cada capa oculta adicional tiene una matriz de coeficientes con su
respectiva función de transferencia.

𝑂𝑢𝑡 = 𝑓 3 ( 𝐿 𝑊 3 , 2 𝑓 2 ( 𝑊 𝑜2 ,1 𝑓 1 ( 𝑊 𝑖 1, 1 ∙ 𝑥+ 𝑏1 ) +𝑏 2 ) + 𝑏 3 )

La implementación de una red neuronal multicapa puede requerir más tiempo y

esfuerzo computacional, degradando la velocidad de convergencia

M.H. Beale, M.T. Hagan, H.B. Demuth, Neural network toolbox User’s Guide, MathWorks 2 (2010) 77-81.
Y.-S. Hong, H. Lee, M.-J. Tahk, Acceleration of the convergence speed of evolutionary algorithms using multi-layer neural networks, Eng.
Opt., 35 (2003) 91–102.
 Universidad Veracruzana

Desarrollo y programación del Modelo RNA multicapa

Para el entrenamiento del modelo RNA multicapa es similar al del modelos
simple. Es necesario hacer unas modificaciones a la programación de las clases
anteriores.

Función de transferencia a utilizar en la segunda capa oculta

Número de neuronas en la capa oculta

M.H. Beale, M.T. Hagan, H.B. Demuth, Neural network toolbox User’s Guide, MathWorks 2 (2010) 77-81.
 Universidad Veracruzana

Desarrollo y programación del Modelo RNA multicapa

Para el entrenamiento del modelo RNA multicapa es similar al del simple. Es
necesario hacer unas modificaciones a la programación de las clases anteriores.

Impresión de las pesos y bias de la capa extra

M.H. Beale, M.T. Hagan, H.B. Demuth, Neural network toolbox User’s Guide, MathWorks 2 (2010) 77-81.
Tema de exposición de la siguiente clase:

Explicar para que sirve y que es NumPy de Python

Desarrollar una serie de ejemplos y ejercicios para que sus compañeros las resuelvan

Pasar a la oficina para compartir el cuaderno de Colab en la cual se trabajará

Los cuadernos de Colab le permiten combinar código ejecutable y texto enriquecido en un

solo documento (indispensable tener cuenta de Gmail.com)