Redes neuronales artificiales

Ingeniería de Software con Inteligencia Artificial

Por: Remigio Huarcaya Almeyda

 Redes neuronales artificiales
Conjunto de entradas x1,…xn
Son las entradas de la red neuronal.
Pesos sinápticos w1,…wn
Cada entrada tiene un peso que se va ajustando de forma
automática a medida que la red neuronal va aprendiendo.
Función de agregación, Σ
Realiza el sumatoria de todas las entradas ponderadas por
sus pesos.
Función de activación, F
Se encarga de mantener el conjunto de valores de salida en
un rango determinado, normalmente (0,1) o (-1,1)
Existen diferentes funciones de activación.
Salida, Y
Es el valor resultante tras pasar por la red neuronal.

Fuente: Ver video:

https://www.diegocalvo.es/definicion-de-red-neuronal/ https://www.youtube.com/watch?v=CU24iC3grq8

Remigio Huarcaya Almeyda

 Redes neuronales artificiales
La red neuronal artificial al igual que las redes
biológicas aprenden por repetición y cuantos
más datos tengamos para entrenar y más veces
la entrenemos a la red mejores resultados
obtendremos.

Ejemplo :
https://www.diegocalvo.es/definicion-de-red-neuronal/

Remigio Huarcaya Almeyda

 Back propagation
Entre los algoritmos más usados para asignar estos

pesos se encuentra el llamado back propagation

(propagación hacia atrás). Realiza la asignación de los

pesos para cada conexión neuronal.

La función de coste calcula el error entre el valor

estimado por la red y el valor real que debería de

haber salido, con el fin de optimizar

https://www.iartificial.net/redes-neuronales-desde-cero-ii-algo-de-matematicas/

Remigio Huarcaya Almeyda

 1. Asignamos a cada conexión neuronal un peso con un valor pequeño, pero no nulo.
2. Introducimos la primera observación de nuestro conjunto de entrenamiento por la capa
Back propagation
inicial de la red neuronal.
3. La información se propaga de izquierda a derecha, activando cada neurona que ahora es
afectada por el peso de cada conexión, hasta llegar a la capa de neuronas de salida,
obteniendo el resultado final para esa observación en concreto.
4. Medimos el error que hemos cometido para esa observación.
5. Comienza la propagación hacia atrás de derecha a izquierda, actualizando los pesos de cada
conexión neuronal, dependiendo del peso actualizado en el error cometido.
6. Repetimos los pasos desde el paso 2, actualizando todos los pesos para cada observación o
conjunto de observaciones de nuestro conjunto de entrenamiento.
7. Cuando todas las observaciones del conjunto de entrenamiento ha pasado por la red
neuronal se denomina un Epoch. Podemos realizar tantos Epochs creamos convenientes.

https://www.iartificial.net/redes-neuronales-desde-cero-ii-algo-de-matematicas/
Remigio Huarcaya Almeyda
 Función de activación
La función de activación se encarga de devolver una salida a partir de un valor de entrada,
normalmente el conjunto de valores de salida en un rango determinado como (0,1) o (-1,1).

Función ReLU

Vemos en la figura que su valor es

0 para cualquier valor negativo de
x. Si x es positivo la función
retorna el propio valor de x.

Remigio Huarcaya Almeyda

 Función de activación
Función Sigmoide
Como vemos en la figura cuanto más
positivo es el valor de x más nos
acercamos a 1 y por el contrario,
cuanto más negativo es x más nos
acercamos a 0.

Función tangente hiperbólica

Esta función es parecida a la función

sigmoidea, pero en este caso, como
vemos en la figura no empieza en 0 y
termina en 1, sino que empieza en -1
y termina en 1.
https://www.diegocalvo.es/funcion-de-activacion-redes-neuronales/
Remigio Huarcaya Almeyda
 TensorFlow

TensorFlow es una biblioteca de código abierto para la computación

numérica y machine Learning a gran escala, reúne una serie de modelos y
algoritmos de Machine Learning y Deep Learning.

TensorFlow utiliza Python para proporcionar una práctica API para crear
aplicaciones con el marco de trabajo, a la vez que ejecuta esas
aplicaciones en C++ de alto rendimiento.

Fue creado por el equipo de Google Brain

Remigio Huarcaya Almeyda

TensorFlow

TensorFlow puede entrenar y ejecutar redes neuronales profundas

para la clasificación de dígitos escritos a mano, el reconocimiento de
imágenes, la incrustación de palabras, las redes neuronales
recurrentes, los modelos secuencia a secuencia para la traducción
automática, el procesamiento del lenguaje natural y las simulaciones
basadas en ecuaciones diferencias parciales.

https://aprendeia.com/que-es-tensorflow-como-funciona/
 Keras
Keras es una biblioteca de código abierto (con licencia MIT) escrita en
Python y multiplaforma, basada en el trabajo de François Chollet, un
desarrollador de Google (2015).

Su objetivo es acelerar la creación de redes neuronales, funciona como

un interfaz de uso intuitivo (API) que permite acceder a
varios frameworks de aprendizaje automático y desarrollarlos.
Frameworks compatibles son Theano, Microsoft Cognitive Toolkit y
TensorFlow

Remigio Huarcaya Almeyda

 Keras – Models Sequencial Cantidad de
Modelo Cantidad de variables
secuencial neuronas

Función de
activación

Remigio Huarcaya Almeyda

 Keras – Models Sequencial

Función de
activación

Remigio Huarcaya Almeyda

 Seaborn

Seaborn es una librería de gráficos que ofrece una interfaz más

sencilla, con valores por defecto sensatos para los gráficos
necesarios para el aprendizaje de la máquina.
Seaborn esta basada en matplotlib y proporciona una interfaz de
alto nivel que es realmente sencilla de aprender

https://www.analyticslane.com/2018/07/20/visualizacion-de-datos-con-seaborn/

Remigio Huarcaya Almeyda

 Gradiente descendiente

El gradiente descendiente es la base de aprendizaje en muchas técnicas de

machine learning y fundamental en deep learning para entrenar redes

neuronales. También es necesario para la regresión logística. Y en muchos casos,

al hacer regresión lineal o polinómica es mejor usar el método del gradiente

descendiente que el de los mínimos cuadrados.

Remigio Huarcaya Almeyda

 Optimizador de Adam

Remigio Huarcaya Almeyda

 Gradiente descendiente

Remigio Huarcaya Almeyda

 Red Neuronal

https://www.youtube.com/watch?v=iX_on3VxZzk

Remigio Huarcaya Almeyda

 Red neuronal

Remigio Huarcaya Almeyda

 Redes Neuronales

Remigio Huarcaya Almeyda

Remigio Huarcaya Almeyda