N° Pag

REDES NEURONALES PARA EL ANÁLISIS DE

SENTIMIENTO NEURAL NETWORK FOR SENTIMENT
ANALYSIS
Adolfo Díaz-Zegarra, Christian Mergoza-Cortez, Diego Villar-Reyes, Jhon Carhuas
Romero, Telesforo-Mallma
Facultad de Ingeniería Industrial y de Sistemas, Universidad Nacional de Ingeniería, Lima, Perú

Recibido (Recieved): 07 / 10 / 2022 Aceptado (Accepted): -- / -- / 20--

RESUMEN

En el presente

Palabras Clave: redes neuronales, sentimiento, minería de textos, análisis.

ABSTRACT

In this article

Keywords: networks, neural, sentiment, text mining, analysis.

I. INTRODUCCIÓN

El crecimiento de una empresa no depende

solo del aumento de las ventas o de mayores
utilidades, una parte vital de la empresa son
sus clientes. En este sentido, el análisis de
sentimiento es una herramienta que permite
conocer de mejor manera a un público
objetivo a través de las opiniones o
comentarios que estos brindan. El análisis de
sentimiento se basa en la interpretación de los
textos y determina si estos tienen una
connotación positiva o negativa. Así, una
empresa puede tomar acción para conocer a
sus clientes o a un público objetivo, lanzando
campañas de marketing más precisas y
eficientes. La dificultad para desarrollar esta
inteligencia artificial es la diferencia de
interpretaciones que se puede dar a un
determinado comentario; un ejemplo podría
ser un mensaje escrito con un evidente
sarcasmo que solo es distinguible por un
humano, además de que la mayoría de los
comentarios que son divulgados por las redes
sociales son de habla coloquial de los clientes,
en los que abundan la mala gramática y las
abreviaciones usadas por jóvenes.
En el contexto actual del avance de tecnología
y la reciente pandemia del
COVID-19, ha causado la migración de muchas
empresas a la venta por medio de las redes
sociales, a esto se le conoce como e-
commerce. El Perú no es ajeno a esto, muchas
empresas han ampliado sus horizontes y
ahora hacen uso de las redes sociales. Otras
empresas más grandes, como Falabella, han
creado páginas webs para ofertar
sus productos.
Un estudio realizado en Rusia muestra cómo a
través del uso de redes neuronales han
descubierto que los comentarios que dejan lo
clientes acerca de un producto, que
previamente compraron, pueden influenciar
hasta en un 75.45% de las preferencias para los
potenciales compradores de los productos de
una gran tienda de e-commerce ruso [1]. Sin
embargo, el análisis de sentimiento no solo es
usado por las empresas, grandes inversores
pagan millones de dólares para conseguir
información precisa y rápida acerca de las
acciones en la bolsa de valores. Si bien es
cierto, que el precio de las acciones depende
de muchos factores (información financiera
de la empresa, trending, noticias de impacto,
información interna de la empresa,
especulación, etc.), la obtención de
información de estos factores es vital para
realizar una inversión exitosa. Es aquí donde
el análisis de sentimiento aplicado a las
noticias acerca de una determinada empresa
o acción puede marcar la diferencia entre
comprar y vender miles de acciones [2].
II. REDES NEURONALES
Las redes neuronales son un pilar de la
inteligencia artificial. Son un modelo de
creación cuyo sistema se basa en el
funcionamiento del cerebro humano. Están
formadas por diferentes nodos que funcionan
como neuronas, y que transmiten señales e
información entre sí. Estas redes reciben
diferente información de entrada, la procesan
en conjunto y generan una salida con las
predicciones establecidas en función de lo que
se haya programado. Su finalidad es la de
encontrar soluciones a determinados
“problemas”.[3]
A. MODELO DE LAS REDES
NEURONALES
Una red neuronal artificial es un esquema de
computación distribuida inspirada en la
estructura del sistema nervioso de los seres
humanos. La arquitectura de una red neuronal
es formada conectando múltiples
procesadores elementales, siendo éste un
sistema adaptativo que posee un algoritmo
para ajustar sus pesos (parámetros libres) para
alcanzar los requerimientos de desempeño del
problema basado en muestras
representativas.[4]
B. MODELOS Y FUNCIONES DE LAS
REDES NEURONALES
Los modelos de las redes neuronales
artificiales están basados principalmente en
modelos matemáticos definidos por la función
f: X→Y o una distribución más X o ambos X e Y;
aunque a veces los modelos también se
asocian a algoritmos de aprendizaje.[5]
C. FUNCIÓN DE RED
Esta función está basada en las
interconexiones de las neuronas biológicas y
en sus diferentes procesos de capas. La
primera capa funciona como un sistema de
entrada que recibe los datos y los envía a la
segunda y tercera capa.[5]
C. APRENDIZAJE
La función de aprendizaje establece una tarea a
resolver y las funciones que establecerán el
conjunto de observaciones que permitirán resolver
la actividad en cuestión. Dentro de esta función,
hay tres grandes paradigmas de aprendizaje: el
supervisado, el no supervisado y el aprendizaje por
refuerzo.[5]
El aprendizaje supervisado resuelve las tareas en
base a un conocimiento previo para realizarlo. El
no supervisado, al contrario, establece diferentes
parámetros y plantea una solución en base a los
mismos. Por último, en el aprendizaje de refuerzo
no se dan los datos, pero se genera una respuesta
en base a la relación de un agente con el medio
ambiente.
III. MÉTODO
Deep Learning - Long Short Term Memory
(LSTM)
3.1 Origen
Según el estudio de Yu et al. En 2019, las
técnicas de aprendizaje profundo se han
desarrollado y adoptado para extraer
información de diversos tipos de datos.
Las redes neuronales recurrentes estándar
satisfacen la necesidad que se tiene de
procesar datos secuenciales como texto,
video, etc. Lo cual posibilita la actualización de
la arquitectura en estados pasados y entradas
actuales, pero hay un problema cuando la
brecha entre datos de entrada relevantes es
grande, la cual se denomina la desaparición y
la explosión de gradiente.
Yang et al. en su investigación fue solucionado
mediante la introducción de redes LSTM[6]
3.2 Arquitectura
Antes de describir la red LSTM, vamos a
describir la topología de una red neuronal
recurrente estándar simple.
Segun Perez Sanjuan, una red recurrente es
aquella que está conformada por neuronas
recurrentes, presentan un bucle de
retroalimentación, de modo que en cada
instante de tiempo esta neurona recibe la
entrada perteneciente a dicho instante x t y su
 salida o estado oculto en un instante de
tiempo anterior st −1, de modo que la
información adquiere carácter persistente lo
hace propicio a este tipo de arquitectura
procesar secuencias.
Procedemos a describir la LSTM, a diferencia
de tener como unidades neuronas recurrentes
estándar cuenta con las denominadas celdas
LSTM. A continuación, la Figura 2 presenta su
estructura y se detalla el proceso interno.[6]
Por cada instante de tiempo t, las celdas LSTM
procesan un conjunto de vectores:
1. Por cada instante de tiempo t, las celdas LSTM
procesan un conjunto de vectores:
f t=σ (W f . x t + U f . ht −1 +b f )
2. Se calculan los valores para la puerta de
entrada y el valor candidato para los estados
de la capa LSTM en un tiempo t. Donde 𝑖𝑡 es el
valor de la puerta de entrada en un tiempo t
y 𝜎 es la función de activación.
i t =σ (W i . x t +U i . ht−1 +bi )
3. Un vector de nuevos candidatos para el estado
de la unidad:
Ĉ t=tan h ¿)
4. Una puerta de salida: obtener el valor de sus
puertas de salida y, como consecuencia, la
salida final ht de la capa LSTM
o t=σ (W o . x t +U o . ht −1+ bo )
5. La memoria de la unidad:
C t=i t . Ĉ t +f t .C t −1
6. Donde 𝑜𝑡 es el valor de la puerta de salida de la
red LSTM y 𝜎 es la función de activación
ht =ot . tan h(C t ) Ĉt
Donde W f ,U f , W i ,U i , W c ,U c , W o , U o son
matrices de pesos y b i , b f , bc ,b o vectores de
sesgos.
El proceso interno que se realiza en estas unidades
es el siguiente:
a. La unidad decide la información que será
olvidada o descartada, para ello calcula f t .
Esto produce que se cree un número entre 0 y
1. Para cada número en el estado de la celda
C t−1 , donde 1 significa “mantener
completamente” y 0, “olvidar
completamente”.
b. Posteriormente, la celda decide qué
información debe almacenar en su memoria,
para ello utiliza Ĉ t y i t .
c. Luego, la unidad actualiza el estado antiguo
C t−1 con el nuevo C t , para ello computa la
expresión de C t .
d. Finalmente, se determina la salida ht en
función de una versión filtrada del estado de la
celda.
IV. VENTAJAS Y DESVENTAJAS
A. VENTAJAS
Las LSTM permiten un mayor análisis del
contexto que las redes neuronales recurrentes
.
El uso de redes neuronales es tolerante a
fallos, es decir, si parte de la red no trabaja
como debería ser. Solo dejará de funcionar la
parte para la cual dicha neurona es
significativa, con lo que el resto de neuronas
tendrá un comportamiento normal.
B. DESVENTAJAS
El uso de redes neuronales para el análisis de
sentimientos necesitan un amplio
procesamiento de datos para justamente
poder definir un patrón, requiriendo así de
altas capacidades de recursos
computacionales.
El problema de las LSTM se abordó con las
BiLSTM, que constan de dos capas que se
ejecutan
en ambos sentidos para considerar tanto el
orden
secuencial de inicio a fin como el de fin a inicio,
sin
embargo, si el costo computacional de las
LSTM
ya era alto, se hace aún mayor si utilizamos las
BiLSTM. Es por esto, que en este estudio se
decidió
utilizar las LSTM frente a las Bi-LSTM, si bien
 las últimas darían mejores resultados, los
obtenidos por
las LSTM ya son lo suficientemente
representativos
con 0.85 de precisión.[6]

4.ANÁLISIS DE RESULTADOS
CONCLUSIONES
AGRADECIMIENTOS

REFERENCIAS

[1] S- Smetanin, M. Komarov. (2019) Análisis de

sentimiento de reseñas de productos en Rusia
utilizando Redes neuronales Convolucionales. XXI
Conferencia IEEE sobre Informática Empresarial (CBI),
482-486. Disponible:
https://ieeexplore.ieee.org/document/8807792
[2] P- Uhr, J. Zenkert, M. Fathi. (2014) Análisis de
sentimiento en los mercados financieros. Un marco
para utilizar la capacidad humana de asociación de
palabras para analizar informes de noticias del
mercado de valores. Conferencia IEEE sobre Sistemas,
hombre y cibernética (SMC), 2014, 912-917. Disponible:
https://ieeexplore.ieee.org/document/6974028
[3]https://blog.facialix.com/curso-de-redes-
neuronales-en-python-aprendizaje-profundo-para-
principiantes/
[4]https://ocw.ehu.eus/pluginfile.php/40137/
mod_resource/content/1/redes_neuro/contenidos/pdf/
libro-del-curso.pdf
[5]https://www.threepoints.com/blog/redes-
neuronales-definici%C3%B3n-caracter%C3%ADsticas
[6]file:///C:/Users/Usuario/Downloads/75816%20(1).pdf