Scribd Logo
Cargar

¡Te damos la bienvenida a Scribd!

  • Presentacion 1

    Cargado por

    Ernesto Anaya Olivares
    16 vistas27 páginas
    El documento describe un proyecto para predecir las tendencias del mercado de valores mediante el análisis de series de tiempo de precios de acciones y el sentimiento de noticias financieras. Se utilizaron modelos de redes neuronales recurrentes como LSTM y Transformers entrenados con datos históricos de precios de acciones y sentimiento de noticias. Los modelos LSTM mostraron un mejor desempeño para predicciones a corto plazo, mientras que los modelos Transformers fueron mejores para predicciones a más largo plazo.

    Descripción original:

    Título original

    presentacion_1

    Derechos de autor

    © © All Rights Reserved

    Formatos disponibles

    PDF, TXT o lea en línea desde Scribd

    ¿Le pareció útil este documento?

    ¿Este contenido es inapropiado?

    Denunciar este documento
    El documento describe un proyecto para predecir las tendencias del mercado de valores mediante el análisis de series de tiempo de precios de acciones y el sentimiento de noticias financieras. Se utilizaron modelos de redes neuronales recurrentes como LSTM y Transformers entrenados con datos históricos de precios de acciones y sentimiento de noticias. Los modelos LSTM mostraron un mejor desempeño para predicciones a corto plazo, mientras que los modelos Transformers fueron mejores para predicciones a más largo plazo.

    Copyright:

    © All Rights Reserved
    Descargue como PDF, TXT o lea en línea desde Scribd
    Marcar por contenido inapropiado
    16 vistas27 páginas

    Presentacion 1

    Cargado por

    Ernesto Anaya Olivares
    El documento describe un proyecto para predecir las tendencias del mercado de valores mediante el análisis de series de tiempo de precios de acciones y el sentimiento de noticias financieras. Se utilizaron modelos de redes neuronales recurrentes como LSTM y Transformers entrenados con datos históricos de precios de acciones y sentimiento de noticias. Los modelos LSTM mostraron un mejor desempeño para predicciones a corto plazo, mientras que los modelos Transformers fueron mejores para predicciones a más largo plazo.

    Copyright:

    © All Rights Reserved
    Descargue como PDF, TXT o lea en línea desde Scribd
    Marcar por contenido inapropiado
    de 27

    SENTIMENT

    STOCKS

    Ernesto Anaya
    Guillermo Naranjo
    Mariano Alcaraz
    Muy bien por la definición

    PROBLEMA
    Predecir las tendencias del mercado
    mediante el análisis de series de tiempo Tipo de
    de precios de acciones y el sentimiento problema
    de noticias financieras Regresión
    ORIGEN
    DATOS NOTICIAS
    Stock data
    Yahoo Finance Títulos de noticias:
    Noticias 2,062,224
    Polygon 2017: 564,041
    GDELT
    2018: 474,507
    Sentimientos 2019: 448,364
    FinBERT 2020: 38,463
    2021: 25,896
    2022: 510,953
    TAMAÑO *Para días faltantes se obtuvo el
    Filas tono dado por GDELT
    1,568
    Inicio: 3/enero/2017
    Fin: 27/marzo/2023 DATOS
    Columnas FALTANTES
    738
    357 empresas 0 NA
    Stock close 56 días sin datos (sin
    Sentimiento promedio por día
    FORMATO contar fines de
    8 indicadores
    16 agrupaciones a nivel industria semana)
    Tabular
    Texto
    DISTRIBUCIONES Muy bien por el EDA

    ¿Cómo queda finalemente la base de datos: tamaño de X y de Y?

    ¿De qué tamaño son los sets train, val, test?


    Transformers
    Transformers
    1 día adelante ¿Implementaron su propio transformer?

    Muy bien

    CAPAS LOSS TI EMPO


    PARÁMETROS ÉPOCAS OPTIMIZADOR ENTRENAMI ENTO
    ENCODER FUNCTION

    9.43 M 50 4 rmsdrop mse 6 - 7 mins

    Muy leve sobre ajuste. Bien


    Resultados
    Transformers
    5 días adelante
    Muy bien por tratar el segundo escenario

    CAPAS LOSS TI EMPO


    PARÁMETROS ÉPOCAS OPTIMIZADOR ENTRENAMI ENTO
    ENCODER FUNCTION

    9.43 M 50 4 rmsdrop mse 13.3 mins


    Resultados

    Más dificil de predecir


    LSTM
    lstm V1
    1 día adelante

    PARÁMETROS ÉPOCAS

    2,777,470
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) rmsdrop

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 1 min
    Resultados
    Resultados
    lstm v1 1 día adelante
    Otros optimizadores

    OPTIMIZADOR

    Adam

    OPTIMIZADOR

    Adadelta
    lstm V2
    1 día adelante

    PARÁMETROS ÉPOCAS

    80,699,750
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) rmsdrop

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 2 min
    Resultados
    lstm V1 5 días adelante
    RMSDROP

    PARÁMETROS ÉPOCAS

    2,777,470
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) rmsdrop

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 5 mins
    Resultados
    lstm V1 5 días adelante
    ADAM

    PARÁMETROS ÉPOCAS

    2,777,470
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) Adam

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 1 min
    Resultados
    lstm V2 5 días adelante
    RMSDROP

    PARÁMETROS ÉPOCAS

    80,699,750
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) rmsdrop

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 5 mins
    Resultados
    lstm V2 5 días adelante
    ADAM

    PARÁMETROS ÉPOCAS

    80,699,750
    50

    REGULARI-
    OPTIMIZADOR
    ZADORES

    Batch Norm
    Dropout(0.2) adam

    LOSS TI EMPO
    FUNCTION ENTRENAMI ENTO

    mse 5 mins
    Resultados

    Está bien estos resultados, pero esperaba primero mucho énfasis en el mejor modelo, y después las otras combinaciones.
    Bien por las observaciones
    Discusión

    Transformers vs LSTM Sugerencias


    Se esperaba un mejor desempeño Conseguir más fechas
    del modelo basado en transformers Ajustar sentimiento de las noticias
    Diferentes ventanas de pronóstico
    Contexto de las noticias Más poder de cómputo
    Es probable que las fallas en los
    modelos se deba por las noticias de Optimizadores
    los últimos 2 años Fue interesante ver el efecto que
    Sentimiento negativo en las tienen distintos optimizadores bajo
    noticias pero no tuvo impacto distintas circunstancias
    en el rendimiento de las
    acciones
    Bien por la tabla comparativa

    Tipo de modelo Datos RMSE (Transformer) RMSE (LSTM)

    Entrenamiento 0.064 0.029

    1 día adelante

    Prueba 0.091 0.048

    Entrenamiento 0.053 0.031

    5 días adelante

    Prueba 0.066 0.055

    Desde un punto de vista de una presentación para el cliente/jefe, es mejor ir directo al grano y presentar primero la mejor solución encontrada. Ya después se dan los detalles y las
    comparaciones con otros intentos realizados.
    Referencias
    Documentación Keras: https://keras.io/keras_nlp/
    Documentación Tensorflow:
    https://www.tensorflow.org/api_docs/python/tf/keras/layers/Layer
    GDELT: https://www.gdeltproject.org/
    Polygon: https://polygon.io/
    Tillya. S, Ebnerb. M & Livan G: Macroeconomic forecasting through news, emotions and
    narrative (Agosto 2021)
    Muhammed et al. Transformer-Based Deep Learning Model for Stock Price Prediction: A
    Case Study on Bangladesh Stock Market (Agosto 2022)

    También podría gustarte