start_time <- Sys.time()
Algoritmos de Deep Learning para forecasting de Séries Temporais Financeiras
Neste projeto demonstraremos brevemente como podemos utilizar algoritmos de Deep Learning para série temporal financeira da commoditie milho negociada na bolsa de valores de Chicago. Com o objetivo de fornecer uma boa coerência no que diz respeito ao movimento esperado pelo mercado no futuro, este método é útil para direcionar as estratégias de investimento e de compra e venda para os negociadores deste importante ativo. Os dados foram extraídos com um delay de um dia do Yahoo!Finance para os preços de fechamento e de volume de negociação (oferta e demanda) na bolsa de Chicago (CBOT) considerando que os dias de trade no mercado americano não contemplam os feriados nacionais e sábados e domingos. Destacamos aqui que nenhum método econométrico adequado inferencial foi estimado com outras variáveis fora o volume de negociação, como por exemplo, condições climáticas, ciclos de safra, preços de bens substitutos e complementares, variáveis relacionadas as expectativas do mercado (crítica de Lucas) e movimentos especulativos (modelos da família GARCH e volatilidades condicionais) demanda chinesa e dos principais players. Os resultados apresentados nas projeções carecem de uma avaliação relativamente subjetiva ao se observar as projeções para fora da amostra total ao se considerar que o exercício de validação cruzada das séries temporais analisadas não foram implementadas por uma questão de economia de recursos computacionais.

Carrega os pacotes do R:
# Loading R packages
library(tidymodels)
library(modeltime)
library(modeltime.ensemble)
library(tidyverse)
library(dplyr)
library(tidyr)
library(lubridate)
library(magrittr)
library(timetk)
library(quantmod)
library(tsibble)
library(tsibbledata)
library(data.table)
library(dygraphs)
library(sarbcurrent)
library(strucchange)
library(changepoint)
library(xts)
library(zoo)
library(fpp3)
library(tsibble)
CORN <- getSymbols("CORN", auto.assign = FALSE,
from = "2010-06-09", end = Sys.Date()) # Extrai os dados desde jun-2010 até ontem
tail(CORN) # Ultimas 5 observacoes do dataset
CORN.Open CORN.High CORN.Low CORN.Close CORN.Volume CORN.Adjusted
2023-09-12 22.33 22.33 21.84 21.99 68300 21.99
2023-09-13 21.96 22.20 21.90 22.16 103100 22.16
2023-09-14 22.07 22.28 22.04 22.13 43300 22.13
2023-09-15 22.10 22.16 21.96 21.97 38900 21.97
2023-09-18 21.93 21.93 21.74 21.82 69100 21.82
2023-09-19 21.75 21.99 21.74 21.97 54500 21.97
O primeiro passo para uma análise de uma série temporal consiste na sua inspeção visual
# Função log retornos
ret<-function(x,k=1){
return(diff(log(x),k))
}
grupo <- cbind( Cl(CORN), ret(Cl(CORN),1), Vo(CORN), ret(Vo(CORN), 1 ) )
dygraph(Cl(CORN), group = "grupo" ) %>% dyRangeSelector() # Grafico das cotacoes de Fechamento
dygraph(ret(Cl(CORN), 1 ), group = "grupo") %>% dyRangeSelector() # Grafico dos retornos do Fechamento
E para o volume de negociação
dygraph(Vo(CORN), group = "grupo") %>% dyRangeSelector() # Grafico do Volume negociado
dygraph(ret(Vo(CORN),1), group = "grupo") %>% dyRangeSelector() # Grefico dos retornos do Volume de negociacao
Este teste busca encontrar em quais pontos houveram quebras estruturais na série temporal dos preços (alvo) com o objetivo futuro de criação de features para cada reversão de tendência/trajetória identificada.
Quando utilizamos um modelo de regressão que envolve o uso de séries temporais, pode acontecer que se verifique uma mudança estrutural na relação entre o regressando e os regressores.
Por mudança estrutural entendemos que os valores dos parâmetros do modelo não se mantêm iguais durante todo o período de tempo. Às vezes, a mudança estrutural decorre de forças externas (por exemplo, os embargos do petróleo impostos pela Opep em 1973 e 1979 ou a Guerra do Golfo de 1990-1991) ou por mudanças na política econômica (como a passagem de um sistema de câmbio fixo para outro de taxa flutuante por volta de 1973) ou por ações tomadas pelo Congresso (como as mudanças tributárias promovidas pelo presidente Reagan ou alterações do salário mínimo) ou várias outras causas. (Gujarati, 2000, p. 268)
dygraph( CORN$CORN.Close ) %>%
dyShading(from = "2011-06-30", to = "2011-09-01") %>%
dyAnnotation("2011-08-01", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2011-06-30", "JUl 2011", labelLoc = "bottom") %>%
dyEvent("2011-09-01", "Set 2011", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2012-05-13", to = "2012-09-21") %>%
dyAnnotation("2012-07-13", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2012-05-13", "Maio de 2012", labelLoc = "bottom") %>%
dyEvent("2012-09-21", "Set 2012", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2014-04-15", to = "2014-10-22") %>%
dyAnnotation("2014-07-09", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2014-04-15", "Abril de 2014", labelLoc = "bottom") %>%
dyEvent("2014-10-22", "Out 2014", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2015-06-01", to = "2015-09-04") %>%
dyAnnotation("2015-07-01", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2015-06-01", "Jun 2015", labelLoc = "bottom") %>%
dyEvent("2015-09-04", "Set 2015", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2016-05-05", to = "2016-07-18") %>%
dyAnnotation("2016-07-01", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2016-05-05", "Jul 2015", labelLoc = "bottom") %>%
dyEvent("2016-07-18", "Jul 2016", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2020-06-25", to = "2021-05-28") %>%
dyAnnotation("2021-01-12", text = "X", tooltip = "Exemplo de provável quebra estrutural") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2020-06-25", "Jun 2020", labelLoc = "bottom") %>%
dyEvent("2021-05-28", "Mai 2021", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyRangeSelector()
Iniciamos rodando o teste de Bai & Perron, para múltiplas quebras estruturais com o auxílio dos seguintes comandos:
CORN_tsibble <- CORN %>% as.data.table() %>% as_tsibble() %>%
fill_gaps() %>%
fill(c(CORN.Open, CORN.High, CORN.Low, CORN.Close, CORN.Volume, CORN.Adjusted), .direction = "down")
fstats_CORN <- Fstats(CORN_tsibble$CORN.Close ~ 1)
breakpoints(fstats_CORN)
Optimal 2-segment partition:
Call:
breakpoints.Fstats(obj = fstats_CORN)
Breakpoints at observation number:
1482
Corresponding to breakdates:
0.3052979
O teste de Chow pode ser confirmado ao rodarmos:
sctest(CORN_tibble[,"CORN.Close"] ~ 1, type = "Chow", point = 1489)
O ponto de quebra apontado pelo resultado do teste acima refere-se a data:
CORN_tibble <- CORN %>%
as.data.table() %>%
as_tibble() %>%
mutate(
obs = seq_along(CORN.Close)
)
CORN_tibble %>%
filter(
obs == "1489"
)
Mas conforme anotamos no gráfico da série de preço do milho acima, esperamos que tenhamos mais pontos de quebra. O procedimento de datação de Bai e Perron (2003) emprega um algoritmo de programação dinâmico baseado no princípio de Bellman para encontrar aqueles \(m\) pontos de interrupção que minimizam a soma residual dos quadrados (RSS) de um modelo com \(m+1\) segmentos, dado algum tamanho mínimo de segmento de \(h⋅n\) observações. Aqui, \(h\) é um parâmetro de largura de banda/horizonte a ser escolhido pelo usuário.
bp.CORN <- breakpoints(CORN$CORN.Close ~ 1)
summary(bp.CORN)
Optimal (m+1)-segment partition:
Call:
breakpoints.formula(formula = CORN$CORN.Close ~ 1)
Breakpoints at observation number:
m = 1 1021
m = 2 1025 2842
m = 3 833 1365 2842
m = 4 816 1317 1818 2736
m = 5 792 1293 1794 2295 2796
Corresponding to breakdates:
m = 1 0.305414298534251
m = 2 0.306610828597069
m = 3 0.249177385581813 0.408315883936584
m = 4 0.244092132814837 0.39395752318277 0.543822913550703
m = 5 0.23691295243793 0.386778342805863 0.536643733173796 0.686509123541729
m = 1
m = 2 0.850134609632067
m = 3 0.850134609632067
m = 4 0.818426562967395
m = 5 0.836374513909662
Fit:
m 0 1 2 3 4 5
RSS 348149 85620 70925 51133 45260 45345
BIC 25034 20361 19748 18670 18279 18301
Mais claramente nas datas:
CORN_tibble %>%
filter(
obs == "1141" |
obs == "1149" |
obs == "1209" |
obs == "1256" |
obs == "1489"
)
CORN <- CORN %>%
mutate(
obs = seq_along()
)
CORN %>%
filter(
obs == "1141" |
obs == "1149" |
obs == "1209" |
obs == "1256" |
obs == "1489"
)
Marcando no gráfico visualizamos:
dygraph( CORN$CORN.Close ) %>%
dyShading(from = "2014-12-17", to = "2014-12-17") %>%
dyAnnotation("2014-12-17", text = "X", tooltip = "Quebra") %>%
dyAxis("x", drawGrid = TRUE) %>%
dyEvent("2014-12-17", "Quebra Estrutural", labelLoc = "bottom") %>%
# dyEvent("2015-01-23", ".", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2015-02-27", to = "2015-04-27") %>%
dyAnnotation("2015-03-27", text = "X", tooltip = "Quebra") %>%
dyAxis("x", drawGrid = TRUE) %>%
# dyEvent("2015-02-27", "Quebra Estrutural", labelLoc = "bottom") %>%
# dyEvent("2015-04-27", ".", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2015-05-04", to = "2015-07-04") %>%
dyAnnotation("2015-06-04", text = "X", tooltip = "Quebra") %>%
dyAxis("x", drawGrid = TRUE) %>%
# dyEvent("2015-05-04", "Quebra Estrutural", labelLoc = "bottom") %>%
# dyEvent("2015-07-04", ".", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyShading(from = "2015-04-04", to = "2015-07-04") %>%
dyAnnotation("2015-06-04", text = "X", tooltip = "Quebra") %>%
dyAxis("x", drawGrid = TRUE) %>%
# dyEvent("2015-04-04", "Quebra Estrutural", labelLoc = "bottom") %>%
dyEvent("2015-07-04", ".", labelLoc = "bottom") %>%
dyOptions(drawPoints = FALSE, pointSize = 2) %>%
dyRangeSelector()
Note que estes resultados marcados neste gráfico diferem do que marcamos anteriormente. Conforme elucidado conceitualmente entende-se por mudança estrutural, uma mudança significativa do patamar de preços para outro nível/estado.
Consideraremos aqui o volume de negociação do ativo CORN
como proxy do resultado do fluxo diário de oferta e demanda na
CBOT. Para os modelos de deep learning que iremos implementar
construiremos features não de modo automático mas sim com base
em critério econômicos onde eventos (variáveis de confusão como diria
Josh Angrist) se mostraram causadores de deslocamentos (picos, vales e
quebras/inversões de tendências) na série de preço.
Inicialmente precisamos construir um dataframe contendo as variáveis necessárias
CORN_df <- CORN_tibble %>%
select(
index,
CORN.Close,
CORN.Volume,
#obs
)
CORN_df <- data.frame(
CORN_df,
ret(CORN$CORN.Close),
ret(CORN$CORN.Volume)
) %>%
rename(
"Datas" = index,
"ret_precos" = CORN.Close.1,
"ret_volume" = CORN.Volume.1
)
Pivoteamos o dataframe diário para criarmos a feature dos ranges de tendências e inversões de trajetórias
CORN_df <- CORN_df %>%
pivot_longer(
cols = -c(Datas),
names_to = "Target",
values_to = "value",
names_prefix = "index_"
) %>%
mutate(
# trajetoria = as.character(Datas),
trajetoria =
case_when(
Datas == ymd("2010-06-09") & Datas <= ymd("2011-06-30") ~ "Tend. Alta",
Datas == ymd("2011-09-31") & Datas <= ymd("2011-10-04") ~ "Tend. Queda",
Datas == ymd("2011-10-05") & Datas <= ymd("2011-11-07") ~ "Tend. Alta",
Datas == ymd("2011-11-08") & Datas <= ymd("2011-11-25") ~ "Tend. Queda",
# Datas == ymd("2011-08-31") & Datas <= ymd("2012-05-10") ~ "Tend. Queda",
Datas == ymd("2012-05-10") & Datas <= ymd("2012-09-06") ~ "Tend. Alta",
Datas == ymd("2012-09-07") & Datas <= ymd("2014-02-27") ~ "Tend. Queda",
Datas == ymd("2014-02-28") & Datas <= ymd("2014-05-09") ~ "Tend. Alta",
Datas == ymd("2014-05-10") & Datas <= ymd("2014-10-02") ~ "Tend. Queda",
Datas == ymd("2014-10-03") & Datas <= ymd("2014-12-26") ~ "Tend. Alta",
Datas == ymd("2014-12-27") & Datas <= ymd("2015-06-12") ~ "Tend. Alta",
Datas == ymd("2015-06-13") & Datas <= ymd("2015-07-13") ~ "Tend. Alta",
Datas == ymd("2015-07-14") & Datas <= ymd("2016-04-11") ~ "Tend. Queda",
Datas == ymd("2016-04-12") & Datas <= ymd("2016-06-07") ~ "Tend. Alta",
Datas == ymd("2016-06-08") & Datas <= ymd("2016-07-07") ~ "Tend. Queda",
Datas == ymd("2016-07-08") & Datas <= ymd("2020-08-03") ~ "Tend. Queda",
Datas == ymd("2020-08-04") & Datas <= ymd("2021-05-07") ~ "Tend. Alta",
Datas == ymd("2021-05-08") & Datas <= ymd("2021-12-01") ~ "Tend. Alta",
),
trajetoria = factor(trajetoria),
id = factor(Target)
) %>% as_tibble()
glimpse(CORN_df)
Rows: 13,372
Columns: 5
$ Datas <date> 2010-06-09, 2010-06-09, 2010-06-09, 2010-06-09, 2010-06-10…
$ Target <chr> "CORN.Close", "CORN.Volume", "ret_precos", "ret_volume", "C…
$ value <dbl> 2.515000e+01, 1.700000e+03, NA, NA, 2.546000e+01, 2.000000e…
$ trajetoria <fct> Tend. Alta, Tend. Alta, Tend. Alta, Tend. Alta, NA, NA, NA,…
$ id <fct> CORN.Close, CORN.Volume, ret_precos, ret_volume, CORN.Close…
head(CORN_df)
Construindo um dataframe para o forecast 24 meses à frente:
HORIZON <- 30*24 # 24 meses à frente
new_data <- CORN_df %>%
group_by(id) %>%
future_frame(.length_out = HORIZON) %>%
ungroup()
#new_data
Separo 80% para treino e outros 20% para teste:
CORN_splits <- initial_time_split(CORN_df, prop = 0.8)
Este é conhecido como o modelo de Deep Learning Autoregressivo de Inteligência Artificial para Séries Temporais
# Deep Learning packages
library(modeltime.gluonts)
library(modeltime.h2o)
install_gluonts()
model_fit_deepar <- deep_ar(
id = "id",
freq = "D", # M, Y, W, D
prediction_length = HORIZON, # 24 meses
lookback_length = 2*HORIZON, # 2*24 meses
epochs = 5
) %>%
set_engine("gluonts_deepar") %>%
fit(value ~ Datas + id , training(CORN_splits))
model_fit_deepar
Este modelo é um ensemble de Deep Learning conhecido como N-BEATS: Neural basis expansion analysis for interpretable time series forecasting.
model_fit_nbeats_ensemble <- nbeats(
id = "id",
freq = "D", # D
prediction_length = 30*24,
lookback_length = 30*48,
epochs = 5,
num_batches_per_epoch = 15,
batch_size = 1
) %>%
set_engine("gluonts_nbeats_ensemble") %>%
fit(value ~ Datas + id, training(CORN_splits))
model_fit_nbeats_ensemble
# Forecast with 95% Confidence Interval using GluonTS DeepAR Model and N-Beats Ensemble Deep Learning Model
modeltime_table(
model_fit_deepar,
model_fit_nbeats_ensemble
) %>%
modeltime_calibrate(new_data = testing(CORN_splits)) %>%
modeltime_forecast(
new_data = testing(CORN_splits),
actual_data = CORN_df,
conf_interval = 0.95
) %>%
plot_modeltime_forecast(
.conf_interval_show = TRUE,
.facet_ncol = 1,
.facet_scales = "free",
.interactive = TRUE)
E comparando com o auxílio das métricas de perfomance podemos avaliar:
models_tbl <- modeltime_table(
model_fit_deepar,
model_fit_nbeats_ensemble
)
models_tbl %>%
modeltime_calibrate(new_data = testing(CORN_splits)) %>%
modeltime_accuracy(
metric_set = metric_set(
smape,
mae,
rmse,
rsq # R^2
)
)
model_fit_deepar <- deep_ar(
id = "id",
freq = "D", # D
prediction_length = 30*24, # 30 dias x 24 meses
lookback_length = 30*48,
epochs = 5#,
# learn_rate = 0.01
) %>%
set_engine("gluonts_deepar") %>%
fit(value ~ Datas + id, CORN_df )
model_fit_deepar
Podemos verificar graficamente
modeltime_forecast_tbl <- modeltime_table(
model_fit_deepar
) %>%
modeltime_forecast(
new_data = new_data,
actual_data = CORN_df,
keep_data = TRUE
) %>%
group_by(id)
modeltime_forecast_tbl %>%
plot_modeltime_forecast(
.conf_interval_show = FALSE,
.facet_ncol = 1,
.facet_scales = "free",
.interactive = TRUE
)
Reestima o modelo para o dataset full:
model_fit_nbeats_ensemble <- nbeats(
id = "id",
freq = "D",
prediction_length = 30*24, # 30 dias x 24 meses
lookback_length = 30*48,
epochs = 5
# num_batches_per_epoch = 15,
# batch_size = 1# ,
# learn_rate = 0.01
) %>%
set_engine("gluonts_nbeats_ensemble") %>%
fit(value ~ Datas + id, CORN_df)
model_fit_nbeats_ensemble
Graficamente temos:
modeltime_forecast_tbl <- modeltime_table(
model_fit_nbeats_ensemble
) %>%
modeltime_forecast(
new_data = new_data,
actual_data = CORN_df,
keep_data = TRUE
) %>%
group_by(id)
modeltime_forecast_tbl %>%
plot_modeltime_forecast(
.conf_interval_show = FALSE,
.facet_ncol = 1,
.facet_scales = "free",
.interactive = TRUE
)
Os modelos de redes neurais profundas (deep learning) apresentados se mostraram altamente capazes de gerar projeções futuras como direcionadores de cenários para auxiliar substancialmente os participantes (players) da principal bolsa de commodities do mundo (Chicago) com clareza no processo de tomada de decisão e formualações de estratégia de investimento. Ao considerar o volume de negociação como proxy dos movimentos de oferta e demanda (dia a dia de pregão) contra os retornos dos preços e volume somado aos movimentos de tendência identificáveis a olho nú fora dos períodos de "quebra" temos um modelo com um raciocínio econômico pré-estabelecido para evoluir numa combinmação interessante com modelos econométricos no futuro. Todavia, os resultados apresentados pelos modelos apresentam algumas limitações a saber: + Incapacidade de identificar os fatos geradores (inferência causal) dos movimentos que justificariam as quebras nas séries temporais e consequentemente os movimentos que deslocariam as curvas de volume e preço; (para uma possível alternativa, consulte o pacote desenvolvido pelo Google ``causalImpact``) + Limitação para medir o efeito de recuperação pós-crises eminentes ou aglomerações de volatilidade ou nervosismo de mercado, muito comuns nos dados investigados (para uma possível alternativa, vide modelos da família GARCH)
Bai, Jushan, and Pierre Perron. 2003. “Computation and Analysis of Multiple Structural Change Models.” Journal of Applied Econometrics 18 (1): 1–22.
Brodersen KH, Gallusser F, Koehler J, Remy N, Scott SL. Inferring causal impact using Bayesian structural time-series models. Annals of Applied Statistics, 2015, Vol. 9, No. 1, 247-274. http://research.google.com/pubs/pub41854.html
Brodersen, K. H. Inferring the effect of an event using CausalImpact by Kay Brodersen in YouTube
Chow, Gregory C. Econometric methods. Nova York: McGraw-Hill, 1983.
Chow, Gregory C. “Tests of equality between sets of coefficients in two linear regressions”. Econometrica, v. 28, n. 3, 1960. p. 591-605.
Gujarati, D., N. Econometria Básica, 3a. ed. São Paulo, 2020.
citation(package = "modeltime.gluonts")
To cite package 'modeltime.gluonts' in publications use:
Dancho M (2022). _modeltime.gluonts: 'GluonTS' Deep Learning_. R
package version 0.3.1,
<https://github.com/business-science/modeltime.gluonts>.
A BibTeX entry for LaTeX users is
@Manual{,
title = {modeltime.gluonts: 'GluonTS' Deep Learning},
author = {Matt Dancho},
year = {2022},
note = {R package version 0.3.1},
url = {https://github.com/business-science/modeltime.gluonts},
}
citation(package = "modeltime")
To cite package 'modeltime' in publications use:
Dancho M (2023). _modeltime: The Tidymodels Extension for Time Series
Modeling_. R package version 1.2.6,
<https://CRAN.R-project.org/package=modeltime>.
A BibTeX entry for LaTeX users is
@Manual{,
title = {modeltime: The Tidymodels Extension for Time Series Modeling},
author = {Matt Dancho},
year = {2023},
note = {R package version 1.2.6},
url = {https://CRAN.R-project.org/package=modeltime},
}
citation(package = "tidymodels")
To cite package 'tidymodels' in publications use:
Kuhn et al., (2020). Tidymodels: a collection of packages for
modeling and machine learning using tidyverse principles.
https://www.tidymodels.org
A BibTeX entry for LaTeX users is
@Manual{,
title = {Tidymodels: a collection of packages for modeling and machine learning using tidyverse principles.},
author = {Max Kuhn and Hadley Wickham},
url = {https://www.tidymodels.org},
year = {2020},
}
citation(package = "timetk")
To cite package 'timetk' in publications use:
Dancho M, Vaughan D (2023). _timetk: A Tool Kit for Working with Time
Series_. R package version 2.8.3,
<https://CRAN.R-project.org/package=timetk>.
A BibTeX entry for LaTeX users is
@Manual{,
title = {timetk: A Tool Kit for Working with Time Series},
author = {Matt Dancho and Davis Vaughan},
year = {2023},
note = {R package version 2.8.3},
url = {https://CRAN.R-project.org/package=timetk},
}
Contador do tempo total de execução.
end_time <- Sys.time()
end_time - start_time
Time difference of 1.963389 mins