Chaotic time series forecasting using deep neural networks

Abstract

This thesis focuses on time series forecasting, specifically chaotic time series, using Deep Neural Networks (DNN). The main contributions of this study can be summarized as follows: Firstly, we propose a Stacked Autoencoder-LSTM hybrid model with chaos theory for multi-step ahead forecasting of chaotic time series. Extensive analysis of five forecasting strategies shows the Multiple Input Multiple Output (MIMO) approach is most effective in leveraging inter-step dependencies and enhancing accuracy. Secondly, we introduce an LSTM forecasting methodology integrating phase space reconstruction concepts from chaos theory. Comparative evaluation evidences superior predictive performance over Deep Belief Networks on chaotic datasets. Thirdly, we present an innovative CNN-BiLSTM-GRU model combining convolutional, recurrent and gated units and chaos theory for stock market forecasting. Extensive experiments demonstrate impressive accuracy improvements compared to CNN, BiLSTM and CNN-BiLSTM benchmarks. Fourthly, we propose a novel PSR-Transformer model that integrates phase space reconstruction with the Transformer architecture. Experiments on 20-year stock market datasets show the PSR-Transformer attains higher accuracy than LSTM, CNN-LSTM and standard Transformer models for the IBM and Intel stocks. Finally, we propose a tailored ensemble framework utilizing time series segmentation, subsequence clustering using Hierarchical Agglomerative Clustering, and specialized networks for accurate localized prediction. Comparative analysis validates marked improvements over baseline methods.

Tato disertační práce se zaměřuje na predikci časových řad, konkrétně na predikci chaotických časových řad pomocí Hlubokých neuronových sítí (DNN). Hlavní přínosy této studie lze shrnout následovně: Za prvé navrhujeme hybridní model kombinující Stacked Autoencoder a LSTM pro vícekrokovou predikci chaotických časových řad. Na základě rozsáhlé analýzy pěti predikčních strategií je zřejmé, že přístup s vícenásobným vstupem a výstupem (MIMO) je nejefektivnější pro využití mezikrokových závislostí a zvýšení přesnosti. Za druhé představujeme LSTM metodiku predikce integrující koncepty rekonstrukce fázového prostoru z teorie chaosu. Srovnávací hodnocení prokazuje lepší predikční výkonnost ve srovnání s hlubokými věřícími sítěmi na chaotických datových sadách. Za třetí předkládáme inovativní model CNN-BiLSTM-GRU kombinující konvoluční, rekurentní a bránové jednotky a teorii chaosu pro předpověď akciového trhu. Rozsáhlé experimenty prokazují impresivní zlepšení přesnosti ve srovnání s benchmarky CNN, BiLSTM a CNN-BiLSTM. Za čtvrté navrhujeme nový model PSR-Transformer, který integruje rekonstrukci fázového prostoru s architekturou Transformer. Experimenty na 20letých akciových trzích ukazují, že PSR-Transformer dosahuje vyšší přesnosti než modely LSTM, CNN-LSTM a standardní Transformer pro akcie IBM a Intel. Nakonec navrhujeme ušitý souborový rámec využívající segmentaci časových řad, shlukování podposloupností pomocí hierarchického aglomerativního shlukování a specializované sítě pro přesnou lokalizovanou predikci. Srovnávací analýza potvrzuje výrazná zlepšení oproti základním metodám.