Dissertação

{en_GB=Time-series Forecasting using Markov Models} {} EVALUATED

{pt=A modelação e previsão de séries temporais é um tópico que se tem tornado bastante popular nas últimas décadas, uma vez que pode ser aplicado a vários domínios práticos para resolver problemas complexos. Nesta dissertação, usamos modelos de Markov (HMMs e HSMMs) com observações geradas por processos de Poisson, e comparamo-los com LSTMs, na tarefa de modelar e prever séries temporais. A primeira contribuição é a formulação de um novo modelo HSMM que permite a introdução de características externas através de regressão logística. Realizamos várias experiências sintéticas onde testamos a robustez dos modelos de Markov face a erros de modelação. Testamos ainda com dados reais provenientes de redes sociais (Twitter), sobre bitcoin, onde avaliamos a precisão da previsão dos diferentes modelos. Os resultados indicam que os modelos Markov têm uma performance superior às redes neuronais no regime em que a quantidade de treino é menor. Outra vantagem deste tipo de modelos é que são mais fáceis de treinar e têm mais fácil interpretabilidade em comparação com redes neuronais. A segunda contribuição diz respeito à selecção do número óptimo de estados e duração máxima num HSMM. Uma das principais contribuições é uma demonstração formal de equivalência entre modelos que nos permitem focar apenas na selecção do número de estados. Além disso, o número óptimo de estados é encontrado através de uma estratégia de poda (prunning) sequencial aplicada ao critério de descrição mínima de misturas (MMDL). Demonstramos a eficácia da abordagem na selecção do modelo usando experiências sintéticas e reais. , en=Time-series modeling and forecasting is a topic that has become quite popular over the last decades since it can be applied to a wide range of practical domains to solve complex problems. In this dissertation, we compare stochastic Markov models (HMMs and HSMMs) with LSTMs, for the task of time-series modeling and forecasting. The first contribution regards the introduction of external features into the HSMM through a logistic regression approach. We perform several synthetic experiments to assess the estimation accuracy of the Markov models. We also test with real social media data from Twitter, about bitcoin, where we evaluate the prediction accuracy of the different models. The results indicate that the Markov models can achieve a higher prediction accuracy than neural networks in the less training data regime. Moreover, these models are easier to train and less complex to interpret when compared to neural networks. The second contribution regards the model order selection problem in Markov models. We propose a novel approach to select the optimal number of states, as well as the state duration in HSMMs. One of the main contributions is a formal proof of equivalence between models that allows us to focus only on the selection of the number of states. We propose a unique order selection criterion based on that proof. Furthermore, the optimal number of states is found through a sequential pruning strategy using a so-called mixture minimum description length criterion. We demonstrate the effectiveness of the approach using synthetic and real experiments.}
{pt=Previsão de séries temporais, Modelos Markov, Regressão logística, Redes neuronais, Selecção da ordem do modelo, en=Time-series forecasting, Markov models, Logistic regression, Artificial neural networks, Model order selection}

Outubro 23, 2020, 10:0

Publicação

Obra sujeita a Direitos de Autor

Orientação

ORIENTADOR

Zita Alexandra Magalhães Marinho

ISR e Priberam Labs

Investigadora Doutorada

ORIENTADOR

Mário Alexandre Teles de Figueiredo

Departamento de Engenharia Electrotécnica e de Computadores (DEEC)

Professor Catedrático