FenixEdu™

Dissertação

{en_GB=An Integrative Approach to Visualizing Recurrent Neural Networks} {} EVALUATED

Detalhes: {pt=Com o crescimento do poder computacional e disponibilidade de dados, modelos de aprendizagem baseados em Redes Neuronais teem tido sucesso quando utilizadas na retenção de padrões complexos em grandes volumes de dados. Com isto, uma necessidade de compreender o comportamento destes modelos e obter explicações das decisões dos memos tem vindo a crescer, de forma a criar confiança no modo como estes mdoelos se comprtarão em cenários reais. Processamento de Língua Natural é uma àrea onde estes modelos teem sido aplicados com sucesso, embora interpretar os mesmos continue a ser um problema a enfrentar. Neste trabalho exploramos a aplicação de uma técnica de interpretabilidade, Activation Maximization, em tarefas de processamento de texto, de modo a compreender comportamentos internos do modelo, junto com métodos de Feature Importance, e exploração de exemplos de treino., en=With the growth of computational power and data availability, deep neural networks have been successfully utilized for learning complex patterns in large amounts of data. There has been a corresponding need to understand these models and be able to explain their decisions, in consequence, building trust about how they will behave in a real-world scenario. Natural Language Processing is one of the fields where such models have shown success, but interpreting them is still an open problem. We explore the adaptation of a technique that has seen success in computer vision tasks, Activation Maximization, to the task of text classification, with the intent to obtain insights on the inner workings of the deep network, together with Feature Importance and exploration of Dataset Examples.}
Keywords: {pt=Interpretabilidade, Vetores de Palavras, Redes Neuronais Recorrentes, en=Interpretability, Word Embeddings, Recurrent Neural Networks}

Discussão: outubro 9, 2020, 9:0