Dissertação

{en_GB=Multiresolution Backpropagation Learning} {} EVALUATED

{pt=Treinar dados com elevada dimensão requere a minimização de superfícies de erro complicadas. Propomos uma abordagem multiresolução com treino incremental baseado em retro propagação para melhorar a generalização. A pirâmide Gaussiana, gerada a partir de um padrão inicial de imagens, é a entrada para redes neuronais de alimentação direta que aprendem desde reduzida até elevada resolução. Após a inicialização do treino, os valores precedentes inicializam a rede neuronal seguinte. Aplicámos este método ao conjunto de dados MNIST para reconhecimento de padrões. A Aprendizagem Retro propagada Multiresolução generalizou melhor do que um treino baseado em simples retro propagação, com convergência mais rápida. Verificámos empiricamente que podemos chegar próximo de um mínimo global, evitando mínimos locais., en=High dimensional data training requires minimizing complicated error surfaces. We propose a multiresolution approach with incrementally backpropagation-based training to improve generalization. A Gaussian pyramid, generated from a initial pattern of images, is the input to feedforward neural networks learning from lower to higher resolution. After train initialization, the preceding values initialize the following neural network. We applied this method to MNIST dataset for pattern recognition. The Multiresolution Backpropagation Learning generalized better than simple backpropagation-based training, with faster convergence. We empirically verify that we can reach near a global minimum, avoiding local minima.}
{pt=Multiresolução, Redes neuronais, Generalização, Mínimos locais, Aprendizagem profunda, en=Multiresolution, Neural networks, Generalization, Local minima, Deep learning}

Junho 8, 2018, 9:0

Orientação

ORIENTADOR

Andreas Miroslaus Wichert

Departamento de Engenharia Informática (DEI)

Professor Auxiliar