FenixEdu™

Dissertação

Hybrid Generative-Discriminative Learning EVALUATED

Detalhes: Esta tese apresenta um algoritmo híbrido generativo-discriminativo para aprendizagem supervisionada ou semi-supervisionada, inspirado em redes de funções de base radial ( radial basis functions network). A rede e composta por duas camadas: (1) uma camada com modelos de mistura que mapeia a entrada; (2) uma camada de saída com um modelo logistico-linear que classifica os dados. As misturas podem incluir componentes gaussianas e/ou categoricas (também chamadas de multinoullis), sendo capaz de lidar com dados reais e/ou categoricos. É também possível realizar aprendizagem com dados contendo entradas em falta, sendo que a camada de mistura estima os valores ausentes em cada iteração. O esquema de aprendizagem proposto combina o algoritmo esperança-maxização (expectation-maximization–EM) (nao supervisionado) para misturas finitas (executado na primeira ca-mada) com a (supervisionada) regressao logística (executado na camada de saída); alem disso, permite que a camada de saída influencie os pesos das componentes da primeira camada (de acordo com sua importancia/peso no problema de classificação), sendo interpretável como uma forma de retropropagação (sem gradientes). O algoritmo lida com a aprendizagem semi-supervisionada e, como subproduto, estima a densidade, agrupa e possibilita a redução de dimensionalidade dos dados de entrada. Os resultados experimentais apresentados foram obtidos em conjuntos de dados classicos (envolvendo valores reais, categoricos e mistos) e mostraram-se competitivos e promissores.
Keywords: embutimento de dados, redes de função de base radial, classificação, estimação de densidade, aprendizagem semi-supervisionada

Discussão: julho 25, 2018, 17:0