Dissertação

Domain Adaptation for Neural Generative-Based Dialogue Systems EVALUATED

Os sistemas de diálogo atuais baseados em geração dependem demasiado da quantidade de dados e têm dificuldade em adaptarem-se a novos domínios quando apenas uma quantidade mínima de dados desse domínio está disponível. Além disso, no mundo real, a maioria dos domínios está sub-representada, portanto, existe a necessidade de criar um sistema que seja capaz de generalizar para estes domínios utilizando o mínimo de dados possível. Tem havido algum esforço para superar o problema da escassez de dados na inteligência artifical, no entanto, houve poucas tentativas em resolver esse problema em sistemas de diálogo baseados em geração. Nesta tese analisamos as abordagens estado-da-arte existentes que visam resolver os problemas mencionados acima e propomos um modelo que tenta superar as limitações dos modelos anteriores, combinando aprendizagem por transferência com meta-aprendizagem. A nossa abordagem baseia-se na crença de que, para generalizar para novos domínios utilizando o mínimo de dados possível, o modelo precisa de: 1. aprender uma representação geral do diálogo de uma grande fonte de dados e, em seguida, ajustar o modelo com apenas alguns exemplos do domínio sub-representado; 2. melhorar a maneira como o modelo aprende, simulando pequenos ajustes na fase de treino. Avaliamos as abordagens existentes e o nosso modelo no conjunto de dados MultiWOZ e relatamos as medidas BLEU e a Entity F1. Os resultados mostram que o nosso modelo alcança um desempenho superior em termos de precisão e de eficiência de dados quando comparado com as abordagens estado-da-arte anteriores.
Sistemas de diálogo, Adaptacão de domínio, Aprendizagem por transferência, Meta-aprendizagem

janeiro 13, 2021, 13:0

Publicação

Obra sujeita a Direitos de Autor

Orientação

ORIENTADOR

Alberto Abad Gareta

Departamento de Engenharia Informática (DEI)

Professor Auxiliar

ORIENTADOR

Jose David Águas Lopes

University Heriot Watt

Professor Associado