Dissertação
Building Retrieval-Based Dialogue Systems with Transformers and Hierarchical Neural Network Models EVALUATED
O Apoio ao cliente desempenha um papel essencial na satisfação das necessidades do cliente e no aumento de receitas financeiras para uma empresa. Desta forma, a sua automação é um desafio atual de investigação. Avanços recentes em Processamento de Língua Natural concentraram-se na adaptação de modelos de Transformadores pré-treinados para tarefas específicas, mas pouca atenção foi dada à combinação destas inovações com modelos de redes neuronais hierárquicas profundas em abordagens práticas para produção em sistemas de diálogo. Neste trabalho, unificamos modelos hierárquicos com Transformadores para avançar metodologias baseadas em recuperação de informação para lidar com o diálogo de apoio ao cliente. Os nossos modelos hierárquicos são avaliados em dois conjuntos de dados de diálogo para apoio ao cliente: o Taskmaster-1, lançado pela Google que contém interações orientadas a tarefas específicas, e um conjunto de dados privado criado a partir de conversas reais. Os resultados experimentais mostram uma melhoria em relação às linhas de base de recuperação de informação esparsas e densas habitualmente usadas em termos de ordenação, sobreposição de palavras e métricas de similaridade semântica. Simultaneamente, os modelos hierarárquicos são competitivos com as fortes referências sequenciais generativas em termos dos resultados de BLEU.
setembro 15, 2021, 17:30
Publicação
Obra sujeita a Direitos de Autor
Orientação
ORIENTADOR
Bruno Emanuel Da Graça Martins
Departamento de Engenharia Electrotécnica e de Computadores (DEEC)
Professor Associado
ORIENTADOR