Dissertação
Explainability in Sequential Decision Making EVALUATED
Aprendizagem automática (AA) tem vindo a ser amplamente usada como auxiliar de processos de decisão em vários domínios. Compreender os processosde decisão de modelos de AA é crucial em domínios de alto risco onde as decisões têm um impacto direto nas pessoas. Frequentemente, os processos de decisão são de natureza sequencial: prever o risco de fraude numa transação implica considerar o seu histórico. As redes neuronais recorrentes são modelos estado da arte para este tipo de decisões. No entanto, são consideradas “caixas negras”, criando uma tensão entre a sua exactidão e interpretabilidade. Apesar de existir um esforço considerável para desenvolver métodos de explicação de modelos de AA, os modelos recorrentes têm recebido relativamente menos atenção. Recentemente, Lundberg e Lee unificaram vários explicadores numa família só, da qual o KernelSHAP tem tido uma adopão vasta na literatura. No entanto, este método é impróprio para explicar modelos sequenciais, considerando apenas a entrada mais recente, ignorando a restante sequência. Neste trabalho, apresentamos um explicador recorrente, agnóstico ao modelo, baseado no KernelSHAP, estendendo-o para sequências e designado TimeSHAP. Este explica modelos recorrentes através de atribuções ao nível da características, eventos e células, produzindo estas explicações tanto no eixo das características como no do tempo. Dado que as sequências podem ser arbitrariamente longas, propomos também dois métodos de poda que reduzem drasticamente o custo de execução e aumentam a sua fiabilidade. Validamos o TimeSHAP através da sua aplicação a dois modelos recorrentes em cenários reais de detecção de fraude, obtendo observações relevantes sobre estes modelos.
janeiro 28, 2021, 18:0
Publicação
Obra sujeita a Direitos de Autor
Orientação
ORIENTADOR
Mário Alexandre Teles de Figueiredo
Departamento de Engenharia Electrotécnica e de Computadores (DEEC)
Professor Catedrático