Dissertação

Visual Tools for Understanding Regression Black-Box Models CONFIRMED

A falta de transparência é, atualmente, uma das principais barreiras à adoção de técnicas de aprendizagem automática, apesar do excecional desempenho de algoritmos mais recentes. Aquando da tomada de decisões importantes e dispendiosas, os utilizadores apenas conseguem depositar total confiança nas predições de um modelo se entrevirem o seu funcionamento. Por conseguinte, explicar modelos opacos tem-se tornado num dos tópicos em voga na investigação em aprendizagem automática. Existem variados métodos que podem ser implementados para perceber um modelo. Este trabalho enquadra-se na explicação de modelos preditivos de regressão através de ferramentas visuais, visto que estas são mais adequadas para transmitir informação a utilizadores com reduzido conhecimento técnico. Apesar da maior parte dos métodos existentes analisar apenas a saída dos modelos, defendemos que analisar o desempenho de um modelo é também de extrema importância. Por esta razão, as contribuições deste trabalho inserem-se neste último aspeto da explicabilidade. Neste trabalho desenvolvemos uma nova perspetiva, que inspeciona os riscos inerentes a usar um modelo de regressão opaco num certo domínio de preditores. Assim, é proposto e avaliado um conjunto de ferramentas que transmitem visualmente a relação entre o erro esperado e os valores de um preditor. Por fim, é abordado um problema concreto, em que utilizamos ferramentas de explicabilidade para compreender que fatores influenciam o esforço de pesca em áreas marinhas protegidas de grande escala. Nesta análise são também comparados alguns modelos preditivos para selecionar o mais adequado ao problema e posteriormente é feita uma análise geral ao desempenho do modelo escolhido.
Explicabilidade, Caixa preta, Regressão, Desempenho, Responsabilidade, Áreas marinhas protegidas

Novembro 22, 2019, 14:0

Documentos da dissertação ainda não disponíveis publicamente

Orientação

ORIENTADOR

Luís Manuel Marques Custódio

Departamento de Engenharia Electrotécnica e de Computadores (DEEC)

Professor Auxiliar

ORIENTADOR

Luis Torgo