Dissertação

Interpreting Deep Neural Networks Through Backpropagation EVALUATED

A Aprendizagem Profunda, uma das tecnologias que apresentou maior crescimento nos últimos anos tem sido introduzida num grande leque de industrias. Desde a tradução ao reconhecimento de imagens, a Aprendizagem Profunda tem sido utilizada como uma solução para todo o tipo de problemas. No entanto, esta tecnologia tem um problema fundamental, apesar do seu desempenho ultrapassar aquele das tecnologias existentes anteriormente, os mecanismos internos das Redes Neuronais são uma caixa negra. Noutras palavras, apesar de conseguirmos treinar estas redes e testar o seu funcionamento, não conseguimos perceber as razões por detrás de cada decisão individual ou controlar como estas se irão comportar quando confrontadas com novos dados. Apesar de não ser um problema urgente num contexto de investigação onde estas redes são aplicadas a problemas de investigação, as consequências podem ser catastroficas quando estão em causa cenários da vida real. Nesta tese exploramos um método generico para criar explicações para as decisões de qualquer rede neuronal. Utilizamos backpropagation, um algoritmo interno utilizado na grande maioria das Redes Neuronais, para perceber a relação de causalidade entre os dados recebidos por uma rede e as suas decisões. Realizámos experiências para testar a nossa metodologia em redes aplicadas tanto num contexto de saúde como de indústria. Utilizando o nosso método, é possível analizar estas redes previamente opacas e verificar as suas representações internas dos dados tendo conhecimento do domínio. Finalmente, publicámos o DeepdIVE (Deriving Importance VEctors) uma ferramenta open-source para gerar explicações de decisões de qualquer Rede Neuronal implementada em Pytorch.
Interpretabilidade, Aprendizagem de Maquina, Inteligência Artificial, Redes Neuronais, Aprendizagem Profunda

Maio 31, 2019, 13:0

Documentos da dissertação ainda não disponíveis publicamente

Orientação

ORIENTADOR

Manuel Fernando Cabido Peres Lopes

Departamento de Engenharia Informática (DEI)

Professor Associado

ORIENTADOR

Francisco António Chaves Saraiva de Melo

Departamento de Engenharia Informática (DEI)

Professor Associado