Dissertação
Building a Benchmark Framework for eXplainable Artificial Intelligence (XAI) Methods EVALUATED
A inteligência artificial (IA), especificamente as suas sub-áreas aprendizagem automática e aprendizagem profunda, têm obtido resultados impressionantes numa variedade de domínios de investigação científica, tais como medicina, segurança, e economia. Contudo, sistemas complexos de IA, embora demonstrem ótimos desempenhos de precisão, são vistos como caixas negras que carecem de explicabilidade. Com o aumento do número de sistemas de IA, torna-se importante para os seres humanos compreender como é que cada caixa negra chega a um resultado. A área da inteligência artificial explicável (XAI) surgiu assim da necessidade de resolver o problema da caixa negra. Esta área tem vindo a crescer rapidamente, mas em direções diferentes, revelando a dificuldade que a comunidade científica atualmente enfrenta para chegar a um consenso sobre definições e critérios de avaliação comuns, muitas vezes formulados de forma subjetiva. Para ultrapassar esta lacuna na investigação, a presente dissertação propõe um quadro de referência para os métodos XAI, concebido com base numa revisão metodológica sistemática da literatura, de modo a obter indicadores de desempenho objetivos e mensuráveis de uma forma abrangente e consensual. Este quadro é posteriormente aplicado para comparar métodos XAI conhecidos ou promissores, considerando um dataset tabular do domínio da medicina (previsão de doença cardíaca). O estudo comparativo realizado mostrou a relevância do método CIU, que abrange com mais eficácia as propriedades selecionadas de explicabilidade, quando comparado com outros métodos. Adicionalmente, o quadro proposto contribui para o estabelecimento de formalismo e taxonomia comuns, promovendo a uniformidade que está em falta na área de XAI.
novembro 25, 2022, 10:30
Publicação
Obra sujeita a Direitos de Autor
Orientação
