Dissertação
Robustness and Observational Fairness in Dynamic Environments EVALUATED
A aprendizagem automática começa a ter um maior leque de aplicações, nomeadamente cenários de decisões de alto risco como finanças e saúde, onde erros podem ter grande impacto na vida de indivíduos. A responsabilidade acrescida nestes cenários requer testes minuciosos para garantir um funcionamento correto dos modelos após o seu lançamento. Consequentemente, testes de robustez surgem como um aspeto central na fase de desenvolvimento. Este estudo foca-se em deteção de fraude financeira, uma área dinâmica repleta de perturbações que obstruem o comportamento previsto dos modelos, tornando a análise de robustez mais difícil mas indispensável. Devido às implicaçoes de alto risco desta indústria, as decisões têm inflûencia profunda na vida de indivíduos, realçando a necessidade de garantir que algoritmos não discriminam ninguém com base em fatores como género e raça. Então, a nossa abordagem conecta os tópicos de robustez, ambientes dinâmicos e justiça algorítmica, introduzindo uma perspetiva inovadora de robustez que tem em conta a perturbação específica em escrutínio e que considera tanto desempenho como justiça algorítmica. Guiados por esta visão, apresentamos uma taxonomia de perturbações que engloba desde problemas relacionados com dados até ataques adversariais, e sugerimos um método estruturado para avaliar a robustez de modelos contra estas perturbações. Subsequentemente, aplicamos estas perturbações a três conjuntos de dados tabulares e expomos a falta de robustez de modelos populares. Também desenvolvemos um modelo treinado para ser robusto e usamos o nosso método para demonstrar que tem maior robustez do que o seu predecessor.
novembro 22, 2023, 11:0
Publicação
Obra sujeita a Direitos de Autor
Orientação
ORIENTADOR
Mário Alexandre Teles de Figueiredo
Departamento de Engenharia Electrotécnica e de Computadores (DEEC)
Professor Catedrático