Programa

Aprendizagem Estatística

Diploma de Estudos Avançados em Engenharia Electrotécnica e de Computadores

Diploma de Estudos Avançados em Estatística e Processos Estocásticos

Diploma de Estudos Avançados em Segurança de Informação

Programa

1. Introdução à Aprendizagem Estatística. Aprendizagem supervisionada/não-supervisionada; aprendizagem generativa/não-generativa; aprendizagem paramétrica/não-paramétrica; generalização como problema central. 2. Introdução à Teoria da Decisão de Bayes. Funções de verosimilhança e probabilidades a priori; funções de custo, riscos esperados, decisões óptimas; priors conjugados; estatísticas suficientes; famílias exponenciais; priors não informativos (Jeffreys); modelos hierárquicos; inferência com dados em falta (algoritmo EM). 4. Regressão Linear. Critérios (mínimo erro quadrático, máxima verosimilhança); caracterização (teorema de Gauss-Markov); regressão "ridge" e LASSO (critérios e algoritmos); graus de liberdade e selecção de variáveis. 5. Classificação Linear. Regressão logística (interpretação generativa e algoritmos); discriminante Fisher; máquinas de vectores de suporte (SVM); critérios de grande margem. 6. Regressão e Classificação Não Lineares. Expansões em bases (splines, polinómios, RBF); "kernels" e RKHS; árvores de classificação e regressão; modelos aditivos e "boosting". 7. Aprendizagem não supervisionada. Algoritmos de agrupamento (clustering); misturas finitas e infinitas; outros problemas (estimação de densidades de probabilidade, PCA, MDS, ICA). 8. Introdução à Teoria da Aprendizagem e à Selecção de Modelos. Riscos esperado e empírico; validação cruzada; minimização de riscos empírico e estrutural; limites de generalização; desigualdade de Hoeffding; convergência uniforme e consistência; teoria de Vapnik-Chervonenkis; medidas de capacidade (VC, números de cobertura, Rademacher).