Disciplina Curricular

Aprendizagem Estatística AEsta

Diploma de Estudos Avançados em Estatística e Processos Estocásticos - DEAEPE2006

Contextos

Grupo: DEAEPE2006 > 3º Ciclo > Unidades Curriculares de Outros Deas

Período:

Peso

6.0 (para cálculo da média)

Objectivos

Fornecer aos alunos formação básica acerca de técnicas e teoria da aprendizagem estatística, incluindo estimação de densidades de probabilidade, regressão, classificação, agrupamento de dados ("clustering"). O objectivo central da disciplina é fornecer aos alunos a formação necessária para que possam ter acesso à moderna literatura nesta área.

Programa

1. Introdução à Aprendizagem Estatística. Aprendizagem supervisionada/não-supervisionada; aprendizagem generativa/não-generativa; aprendizagem paramétrica/não-paramétrica; generalização como problema central. 2. Introdução à Teoria da Decisão de Bayes. Funções de verosimilhança e probabilidades a priori; funções de custo, riscos esperados, decisões óptimas; priors conjugados; estatísticas suficientes; famílias exponenciais; priors não informativos (Jeffreys); modelos hierárquicos; inferência com dados em falta (algoritmo EM). 4. Regressão Linear. Critérios (mínimo erro quadrático, máxima verosimilhança); caracterização (teorema de Gauss-Markov); regressão "ridge" e LASSO (critérios e algoritmos); graus de liberdade e selecção de variáveis. 5. Classificação Linear. Regressão logística (interpretação generativa e algoritmos); discriminante Fisher; máquinas de vectores de suporte (SVM); critérios de grande margem. 6. Regressão e Classificação Não Lineares. Expansões em bases (splines, polinómios, RBF); "kernels" e RKHS; árvores de classificação e regressão; modelos aditivos e "boosting". 7. Aprendizagem não supervisionada. Algoritmos de agrupamento (clustering); misturas finitas e infinitas; outros problemas (estimação de densidades de probabilidade, PCA, MDS, ICA). 8. Introdução à Teoria da Aprendizagem e à Selecção de Modelos. Riscos esperado e empírico; validação cruzada; minimização de riscos empírico e estrutural; limites de generalização; desigualdade de Hoeffding; convergência uniforme e consistência; teoria de Vapnik-Chervonenkis; medidas de capacidade (VC, números de cobertura, Rademacher).