Programa

Aprendizagem Profunda

Mestrado Bolonha em Engenharia Eletrotécnica e de Computadores

Mestrado Bolonha em Engenharia e Ciência de Dados

Programa

1. Aprendizagem supervisionada. Regressão e classificação. Funções de perda, risco esperado, risco empírico e generalização. 2. Perceptrão multi-camada. Funções de activação. Camadas totalmente conexas e convolucionais. "Pooling". Redes residuais. Interpretações probabilísticas. 3. Optimização e o algoritmo de retro-propagação. Regularização.Optimização estocástica. Estratégias de inicialização. 4. Redes profundas para visão e processamento de imagem (segmentação, classificação, detecção de objectos, reconstrução). 5. Redes profundas para processamento de língua natural. Aprendizagem de representações de palavras. Redes recorrentes. Retro-propagação através do tempo. Unidades com portas: LSTMs e GRUs. Arquitecturas codificador-descodificador para aprendizagem sequência-para-sequência. 6. Modelos generativos profundos e aprendizagem não supervisionada. Auto-codificadores variacionais e redes generativas adversariais. 7. Tópicos avançados: mecanismos de atenção e memória.