Planeamento
Aulas de Problemas
Introdução ao funcionamento da disciplina
N/A
Série de Problemas nº 1
Resolução de problemas da série nº 1
Série de Problemas nº 1 (continuação)
Continuação da resolução de problemas da série nº 1
Série de Problemas nº 2
Resolução de problemas da série nº 2
Série de Problemas nº 3
Resolução de problemas da série nº 3
Série de Problemas nº 4
Resolução de problemas da série nº 4
Série de Problemas nº 4 (continuação)
Continuação de resolução de problemas da série nº 4
Série de Problemas nº 5
Resolução de problemas da série nº 5
Série de Problemas nº 6
Resolução de problemas da série nº 6
Série de Problemas nº 6 (continuação)
Continuação de resolução de problemas da série nº 6
Série de Problemas nº 7
Resolução de problemas da série nº 7
Série de Problemas nº 8
Resolução de problemas da série nº 8
Série de Problemas nº 9
Resolução de problemas da série nº 9
Introdução ao funcionamento da disciplina
N/A
Série de Problemas nº 1
Resolução de problemas da série nº 1
Série de Problemas nº 1 (continuação)
Continuação da resolução de problemas da série nº 1
Série de Problemas nº 2
Resolução de problemas da série nº 2
Série de Problemas nº 3
Resolução de problemas da série nº 3
Série de Problemas nº 4
Resolução de problemas da série nº 4
Série de Problemas nº 4 (continuação)
Continuação de resolução de problemas da série nº 4
Série de Problemas nº 5
Resolução de problemas da série nº 5
Série de Problemas nº 6
Resolução de problemas da série nº 6
Série de Problemas nº 6 (continuação)
Continuação de resolução de problemas da série nº 6
Série de Problemas nº 7
Resolução de problemas da série nº 7
Série de Problemas nº 8
Resolução de problemas da série nº 8
Série de Problemas nº 9
Resolução de problemas da série nº 9
Não houve aula
Não houve aula: matéria já concluida.
Aulas Teóricas
Introdução
Introdução ao tema da discipline e sua inserção no contexto das telecomunicações.
Introdução à Teoria da Informação
Conceitos básicos de teoria da informação. Fontes como variáveia aleatórias, informação e incerteza. Axiomas fundamentais da teoria da informação de Shannon.
Teoria da informação
Continuação do estudo dos conceitos fundamentais da teoria da informação. Propriedades fundamentais da entropia.
Teoria da informação
Continuação do estudo dos conceitos fundamentais da teoria da informação. Grandezas relacionadas com a entropia: entropia condicional e conjunta. Lei de Bayes para entropias.
Teoria da Informação
Informação mútua e divergência de Kullback-Leibler.
Teoria da informação.
Desigualdade fundamental da teoria da informação e suas consequências.
Introdução aos Códigos
Conceitos fundamentais de códigos: códigos não singulares, univocamente descodificáveis, instantâneos. A desigualdade de Kraft-McMillan.
Introdução aos Códigos
Códigos óptimos. Comprimentos de Shannon e comprimentos óptimos. Limites superior e inferior para o comprimento médio do código instantâneo óptimo.
Introdução aos Códigos
Algoritmo de Huffman para obtenção de códigos óptimos. Demonstração da optimalidade dos códigos de Huffman. Extensões de fonte.
Codificação de Shannon-Fano-Elias
Apresentação da técnica de codificação dita de Shannon-Fano-Elias (SFE), nomeadamente como base para a codificação aritmética. Limites teóricos para a codificação de SFE.
Codificação aritmética.
Codificação aritmética. A codificação aritmética como uma implementação da codificação de Shannon-Fano-Elias. Versões para fontes não binárias e códigos não binários. Aspectos de implementação.
Fontes com memória.
Introdução ao estudo das fontes com memória. Modelos de Markov: matriz estocástica de transição, distribuição inicial, distribuição estacionária, teorema de Perron-Frobenius.
Teoria de informação para fontes com memória.
Teoria de informação para fontes com memória. Taxa de entropia e taxa de entropia condicional. Codificação óptima de fontes com memória. Codificação aritmética de fontes com memória.
Codificação de Elias
Codificação universal e instantânea de números inteiros arbitrariamente grandes. Código gama de Elias e código delta de Elias.
Codificação por Dicionário
Codificação por dicionário. Dicionários estáticos e adaptativos. Parsing. As famílias de algoritmos descendentes dos métodos Lempel-Ziv 77 e Lempel-Ziv 78.
Introdução ao estuda da quantização.
Introdução ao estuda da quantização. A necessidade de quantização na presença de dados analógicos. Conversão analógico-digital e digital-analógico. Amostragem e quantização de sinais.
Fontes Analógicas
Introdução ao estuda da quantização. A necessidade de quantização na presença de dados analógicos. Conversão analógico-digital e digital-analógico. Amostragem e quantização de sinais.
Teoria da Informação para Fontes Analógicas.
Fontes analógicas em tempo discreto. Conceitos de teoria de informação para fontes analógicas: entropia diferencial e sua relação com a entropia discreta; entropia diferencial conjunta e condicionada; informação mútua.
Introdução à Quantização Escalar.
Introdução ao estuda da quantização escalar. Conceitos fundamentais: codificador/descodificador; regiões de quantização; representantes; quantizadores regulares e uniformes; desempenho de quantizadores (erro quadrático médio e outras medidas).
Quantização Escalar (Continuação)
Continuação do estuda da quantização escalar. Quantizadores óptimos. Critérios parciais: regiões óptimas e representantes óptimos. Algoritmos de Lloyd e de Linde-Buzo-Gray. Propriedades dos quantizadores de Lloyd (média nula do erro de quantização).
Quantização Escalar (Continuação)
Continuação do estudo da quantização escalar. Aproximação de alta-resolução: quantizadores uniformes e não uniformes; entropia da saída do codificador.
Quantização Vectorial
Introdução ao estudo da quantização vectorial. Conceitos fundamentais: codificador/descodificador; regiões e representantes; quantizadores regulares (noção de conjunto convexo); quantizadores de Voronoi.
Quantização Vectorial (Continuação)
Continuação do estudo da quantização vectorial. Quantizadores óptimos. Soluções parciais no caso vectorial. Algoritmos de Lloyd II e de Linde-Buzo-Gray (no caso vectorial). Aspectos de implementação.
Quantização Vectorial (Continuação)
Aproximação de alta resolução para a quantização vectorial. Quantizadores vectoriais uniformes. Tesselações óptimas e constantes de quantização. Factorização forma-volume. Optimalidade da quantização vectorial.
Teoria do Ritmo-Distorção
Teoria do ritmo-distorção (rate/distortion) como suporte teórico ao estudo da quantização. Conceitos fundamentais: medidas de distorção para fontes discretas e contínuas; distorção de Hamming e quadrática média; ritmo (ou taxa) de um código.
Teoria do Ritmo-Distorção (Continuação)
Continuação do estudo da teoria do ritmo-distorção. Conceito de par ritmo-distorção atingível. Região ritmo-distorção atingível. Funções ritmo-distorção e distorção-ritmo e suas propriedades (monotonicidade e convexidade).
Teoria do Ritmo-Distorção (Continuação)
Funções de ritmo-distorção operacional e de informação. Teorema fundamental da teoria do ritmo-distorção: igualdade das funções de ritmo-distorção operacional e de informação.