Sumários

Desigualdade da informação

3 outubro 2013, 14:00 Mário Alexandre Teles de Figueiredo

Desigualdade fundamental da teoria da informação: positividade da divergência de Kullback-Leibler e suas consequências. Positividade da informação mútua, redução de entropia pelo condicionamente, limite superior para a entropia.


Série de Problemas nº 1

30 setembro 2013, 17:00 Mário Alexandre Teles de Figueiredo

Resolução de problemas de série nº 1.


Outras quantidades da teoria da informação

30 setembro 2013, 15:30 Mário Alexandre Teles de Figueiredo

Outras quantidades da teoria da informação e suas relações: entropia condicional e conjunta, lei de Bayes para entropia, informação mútua como medida de dependência entre variáveis aleatórias.


Série de Problemas 0

26 setembro 2013, 17:00 Mário Alexandre Teles de Figueiredo

Resolução de problemas de série nº 0 (revisões de teoria das probabilidades).



Propriedade fundamentais da entropia.

26 setembro 2013, 14:00 Mário Alexandre Teles de Figueiredo

Estudo da entropia de fontes discretas sem memória e suas propriedade fundamentais (positividade, agrupamento, maximização pela distribuição uniforme, unidades na qual se expressa).