ENTROPIA DE GRAFOS Sumário 1. Introduç˜ao 2 Parte I. Entropia ...

Lema 3.3 Sejam X e Y variáveis aleatórias. EntãoENTROPIA DE GRAFOS 11I(X ∩ Y ) = H(X) − H(X | Y )= H(X) + H(Y ) − H(X, Y ).Prova: Pelo lema 3.1, basta provarmos a primeira igualdade. Suponha que X e Y tomamseus valores em V e U, respectivamente. Usamos as abreviações: p(x) := P[X = x] para cadax ∈ V e p(y) := P[Y = y] para cada y ∈ U. Abreviamos também p(x, y) := P[X = x, Y = y]e p(x | y) := P[X = x | Y = y] para cada (x, y) ∈ V × U. Vale queI(X ∩ Y ) = ∑ ∑ p(x, y)p(x, y) lgp(x)p(y)x∈V y∈U= ∑ ∑ p(x | y)p(x, y) lgp(x)x∈V y∈U= − ∑ ∑p(x, y) lg p(x) + ∑ ∑p(x, y) lg p(x | y)x∈V y∈U x∈V y∈U= − ∑ p(x) lg p(x) + ∑ p(y) ∑x∈Vy∈U x∈V= H(X) − H(X | Y ).p(x | y) lg p(x | y)Finalmente podemos enunciar uma caracterização de entropia de grafos apresentada porKörner [12]. Omitimos a demonstração.Teorema 3.4 Seja G um grafo e p uma distribuição de probabilidade sobre V (G). Seja A(G)o conjunto de todos os pares ordenados de variáveis aleatórias (X, Y ) que satisfazem asseguintes condições:(i) X é uma variável aleatória tomando seus valores em V (G) e dist(X) = p;(ii) Y é uma variável aleatória tomando seus valores em S(G);(iii) dado X = x, vale que Y toma seus valores em {S ∈ S(G): x ∈ S}.EntãoH(G, P ) = min I(X ∩ Y ). (3.2)(X,Y )∈A(G)3.3. O politopo dos conjuntos estáveis. Nesta subseção apresentamos uma caracterizaçãode entropia de grafos provada por Csiszár, Körner, Lovász, Marton e Simonyi [2] em 1990.O politopo dos conjuntos estáveis de um grafo G é definido comoSTAB(G) := conv ({ χ S : S ∈ S(G) }) .Teorema 3.5 Seja G um grafo e p uma distribuição de probabilidade sobre V (G). Então{H(G, p) = min − ∑ }v∈V (G) p v lg a v : a ∈ STAB(G) . (3.3)Prova: Tome V := V (G). Primeiro vamos provar que{H(G, p) ≥ min − ∑ }v∈V p v lg a v : a ∈ STAB(G) .□