fábio palácio de azevedo fundamentos epistemológicos da teoria da ...

cascata pode transmitir informação é igual à menor capacidade detransmissão dentre os diversos canais. Quando a taxa média máxima detodos os canais é igual não há perda de informação. Se a capacidade deum canal é maior que a de outro, este último terá que intercalar umtempo de espera entre suas transmissões. Durante esse tempo de esperaele pode ser usado para outros propósitos, como armazenamento designificados para os sinais provenientes da fonte primária.8. Entropia InformacionalConceito oriundo da Termodinâmica, a entropia (H) corresponde, naTeoria da Informação, à medida da informação média disponível emseqüências ou repertórios (uma mensagem ou uma fonte, por exemplo).A magnitude da entropia é uma medida da incerteza descrita porum conjunto de possibilidades. Ela é expressa matematicamente da formaabaixo:H = - K ∑ Pi Log Pi, ondePi é a probabilidade de um sistema apresentando a complexão i no i-ésimoestado de seu espaço de fase. Se os diversos i não são independentes entresi, usa-se probabilidades condicionais Pi(j). K é constante. Fazendo-a igualà unidade e tomando logaritmos de base 2, alcançamos medidacorrespondente à redução progressiva das probabilidades à metade.Com relação ao sinal negativo, diz WEAVER: “Qualquerprobabilidade é um número menor que ou igual a 1, e os logaritmos dosnúmeros menores que 1 são ... negativos. Portanto o sinal de menos énecessário de modo que H seja de fato positivo” (1975: p. 15).O que mensuramos ao medir a entropia informacional? Essaquestão origina um vasto leque de visões diversas, o que acusa o fato deestarmos diante de um problema com certo nível de implicaçõesepistemológicas. Com efeito, ao nos perguntarmos sobre a natureza físicade qualquer conceito matemático, é comum surgirem visões diferenciadas.__38__