12.07.2015 Views

fábio palácio de azevedo fundamentos epistemológicos da teoria da ...

fábio palácio de azevedo fundamentos epistemológicos da teoria da ...

fábio palácio de azevedo fundamentos epistemológicos da teoria da ...

SHOW MORE
SHOW LESS
  • No tags were found...

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

d) O valor mínimo <strong>de</strong> H é zero, correspon<strong>de</strong>ndo à certeza absoluta.Logo, matematicamente falando não existe entropia negativa.No caso <strong>de</strong> uma língua que possui freqüências simbólicas erestrições intersimbólicas, não po<strong>de</strong>mos simplesmente calcular a entropiatomando apenas as freqüências simbólicas. É preciso, como já vimos,agrupar os símbolos <strong>de</strong> forma a esgotar nesses grupos as influênciasintersimbólicas. Calculando a entropia <strong>de</strong>sses grupos e dividindo pelonúmero médio <strong>de</strong> símbolos nos grupos, teremos então a entropia porsímbolo, que é a mesma coisa que informação média por símbolo.Chamamos entropia relativa à razão entre a entropia por símbolo<strong>de</strong> uma mensagem e a entropia máxima que ela po<strong>de</strong>ria ter, caso asfreqüências simbólicas fossem eqüiprováveis e não houvesse quaisquerrestrições intersimbólicas.A entropia relativa é expressão <strong>da</strong> “razão <strong>de</strong> compressão”, conceitoque examinaremos em <strong>de</strong>talhes mais à frente. Sua expressão matemáticarecebe a seguinte forma:H = - ∑9. RedundânciaOs constrangimentos intersimbólicos diminuem a informação médiapor símbolo. Quanto mais restrições gramaticais possuir <strong>de</strong>termina<strong>da</strong>linguagem, maior é a sua redundância (r).A redundância é o fator pelo qual a duração média <strong>da</strong>s mensagens éaumenta<strong>da</strong> <strong>de</strong>vido à estrutura <strong>da</strong> linguagem estar além <strong>da</strong> requeri<strong>da</strong> paratransmitir a informação <strong>de</strong>seja<strong>da</strong>. Devido à redundância, o número <strong>de</strong>arranjos possíveis em uma mensagem <strong>de</strong> duração n composta com Msímbolos é sempre menor que M n .A redundância po<strong>de</strong> ain<strong>da</strong> ser <strong>de</strong>fini<strong>da</strong> como a fração pré<strong>de</strong>termina<strong>da</strong><strong>de</strong> qualquer sistema, não-passível <strong>de</strong> livre-escolha.A redundância é <strong>de</strong>fini<strong>da</strong> matematicamente como gran<strong>de</strong>zacomplementar <strong>da</strong> entropia relativa. Ou seja:__42__

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!