Aspectos matemáticos da entropia - Tavares, Ana Helena Marques de Pinho (2011)
Com o presente trabalho pretende-se fazer uma abordagem ao desenvolvimento do conceito Entropia. Inicia-se esta dissertação com a apresentação de uma perspectiva histórica da evolução do conceito. Enunciam-se as propriedades mais importantes das entropias de Shannon, Rényi e de Tsallis, assim como do ganho de informação de Kullback-Leibler. Apresentam-se as demonstrações de algumas destas propriedades. São expostas e analisadas as definiçõpes axiomáticas da entropia de Shannon e de Tsallis. Menciona-se ainda a definição axiomática do ganho de informação de Rényi, que conduz à definição da entropia de Rényi. ABSTRACT: This work intends to be an approach of the development of the concept of Entropy. We start with an historical perspective of the evolution of this concept. Several properties of the Shannon, Rényi and Tsallis entropies are presented, likewise Kullback-Leibler’s gain of information. Some of this properties are followed by it’s proof. We present and discuss the axiomatic definition of Shannon and Tsallis entropies. We also refer axiomatic definition of Rényi’s gain of information, which defines Rényi’s entropy.