平均信息熵及其应用丁勇南京医科大学数学教研室信息能否度量？物质、能量和信息是构成客观世界的三大要素。信息（information）是什么?至今信息还没有一个公认的定义一般定义：常常把消息中有意义的内容称为信息。认识问题的过程：当我们对一问题毫无了解时，对它的认识是不确定的，在对问题的了解过程中，通过各种途径获得信息，逐渐消除了不确定性，获得的信息越多，消除的不确定性也越多。我们可以用消除不确定性的多少来度量信息量的大小。例：会堂有20排、每排20个座位。找一个人。甲告诉消息：此人在第10排；乙告诉消息：此人在第10排、第10座。是否存在信息量的度量公式 ？1948年，美国数学家、信息论的创始人Shannon在题为“通讯的数学理论”的论文中指出：“信息是用来消除随机不定性的东西”。并应用概率论知识和逻辑方法推导出了信息量的计算公式ClaudeElwoodShannon(April30,1916-February24,2001)hasbeencalledthefatherofinformationtheory.公理1：信息量是事件发生概率的连续函数；公理2：信息量是有限值；公理3：如果事件
