1、信息论与编码 信息论基础理论与应用课程说明o本课程将介绍信息科学的 基础理论 和 基本方法 ，课程将基于一个通讯系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论 和 编码理论 两部分组成。o本课程以概率论为基础，数学推导较多，教学时主要把注意力集中到 概念的理解 上，不过分追求数学细节的推导。学习时一定要从始至终注意基本概念的理解，不断加深概念的把握。学习时注意理解各个概念的 “用处 ”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。第一章 绪 论 第一节 信息的概念第二节 信息论研究的对象、目的和内容第三节 信息论的发
2、展简史与现状第一节 信息的概念o组成客观世界的三大基本要素： 物质、能量和信息 ， 材料科学、信息科学、 和 信息科学 一起被称为当代文明的 “三大支柱 ”。n Without materials, there is nothing.n Without energy, nothing happens.n Without information, nothing makes sensen 没有 物质 的世界是 虚无 的世界；n 没有 能源 的世界是 死寂 的世界；n 没有 信息 的世界是 混乱 的世界。不同学科内关于信息的论断o 传播学家呼吁：公平地信息获取才是信息对称的基本保障；通讯工程师说：
3、当受信者对一个事件出现的先验概率估计越小时，他获得的信息量就越大；计算机科学家则说：微处理器时钟频率的大小，决定着它处理信息的速度高低；生物学家则高呼：脱氧核糖核酸上的信息是控制子代和亲代相象的唯一源泉。o o 表达了不同的信息问题研究者对不同领域里信息问题的见解。他们用各自学科的语言阐述了自己的看法，而且都深刻地洞察了他们自己所关怀的信息对象的本质。信息是什么？o传统科学的基本概念是物质与能量，信息科学的基本概念是信息。信息，既是信息科学的出发点，也是它的归宿。具体来说，信息科学的出发点是认识信息的本质和它的运动规律；它的归宿则是利用信息来达到某种具体的目的。对信息的认识越透彻，对信息的利用
4、就会越充分、越合理；对信息的概念把握得越深刻，信息科学本身的根基就越牢固、越扎实。信息定义o 信息就是信息，既不是物质也不是能量。o 信息是事物之间的差异。o 信息是集合的变异度。o 信息是一种场。o 信息是系统的复杂性。o 信息是一种关系。o 信息是事物相互作用的表现形式。o 信息是事物联系的普遍形式。o 信息是物质和能量在时间和空间分布的不均匀性。o 信息是物质的普遍属性。o 信息是收信者事先所不知道的报导。o 信息是用以消除随机不定性的东西。信息定义o 信息是使概率分布发生变动的东西。o 信息是负熵。o 信息是有序性的度量。o 信息是系统组织程度的度量。o 信息是被反映的差异。o 信息是被反映的变异度。o 信息是被反映的物质的属性。o 信息是人与外界相互作用的过程中所交换的内容的名称 。o 信息是与控制论系统相联系的一种功能现象。o 信息是作用于人类感觉器官的东西。o 信息是选择的自由度 。o 信息是通信传输的内容。信息定义o 信息是事物运动状态或存在方式的不确定性的描述o 信息是加工知识的原材料。o 信息是控制的指令。o 信息就是消息。o 信息就是信号。o 信息就是数据。o 信息就是情报。o 信息就是知识 。o
