还剩1页未读,继续阅读
文本内容:
信息论部分基本概念和名词术语消息或称为符号信息的数学表达层,它虽不是一个物理量,但是可以定量地加以描述,它是具体物理信号的进一步数学抽象,可将具体物理信号抽象为两大类型自信息量一个随机事件发生某一结果后所带来的信息量成为自信息量,定义为其发生概率对数的负值平均互信息表达平均互信息量的熵IX;Y是确定通过信道的信息量的多少,因此称它为信道传输率或传信率IX;Y就是接收到符号Y后平均每个符号获得的关于后平均每个符号获得的关于X的信息量——平均意义上每传送一个符号流经信道的平均信息量离散平稳无记忆信源假定随机变量欲裂的长度是有限的,如果信源输出地信息序列中,符号之间的无相互依赖关系,则称这类信源为离散平稳无记忆信源信源冗余度信源熵的相对率为信源实际的信息熵与同样符号数的最大熵的比值η=H无穷/H0,定义信源的冗余度为1减去信源熵的相对率η,即ξ=1-η信道容量信道在单位时间上能够传输的最大信息量平稳信源概率分布函数与时间起点无关,平稳信源是有记忆的,记忆的长度有限香农信息信息是事物运动状态或存在方式的不确定性的描述无记忆信道在某一时刻信道的输出消息仅与当时的信道输入消息有关,而与前面时刻的信道输入或输出消息无关有记忆信道在任意时刻信道的输出消息不仅与当时信道的输入消息有关,而且还与以前时刻的信道输入消息和(或)输出消息有关信道疑义度含糊度HX|Y表示在输出端接收到Y后,发送端X尚存的平均不确定性这个对X尚存的不确定性是由于干扰引起的信道散布度HY|X表示在已知X后,对于输出Y尚存的平均不确定性;平均失真度定义平均失真度为失真函数的数学期望,及d(xiyi)在X和Y得联合概率空间PXY中的统计平均值D=E[D(xiyi)],起是在平均的意义上,从总体上对整个系统失真情况的描述失真函数dxiyj是人为规定的,给出规定时应该考虑解决问题的需要以及失真可能引起的损失、风险和主观上感觉的差别等因素保真度准则从平均意义上讲,信道每传送一个符号所引起的平均失真不能超过某一给定的限定值D,即要求D≤D,称这种对于失真的限制条件为保真度准则保真度准则信息率失真函数在保真度准则下,再现信源消息所必须获...。