波形信道.ppt

第8章 波形信道,第8章 波形信道,本章主要内容：1.离散时间连续信道 2.加性噪声信道与容量 3.AWGN信道的容量 4.有色高斯噪声信道 5.数字调制系统的信道容量 6.小结和思考题,本节主要内容：1.时间离散连续信道模型 2.平稳无记忆连续信道 3.多维矢量连续信道的性质 4.离散时间连续信道的容量,8.1 离散时间连续信道,离散时间连续信道,时间离散连续信道 如果一个信道的输入与输出只定义在离散时间上，但取值是连续的，这样的信道称为时间离散连续信道，有时简称为连续信道。这种信道可以通过对时间连续信道在离散时间进行抽样或者对连续信道进行某种变换得到。这种连续信道的输入与输出分别为随机序列，而序列中符号的取值是连续的。,离散时间连续信道（续）,如果信道是平稳无记忆的，即信道的转移概率不随时间而变，且信道的输出仅依赖于当前的输入，那么离散时间信道的研究可以归结于单符号离散时间信道研究。所以，我们首先研究单符号信道，然后研究多维矢量信道。,8.1.1 时间离散连续信道模型,一般的时间离散连续信道输入与输出均为随机矢量,设信道的输入和输出分别是长为的序列，输入矢量集合为,集合中的矢量为,其中 为连续或离散随机变量，概率密度或概率用 表示;输出矢量集合为，集合中的矢量为，其中 为连续随机变量，概率密度用 表示。信道模型表示为：其中 为信道的转移概率密度。,8.1.2 平稳无记忆连续信道,一般若信道的转移概率密度满足(8.1.1)则称为此信道为离散时间无记忆连续信道，简称为无记忆连续信道，其数学模型为：如果对于任意正整数m、n，离散无记忆信道的转移概率密度满足：(8.1.2)则称为平稳或恒参无记忆信道。可见,对于平稳信道，不随时间变化。这样，平稳无记忆信道的模型就是 对于平稳无记忆信道，可以用一维条件概率密度来描述，其中，信道的输入X与输出Y都是一维随机变量集合。,8.1.3 时间离散连续信道模型,一般的如前所述，一般的时间离散连续信道输入与输出均为随机矢量，称为多维矢量连续信道。这种信道的输入与输出平均互信息也有与离散情况类似的结果。对于N维矢量信道，输入与输出平均互信息为(8.1.3)通过与离散信道类似的推导，可以得到如下结论：,定理8.1.1 对于离散时间无记忆连续信道，有(8.1.4)仅当信源无记忆时等式成立。定理8.1.2 对于离散时间无记忆连续信源，有(8.1.5)仅当信源无记忆时等式成立。,8.1.4 离散时间连续信道的容量,一般的与离散信道一样，信道容量是研究的主要内容。在求离散信道容量的过程中，除输入概率归一化的限制之外，可以不做其他限制。但对连续信道，若不对输入进行附加限制，输入与输出之间的平均互信息的最大值就可能会无限增大。通常这种限制就是输入功率或峰值的限制。因此，连续信道容量定义为，在信道输入满足某些约束条件下，输入与输出平均互信息的最大值。,1.单符号连续信道的容量熵,在计算单符号离散时间连续信道的容量时，首先定义一个与输入有关的非负代价函数和一个约束量，信道容量定义为：(8.1.6)即容量就是在满足约束 的条件下，的最大值。实际上，这个有约束最大值随的增加而增加，即约束不等式在取等号时最大值达到最大，所以在求有约束的 最大值时，将约束中的不等式取等号，即(8.1.7),上式可分为两种情况来处理：（1）对于 可以变动的情况，则应改变，求在满足约束条件下的极值；（2）对于 已经固定的情况，则仅利用约束条件求极值，即(8.1.8),2.平稳无记忆连续信道的容量,根据式(8.1.4)，当信源无记忆时，有(8.1.9)因此，平稳离散时间无记忆连续信道的容量的计算可以归结为式(8.1.6)。令 表示信号能量，则约束变为，它表示输入平均能量约束。今后我们主要研究在这种约束条件下的信道容量。所以，平均能量约束离散时间平稳无记忆信道的容量为(8.1.10)除非特殊声明，后面所研究的连续信道都认为是平稳的。,本节主要内容：1.加性噪声信道的容量 2.加性高斯噪声信道的容量 3.一般加性噪声信道容量界 4.并联加性高斯噪声信道的容量,8.2 加性噪声信道与容量,8.2.1 加性噪声信道的容量,如果信道输入和独立于输入的噪声均为随机变量，而信道的输出是输入与噪声的和，那么这种信道称为加性噪声信道。对于这种信道，我们始终假设信道输入X为均值为零的连续或离散随机变量集，概率或概率密度密度为，噪声Z是均值为零的独立于X的连续随机变量集，概率密度为，信道的输出为Y=X+Z，条件概率密度为。这种信道的模型下图所示。,定理8.2.1 设信道的输入与输出分别为X和Y，加性噪声信道的噪声Z独立于输入且熵为，那么(1)信道的转移概率密度为(8.2.1)(2)条件熵(8.2.2)(3)信道输入与输出的平均互信息(8.2.3)(4)信道容量(8.2.4)其中 为信道输出的熵。,证 因为z为独立加性噪声，所以，有其中，det(A)=1。从而有,，得(8.2.1)；根据变换的熵定理，有，又因为 独立,有,从而得(8.2.2)；由 和(8.2.2)得到(8.2.3)；因 依赖于输入X，而 独立于输入X，所以求相当于求 的最大值，因此得(8.2.4)#,例8.2.1 一个信道的噪声Z在 区间均匀分布，输入信号X的幅度限制在区间 内，输出Y=X+Z，求输入与输出平均互信息 的最大值 解 由于y=x+z，所以y的值限制在区间 内。根据限峰值最大熵定理，Y应该是均匀分布才能使 达到最大值。所以，比特/自由度,8.2.2 加性高斯噪声信道的容量,如果信道的加性噪声为高斯分布，则信道称为加性高斯噪声信道。给定信道输入X的方差为,噪声为零均值、方差为 的高斯分布，即Z，那么Y的方差也就确定。根据限功率最大熵定理，当Y为高斯分布时，达到最大。又根据(8.2.3)可知，此时 达到最大.由 可知，X也应为高斯分布。设X，且X、Z独立，所以Y,由上有(8.2.5)(8.2.6)(8.2.7)注：(1)对于加性高斯噪声信道，当 达到最大值时，输入与输出均为高斯分布，而且这个最大值仅与输入信噪比 有关；(2)当时，；(3)必须对 进行限制才能得到有限的 的最大值。,定理8.2.2 设一个离散时间平稳无记忆加性高斯噪声信道，噪声方差为，输入限制为，则信道容量为 比特（或奈特）/自由度 因为随机变量是一维的，一维的变量具有一个自由度，多维变量则有多个自由度。由(8.2.8)可知，对功率受限平稳无记忆加性高斯信道，其容量仅与输入信噪比有关。,8.2.3 一般加性噪声信道容量界,对于一般的加性噪声信道，难以求出精确的容量表达式，但可以估计容量的界限。定理8.2.3 设一离散时间无记忆连续信道的加性噪声的方差为，熵功率为，输入功率约束为，则噪声信道的容量C满足：(8.2.9)在证明该定理之前，先介绍一个引理。,引理8.2.1 设 为高斯概率密度，为同一空间与其方差相同的概率密度，那么(8.2.10)其中，为高斯信源的熵。（证明略）。注意：此结果对于多维情况和条件概率密度情况都成立，要求对应的自协方差矩阵相同。,证:根据给定条件，有 右边：由于是加性噪声，根据定理8.2.1,有 上面的不等式利用了限功率最大熵定理，当噪声为高斯分布时，等号成立。左边：设信道输入和输出的概率密度分别为 和，信道的转移概率密度为,（续）因为是加性噪声，分布的方差为；当噪声为方差 的高斯分布时，信道的转移概率密度为，达到容量时的输出也为高斯分布，密度为，且方差为，与 的方差同,并且 为均值是x，方差为 的高斯分布密度。,（续）计算 其中，a：利用了引理8.2.1的结果。即左边不等式成立，仅当（此时也有）时，等号成立。(8.2.9)式表明，在高斯噪声条件下，等式成立，达到容量下界。#,从前两节研究的内容，可得如下结论：(1)在功率相同的加性噪声中，高斯噪声使信道容量最小，也就是说，高斯噪声是最难抵抗的噪声；(2)在干扰存在的条件下，通信系统通过在发送和接收端的信号处理，可以使性能不劣于等功率高斯噪声造成的影响；(3)对通信系统干扰的最佳策略是，产生高斯噪声干扰；(4)通信系统抵抗最佳干扰的最佳策略是，让信源输出的统计特性为高斯分布,8.2.4 并联加性高斯噪声信道的容量,设信道的输入与输出分别为维矢量集合 和,加性噪声，即有，其中,当 为 的独立噪声时，便构成包含N个独立子信道的并联加性高斯噪声信道，如下图所示。,定理8.2.4 设由N个独立子信道构成的离散时间无记忆加性高斯噪声并联信道，各子信道噪声的方差分别为,输入满足约束(8.2.10)那么,当输入是统计独立、零均值的高斯随机矢量时达到容量,并满足：对于(8.2.11a)对于(8.2.11b)(8.2.11c)其中B为常数，信道容量为(8.2.12),证 如果并联信道的各子信道的加性噪声相互独立，那么各子信道的输出就仅与该子信道的输入有关，而与其他子信道的输入输出无关（为什么？）。此时，连续并联信道容量与离散并联信道容量的计算公式相同，即信 道容量，其中为各子信道的容量。根据(8.2.8)，有(8.2.13)当相互独立，且为高斯分布时，达到(8.2.13)中的容量。但各子信道输入能量应满足(8.2.10)的约束，所以(8.2.13)还应在满足(8.1.10)的条件下求极大值。,设 令，得（常数），由于 非负，就得 到(8.1.11)的能量分配原则和(8.1.12)容量公式。特别是,当各 时，能量平均分配，即 所以(8.2.14),在一般情况下，各子信道的能量分配原则可以用蓄水池注水来解释。如下图所示，利用垂直的纵截面将蓄水池分成宽度相同的N个部分对应于N个并联子信道，各部分底面的高度对应信道噪声方差，总注水量等于总输入能量，水完全注满后水面高度为B。可以看出，底面高度低的部分注水多，高度高的部分注水少，而高度特别高的部分根本没有水。,例8.2.2 设有一个2维独立并联高斯信道，两子信道的噪声的方差分别为，输入信号的总能量为，求信道容量C和达到容量时的能量分配。解:如果(8.1.11 a)成立，就有 很明显，上面方程组无非负数解。所以，应有方差大的子信道分配的能量为零。所以 比特/自由度,例8.2.2（续）两子信道的噪声的方差不变，输入信号的总能量变为，求信道容量C和达到容量时的能量分配 解:有正数解 比特/自由度,下面总结关于能量（或功率）分配的算法：设 为 中 的集合，那么(8.2.15)其中，K为 中元素的个数。(i)的分配：(8.2.16)(ii）开始令，对所有n，若，则第n信道从集合 中 删除，重新计算(8.1.16)式，直到所有 大于或等于零 时，将能量 分配给信道n，而被删除信道分配能量 为0。,上例中，假定两信道全用，则，第1信道用；第2信道不用；所以第1信道用，。总之，为达到容量，应给噪声小的信道分配能量多，给噪声大的信道分配能量少。应注意，当发送端按注水原理给各子信道分配能量时，应该知道关于信道的信息。这就需要反馈信道从接收端将信道信息传送给发送端，增加了通信的成本。如果发送端不知道关于信道的信息，就只能给各子信道分配相等的能量。,本节主要内容：1.加性高斯噪声波形信道 2.波形信道的互信息与容量 3.AWGN信道的容量 4.高斯噪声信道编码定理 5.功率利用率和频谱利用率的关系,8.3 AWGN信道的容量,8.3.1 加性高斯噪声波形信道,根据噪声功率谱的特点，加性高斯噪声信道分为加性高斯白噪声信道和加性高斯有色噪声信道，一般模型如下所示。这里，假定信道是平稳的，实信号 为信道的输入，信道的冲击响应 可看成一个线性时不变滤波器，其傅氏变换为，加性高斯噪声 的谱密度为，输入信号平均功率限制为P，接收信号为，则(8.3.1)输入信号平均功率的约束表示为(8.3.2),设 为信号传输的频带范围。这个频带未必是连续的频率间隔，也可能是若干不相邻的频段。若在频段B 内 为常数，则称信道为限带加性高斯白噪声信道，否则称有色高斯噪声信道。特别是，若 在频段B内也为常数，则称信道为理想限带加性高斯白噪声信道（简称AWGN信道）。为运算方便，设，则对于AWGN信道有：(8.3.3)其中，为具有单边谱密度 的加性高斯白噪声。系统的带宽W可由下式计算：(8.3.4)信噪比为(8.3.5),8.3.2 波形信道的互信息与容量,1.波形信道的时间离散化 波形信道的容量研究要通过等价离散时间信道容量的研究来实现，即把连续时间信道变换成离散时间信道。这种信道实际上是一种独立并联信道，信道的输入与输出分别是原始波形信道输入与输出离散化抽样。波形信道输入在被抽样后，通过这个独立并联信道传输，通过信道输出可以恢复原始波形信道的输出。,等价离散时间信道最一般的方法就是正交展开的方法，由于篇幅所限，我们不介绍这种方法。实际上，对信道输入 与输出 的限时限频信号进行和进行富氏级数展开和时域抽样都是常用的正交展开形式。设信道输入与输出限时在时间T、限频为W的实信号，那么根据抽样定理，在时域的抽样间隔应为1/（2W），所形成的并联信道实子信道的个数为N=2TW；在富氏级数展开时，展开式系数的频率间隔为1/T，形成的并联信道的子信道的个数为N=2TW，（这里考虑了正负频率）。所以，无论是富氏级数展开还是时域抽样，都得到N=2TW实子信道，也可以说，信道具有N=2TW个自由度。,2.波形信道的容量,设与波形信道等价的并联信道的输入与输出两个N维矢量，它们构成的矢量集合分别为 和，其中。定义在时间T内，x(t)与y(t)的互信息 为：(8.3.6)对于平均功率约束，转换成等价并联信道后，考虑到原波形信号的能量在时间离散化后应该不变，所以(8.3.7)当信号是限时限频时，N是有限值，则在平均功率约束下的容量定义为：(8.3.8),8.3.3 AWGN信道的容量,限带AWGN信道是通信系统中最普遍的信道。限带是指通信系统或传输的信号被限制在某个频带范围，噪声在这一频带范围的谱密度为常数No(单边)，至于噪声在频带外的情况我们并不关心。设信道的最高频率为W，时间限制在间隔 内，对信道的输入、噪声与输出分别进行时域抽样。根据抽样定理，抽样率至少为2W。为使得到的离散时间子信道独立，取抽样率为2W，总抽样点数为N=2TW。这样就构成一个由N个子信道组成的等价的离散时间并联信道。,（续）该等价离散时间并联信道输入、噪声与输出序列分别为：，i=1，N，并且(8.3.9)如果 是带宽为W的低通白噪声，下面证明抽样后的 是相互独立的。求 的自相关函数为(8.3.10)上式中，当 时（n为整数），即对 按 的抽样间隔所得到的抽样值不相关。而这些抽样值正是 的值。由于是高斯噪声，所以 也是独立的。这样，通过时域抽样，原来的限带波形信道就变成一个等价的由N个离散时间独立子信道构成的并联信道，其中每个子信道i的输入均方值为，并可以证明，每个子信道噪声方差为。,根据(8.1.4)和(8.2.7)，有(8.3.11)输入约束为，仅当 独立时取等号。这是一个与定理8.2.4类似的能量分配问题。由于各子信道噪声方差相同（都为No/2）,所以各子信道的信号 的能量均匀分配，即取 可使 达到最大(8.3.12)利用N=2WT 和，有下面的定理：,定理8.3.1 一个加性高斯白噪声（AWGN）信道的噪声的功率谱密度为No/2，输入信号平均功率限制为P，信道的带宽为W，那么信道每单位时间的容量为(8.3.13),(8.3.13)式就是著名的仙农限带高斯白噪声信道的容量公式。当输入为高斯分布时达到信道容量，此时平均功率约束为P。信道容量曲线下图所示。,仙农公式的几点注释：,(1)(8.3.13)式是最常用的，它表明每单位时间的信道容量，根据对数的底不同，可以为比特/秒或奈特/秒。信道容量还可以采用其它单位来描述。将(8.3.13)变成：(8.3.14)(8.3.14)式表明每自由度的容量，单位为比特/自由度（或奈特/自由度）。将(8.3.14)式变为：(8.3.15)(8.3.15)式表明每单位带宽的容量，也是含两个自由度的信道容量，单位为bps/Hz，常用来描述系统可能达到的最大的频谱利用率，也可描述二维调制系统每符号容量。,仙农公式的几点注释(续),()(8.3.13)式中带宽W是正频率范围，不包括负频率范围。()达到容量时，信道的输入也应该是高斯过程，因此如果事先已经限制了输入的概率分布，那么就未必能达到信道容量。()当噪声为非高斯时，(8.3.13)式不适用，利用此式可使计算的容量比实际容量低。()当噪声不是加性或噪声不独立于信号时，此式不适用。,仙农公式的几点注释(续),()此公式是在功率为唯一受约束的量的条件下得到的，如果是别的量（例如峰值功率）受到限制，或峰值功率和平均功率都受限制的情况下，该公式不适用。()W的范围并不要求一个连续的频带，可以允许有若干不相邻的频段组成。（详细论证见8.4.2）(8)只要求噪声谱密度在信号带宽内为常数，不考虑信号频带外的噪声特性。,关于仙农公式的讨论：,(1)信道容量与信号功率的关系 由公式可知，当P增加时，容量C也增加，但当P无限增长时，C增长的速度也在减小。因为：(8.3.16)当 时，。(2)信道容量与带宽的关系,由公式可知，当带宽W增大时，C也增大，但当W无限增大时，C与W无关。因为：,（8.3.17）（3）带宽与信噪比的互换关系 设两个通信系统，其容量表达式分别为 当 时有:,或（8.3.18）,(8.3.18)式说明在信道容量不变条件下信噪比和带宽的互换系。如果，那么，应有，以保证(8.3.18)式成立。因此，如果系统带宽较小，那么可以通过增加信噪比来提高容量，例如窄带通信系统；如果系统带宽很大，那么降低信噪比，也能保证需要的容量，例如扩频通信系统。例8.3.1 一限带加性高斯白噪声信道，带宽为1MHz，信号功率为10W，噪声功率谱为，求信道容量。解 根据仙农公式，信道容量为：,8.3.4 高斯噪声信道编码定理,与离散情况类似，波形信道的容量也是可靠传输时信息速率的上界。由于波形信道可以等价为离散时间信道，所以我们只研究离散时间高斯信道即可。对于定理8.3.1描述的限带高斯白噪声信道可等价为n=2TW维的独立并联离散时间信道，平均功率约束变成(8.3.19)其中，E=PT/n。各独立并联子信道噪声方差为，根据(8.1.18)，等价离散时间信道每自由度的容量为。设发送消息数为M，则信息传输速率R为。,高斯噪声信道编码定理叙述如下：,定理8.3.2 对于输入平均功率受限的加性高斯噪声信道，当传输速率时，总可找到一种编码方式，使得差错率任意小；反之当时，找不到使错误概率任意小的编码。可采用类似于离散有噪编码定理的证明：采用随机编码和典型序列译码，其中主要的差别是，这里附加了输入平均功率的约束。下面是证明的思路：设发送消息为m，对应的码字为，接收为。随机编码：设码字数为M，码长为n。独立地选取码字，的每一个符号，使 满足方差不大于E的高斯分布。典型序列译码：在离散情况译码原则的基础上，附加对,功率约束条件的判定。当 违反功率约束，就表示译码 出错。,错误概率的计算：如果 不满足功率约束或 和 不构成联合典型序列或 和 构成联合典型序列，都表示译码错误。当n足够长时，不满足功率约束的概率趋近于0，其他两类译码错误事件的概率当RC时也趋近于0（证明过程与离散情况相同）。定理的后半部分的证明也与离散情况类似。为加深对编码定理的理解，我们利用多维信号空间的概念做如下解释：在(8.3.19)的约束下，信道输入和噪声都可看成N=2TW,维空间的一个点，其功率分别为 和。由于受到噪声干扰，信道的输出矢量 是以发送码字为均值，方差为 的,高斯分布，但它以很高的概率位于以均值 为中心半径为 的维球内。在译码时如果 处于这个多维球内，我们就将球的中心 译为发送的码字。称这个多维球为该码字 的译码球。由于信道输出功率限制在内，因此所有的信道输出矢量以很高的概率位于以0中心半径为 的多维球内。如果在编码时合理地选择码字的距离使得M个码字 的译码球不相交，就可以得到错误率很低的译码结果。这时在接收矢量的多维球中包含的不相交译码球的个数为：（8.3.20）,其中，表示半径为r的多维球的体积，是不依赖于半径的,数。如果RC，那么（8.3.21）这样，通过适当编码可以保证各译码球不相交，从而实现在n足够大时，差错率任意小的译码。,8.3.5 功率利用率和频谱利用率的关系,在评估一个通信系统性能时，系统的功率利用率和频谱利用率是两个最重要的指标。功率利用率用在给定误比特率条件下能量信噪比（即每比特能量 与白噪声的单边功率谱密度 之比）的值来衡量，此值越小说明系统的功率利用率越高，因此它表明了一个系统利用所发送信号功率的能力。例如，在二进制数字载波调制系统中，BPSK的功率利用率要高于BFSK和BASK。,频谱利用率定义为系统所传输的信息速率R与系统带宽W的比，即R/W（单位为bps/Hz），此值越高，说明系统的频谱利用率越大，因此它表明了一个系统在单位频带上传输信息的效率。例如，在相同带宽条件下，多进制调制要比二进制调制具有更高的频谱利用率。一个好的通信系统应该是具有高的功率利用率和频谱利用率。但是从下面的研究可以看到这两个指标往往是矛盾的。即高的功率利用率要导致低的频谱利用率，或者是相反。因此，在设计通信系统时要对两个指标进行权衡考虑。,根据编码定理，在限带高斯白噪声信道条件下，欲达到可靠的信息传输，必须使传输的信息速率R（比特/秒）不大于C。因此，有：而，因此得：或(8.3.22)由于 和 均不为负值，故在以 和 为坐标轴的第一象限，画出曲线，(8.3.23),如图8.3.4所示。该曲线将第一象限的区域划分成两部分，即可靠通信可能区域与可靠通信不可能区域。当 和 的关系处于可靠通信可能区域中时，总会找到一种编码和调制方式使得传输差错率任意小 图8.3.4 与 的关系,通常为了使系统效率达到最大，我们总希望 与 的关系尽量靠近曲线(8.3.23)。图中，可以看到，当 一定时，为达到可靠通信，不能超过曲线(8.3.23)所规定的值。同样，当 一定时，不会低于曲线(8.2.23)所规定Y的值。当系统的 和 的关系沿曲线(8.3.28)变化时，若 降低，则 也降低。反之，若 增大，则 也增大。因此，为达到可靠的通信，一个系统不可能同时是有最大的功率利用率和频谱利用率。这两个量必须满足不等式(8.3.27)，最好能满足(8.3.23)。,当 时，求不等式(8.3.23)右边的极限，这个极限值是 的最小值：(8.3.24)这就是加性高斯白噪声（AWGN）信道实现可靠通信的信噪比的下界，这个下界称作仙农限(Shannon limit)。这个界对应着系统的带宽是无限大。,例8.3.2 给定信噪比，信道带宽分别为100KHz和10KHz，问能否可靠地传输速率为1Mbps的数据？解 根据式(8.3.22)计算所需的最小值。当信道带宽为100KHz，有 通过适当的编码方式可实现无差错传输。当信道带宽为10KHz，有 此时，无论采用何种编码方式都不能实现可靠传输。,本节主要内容：1.有色高斯噪声信道容量 2.AWGN信道容量的进一步讨论,8.4 有色高斯噪声信道,8.4.1 有色高斯噪声信道容量,设有色高斯噪声信道输入为x(t)，频带范围为W，为功率谱，时间宽度为T，在频段W加性噪声的功率谱密度 不是常数。在频域将信道分割成宽度为 f=1/T的多个子信道，那么子信道的个数为N=2W/f=2TW（注意：此处考虑到正负频率）。这N个宽度为 f的频域不重叠的子信道的噪声可看成不相关的，因为噪声是高斯的，所以这些子信道是独立的，这就构成的一个并联信道。,由于 f很小，可以认为在此区间噪声的功率谱密度是常数，所以每个子信道可以看成频带宽度为 f的AWGN信道。有色高斯噪声信道的容量近似为这N个AWGN子信道容量的和，而每个信道i的输入功率为，噪声功为 每个子信道的容量为,(8.4.1),在T时间内，有色高斯噪声信道的容量为,(8.4.2),如果 f变小，那么容量值越精确。当 时，求和变成积分，(8.4.2)变成,(8.4.3),输入功率限制写为：,(8.4.4),这样，求有色高斯噪声信道的容量问题就是在(8.4.4)的约束条件下，求(8.4.3)的最大值问题。即求,(8.4.5),的极值，其中为拉格朗日乘子。对“求导”，并令其为0，得,(8.4.6),所以有,可看成等效的噪声功率谱密度，由于、均为非负，所以 的变化仍服从注水原理，如图8.4.1所示。当等效噪声谱密度小于B时，等于两者的差值，反之，因此，（8.4.6）式可写成：,(8.4.7),设 为满足 的频率范围，根据功率约束又有：,(8.4.8),可以总结成如下定理：定理8.4.1 一个传输函数为G(f)的有色加性高斯噪声信道，噪声功率谱密度为N(f)，信号平均功率限制为P，那么每单位时间的信道容量为,(8.4.9),其中，积分范围为，B由(8.4.8)式确定，信号的功率分配由(8.4.7)式确定。,因此我们可以得到结论：对于有色高斯噪声信道，达到容量时的输入信号功率分布应满足注水原理。对于等效噪声很大的频段不分配信号功率。当N(f),G(f),P为已知时，先由(8.4.8)确定B，然后再根据(8.4.7)确定输入信号的功率谱。利用(8.4.9)计算信道容量。不过当 为不规则的函数时，B的确定比较麻烦。,例8.4.1 给定如图8.4.1所示的有色高斯噪声信道，设，,信号功率约束为P，求信道容量。解 等效的噪声功率谱密度是偶函数，在区间是的单调增函数，设信号可用频率范围为(-W,W)，则有,(8.4.10),根据(8.4.9)，得,(8.4.11),通过运算，得,(8.4.12),所求容量,(8.4.13),给定 和，可通过数值计算可得到C与n的关系曲线。,8.4.2 AWGN信道容量的进一步讨论,有色高斯噪声信道容量把AWGN信道作为其特殊情况。通过分析，可以得到以下结论：（1）仙农公式中W为系统带宽，并不一定是（0，W）范围。对于AWGN信道，有|G(f)|2=1，N(f)=No/2；设频率范围从f1到f2，令W=f2-f1，则W为系统带宽，(8.4.8)式变为P=2(B-No/2)W，得B/（No/2）=1+P/（NoW），带入(8.4.9)，得C=Wlog1+P/（NoW），与(8.3.13)结果同。,（2）如果含多个不相邻噪声功率谱密度相同频段，仙农公式中W为各频段带宽的和。设各频段带宽分别为W1，Wk，其中噪声的功率谱密度都为No/2。令，(8.4.8)式变为 再由(8.4.9)，得到与(8.3.13)结果。,（3）如果含多个不相邻且噪声功率谱密度不同频段，达到容量时按注水原理分配总功率，容量为所有频段容量的和。设各频段带宽分别为W1，Wk，噪声的功率谱密度分别为N1，Nk，(8.4.8)式变为 其中，m是所有分配到功率的频段子集中频段序号，得(8.4.14)第m频段分配的功率为(8.4.15)如果上面不等式不满足，那么就将m频段从被分配的功率的集合中删去，并重新按(8.4.14)确定B。根据，(8.4.9)得信道容量为：(8.4.16),例8.4.2 一通信系统通过AWGN信道传送信息，噪声的双边功率谱密度为NO/2=0.510-8W/Hz,信号功率P限制为10W，系统使用两个频段B1和B2,其中B1范围为(0,3MHz),B2范围为(4MHz,6MHz)；(1)求系统的信道容量；（2）如果频段B1的双边功率谱密度不变，而B2的变为原来的50倍，求信道容量。解（1）设系统的信道容量为C1，W1=3MHz,W2=6-4=2MHz；W=3+2=5MHz bps,（2）设B1和B2分配功率分别为P1和P2，根据功率分配注水原理，有，得 所求信道容量为 Mbps,本节主要内容：,*8.5 数字调制系统的信道容量,本节研究重要的数字调制系统通过AWGN信道传输时的容量。我们知道，在AWGN信道下的容量由仙农公式给出。但要达到容量，信道的输入也必须是高斯过程，而对于数字调制系统，调制信息为离散集合而且概率分布已经确定，通常不具有高斯分布特性，因此达不到仙农公式给出的容量。所以数字调制系统的信道容量实际上是在输入平均功率约束下信道输入与输出之间的平均互信息。通过将数字调制系统的信道容量和仙农公式给出的容量进行比较，就可以评估数字调制系统的性能，提出系统设计时调制方式的选择方案以及改进措施等。,数字调制包括一维脉冲幅度调制（PAM）、二维调制包括相移键控（PSK）、正交幅度调制（QAM）和无载波相位幅度（CAP）调制等方式。在将波形信道转换成等价离散时间信道后，含有一个自由度的调制符号为一维调制，而含有两个自由度的调制符号为二维调制。当然还存在多维调制。这里我们主要研究二维数字载波调制系统的信道容量。,MPSK、QAM、CAP等类型的数字载波调制信号都是二维调制信号，其基带信号可用复平面上的点 表示，用复数 表示为，其中 分别为同相与正交支路的数字调制序列，每个调制符号有两个自由度。当调制符号取自大小为M的符号集时，即 取自集合，则称为M进制调制，其中每个符号可由 比特来表示。对于二维调制信号，如果选择无码间干扰的整形脉冲，基带传输信道可以作为等价的离散时间无记忆信道，所以调制系统的容量可以通过研究等价的基带系统的容量来实现。,基带调制信道是输入离散输出连续的信道，信道容量就是输入与输出之间的平均互信息。设第i个调制符号取自符号集，设加性高斯白噪声的功率谱密度，两个正交的噪声分量分别为，那么 为高斯分布，相互独立，且均值为0，方差均为。,设信道输出为y=u+jv，则有，可得信道转移概率为：,(8.5.1),计算信道容量Cb/2自由度为,设 等概率出现，并代入(8.5.1)的结果，得,进行变量代换，令，可得,二维数字调制信道容量：,(8.5.2),其中，*表示复共轭，积分限为，容量单位为比特（奈特）/2自由度。因为是二维调制，对照(8.3.15)式可知，(8.5.2)也可表示系统最大的频带利用率，单位也可写成bps/Hz。,设系统的带宽为W，无码间干扰时的最大符号速率，那么对于二维调制，有。设系统的信息传输速率为R，频带利用率，根据仙农容量公式和信道编码定理，理想的频带利用率 应满足。,对于M进制二维数字调制，根据信道编码定理，频带利用率应满足,(8.5.3),(8.5.4),(8.5.4)中的各个也与有关。因为对于二维调制，信号的平均能量与关系是,(8.5.5),而 又决定了 的值。所以(8.5.4)式的右边也与有关。下面说明，当 给定后，如何计算 因为信号的平均能量与星座点间的最小距离2d有关，对于不同的星座图，有不同的计算关系。所以信噪比SNR可由下式计算；,(8.5.6),因此当给定 时，通过计算(8.5.4)的等式，得到。这样可以得到 与 关系的曲线。,图8.5.1为某些二维调制星座图，（a）为QPSK调制，（b）为16QAM调制。下面以图8.5.1（b）中的16QAM为例，计算信道容量。图中，每象限中的4个信号的能量分别为 所以，对每个信号点都可计算出其实部与虚部，例如，同理可计算其它,由(8.5.3)所确定的信道容量界以及根据(8.5.4)所计算的PSK，QAM的最大频谱利用率（即每符号容量）与 的关系曲线示于图8.5.2。,根据图中的结果，我们有如下几点解释：（1）容量界确定了当给定时所需的最小的，其它曲线给 出了为实现所要求的 所应采用的调制方式。若要求 那么存在一种编码系统使得当 时，能够进行可靠通信；相反若，则无论采用什么编码系统，通信都不可靠。,（2）从曲线中还可看到，使用合适的编码系统与非编码系统相比的编码增益。例如，对于的QPSK相干检测系统，当 时，误比特率为，认为是可靠 通信。但在容量界曲线上 对应着。因此理想的编码与调制系统最大的编码增益为。（3）容量界给出对于固定的 能够进行可靠传输的最大频谱利用率。例如，如果给定，则存在一种编码系统使得可靠地工作在 的条件，反之，当 时，不存在 的可靠通信的系统。,（4）从曲线上还可看到，使用合适的编码系统与非编码系统的比较所能增加的最大频谱利用率。例如，当 时，从容量界曲线上可得到实现可靠通信所能达到的最大频谱利用率为，因此，在这种情况下的最大频谱利用率的增益为。,（5）将容量界与各种调制系统容量界结合可以帮助我们在给定指标下自由地选择调制系统。从曲线中可以看到，当信噪比低时，数字调制容量曲线与容量界很接近；当信噪比高时，高进制调制比低进制调制更接近容量界。所以，当信噪比低时，采用进制低的调制就能达到信道容量；而当信噪比高时，要采用高进制调制才能达到信道容量。,本章小结,1离散时间平稳无记忆信道容量 其中，为输入概率密度，为输入满足的约束。2加性噪声信道容3加性高斯噪声信道容量 4并联加性高斯噪声信道容量,各子信道输入能量按注水原理分配,5AWGN信道的容量 6有色高斯噪声信道容量7二维数字调制信道容量,