信息论与编码期末考试测试

　 信息论与编码期末考试测试 选择题（10 分，每小题 2 分）

　1、设有一个离散无记忆信源 X，其符号数为 n,则有（ ）成立。

　A、 ; B、 ;

　C、 ; D、以上结论都不对。

　2、设有一个离散无记忆信道，其信道矩阵为 ，则信道容量是（ ）。

　; B、 ； C、 ； D、 。

　3、若一离散无记忆信源的符号熵为 ,对信源符号进行 m 元变长编码，一定存在一种无失真编码方法，其码字平均长度 满足（ ）。

　A、 ； B、 ； C、 ； D、 。

　4、设 X 是一个离散无记忆信源， 、 、 分别是其 2、3、4 次扩展信源。由变长无失真信源编码定理知，对上述 4 个信源进行二元香农变长编码，则对（ ）进行编码时，编码效率最高。

　A、 ； B、 ； C、 ； D、 。

　5、关于信息率失真函数 ，下列说法正确的是（ ）。

　A、 函数表示信源 X 和允许的失真度 D 给定的情况下，需要由信源传送给信宿的最小信息率； 2( ) log H X n 2( ) log H X n 2( ) 2log H X n 2 / 1 6 / 1 3 / 13 / 1 2 / 1 6 / 16 / 1 3 / 1 2 / 1P21 1 1log 3 ( , , )2 3 6H 21 1 1log 3 ( , , )3 6 2H 21 1 1log 5 ( , , )2 3 6H 21 1 1log 6 ( , , )3 6 2H ( ) H XK2 2( ) ( )1log logH X H XKm m  2 2( ) ( )1log logH X H XKm m  2( )1logH XKm 2( )logH XKm2X3X4XX2X3X4X( ) R D( ) R D

　 B、 函数表示信源和允许的失真度 D 给定的情况下，需要由信源传送给信宿的最大信息率； C、 函数的取值范围是（-∞，0）； D、以上说法都不对。

　填空题（20 分，每空 2 分）

　1、 线性循环码中，生成多项式 的最高项次数为____ ，校验多项式 的最高项次数为_____ ， 和 满足_________ 的关系，若其最小码距 ，则能检错的位数为 ，能纠错的位数为 。

　2、若有一离散无记忆平稳信道，其容量为 ，输入序列长度为 L ,只要待信息率 ，总可以找到一种编码，当 足够长时，译码差错概率 ， 为任意大于零的正数。反之，当 时，任何编码的 必大于零，且当 时， 。

　3、由数据处理定理，若随机变量 构成一个马尔可夫链，则下列平均互信息量满足

　。(填≤,=,或≥) 4、设一离散平稳无记忆信源的输出随机变量序列为 ,若该信源的信息率失真函数是 ,并选定有限失真函数。对于任意允许平均失真度 ,和任意小的 ，当信息率 ，只要信源序列长度 足够长，一定存在一种编码方式，使译码后的平均失真度

　。。

　三、（15 分）设信源 ，通过某信道，接受符号集为，信道转移矩阵（ ）为 ，求：

　（要求：计算结果保留三位小数，单位是：比特/符号。）试求：

　( ) R D( ) R D( , ) n k ( ) g x( ) h x ( ) g x ( ) h xdCR C LeP    R CePL   1eP , , X Y Z( ; ) I X Y ( ; ) I X Z1 2( )LX X X X ( ) R D0 D  0   R ( ) R DL DD  1 21 3( )4 4x xXP X          1 2Y y y  ( / )ij j ia p y x 1 00 1   

　 ；（4 分）

　求联合熵 、信道疑义度 和噪声熵 ；（4 分）

　接收到 后所获得的平均互信息量是多少；（2 分）

　若改变信源的概率分布，则收到 后能获得的最大信息量是多少，并且求出此时信源的概率分布。（5 分）

　 四、（13 分）二阶马尔可夫信源如图所示，信源符号集 。

　求（1）平稳后状态的概率分布 P ；（7 分）（2）信源熵 H ∞ 。（6 分）

　要求熵的单位取：比特/符号，并保留小数点后两位数字。

　( ), ( ) H X H Y( ) H XY ( / ) H X Y ( / ) H Y XYY{0,1} X 01 10

　11 00 0.75 0.5 0.25 0.75 0.5 0.5 0.5 0.25

　 五 、（ 10 分 ）

　设 有 一 个 离 散 无 记 忆 信 道 ， 其 信 道 矩 阵，求信道容量 C C 。

　（要求保留四位小数，单位取为：比特/符号）

　六、（10 分）在 RSA 公钥密码系统中，如果截取了发送给其他用户的8 / 1 8 / 1 2 / 1 4 / 18 / 1 8 / 1 4 / 1 2 / 1P

　 密文 ,如果此用户的公钥为 ，请解密出明文，写出具体过程。

　七、信源编码（12 分）

　有无记忆信源 和

　。

　对 编二进制最优哈夫曼码，计算平均码长和编码效率；（3 分）

　对 编最优二进制哈夫曼码的平均码长和编码效率；（6 分）

　比较（1）、（2）中平均码长和编码效率的变化，说明对扩展信源进行编码对平均码长和编码效率的影响。（3 分）

　10 C  7, 55 e n  1 23 1( )4 4x xXP X          2 1 1 1 2 2 1 2 229 3 3 1( )16 16 16 16x x x x x x x xXP X          1 2 3 49 3 3 116 16 16 16         X2X

　 信道编码（10 分）

　现有二元（7,4）线性循环码，生成多项式为

　1、写出相应的校验多项式 ；（2 分）

　2、求最小码字距离 、最大检错能力 和最大纠错能力 ；（3 分）

　3、现有消息序列为 及编码电路如下，试填写下列表格。（5 分）

　 时钟节拍 输入消息

　移位寄存器状态 输出码字

　说明 3 2( ) 1 g x x x   ( ) h xdmaxlmaxt3 2 1 0( ) (1001) m m m m m  ( ) m x ( ) c x

　 0 0 0 0 0 0 1~4 拍， 打向“1”输出信息元 1

　1

　 2

　0

　 3

　0

　 4

　1

　 5

　0 0

　 5~7 拍，打 向“2”输出校验元 6

　0 0

　 7

　0 0

　 t0 1 2D D D1 2, k k3m2m1m0m1 2, k k

推荐访问:信息论 期末考试 编码