第1章绪论单元测试

1、单选题：
‎下列表述中，属于从随机不确定性的角度来定义信息的是 。‎
选项：
A: 信息是数据
B: 信息是集合之间的变异度
C: 信息是控制的指令
D: 信息是收信者事先不知道的报道
答案: 【 信息是收信者事先不知道的报道】

2、单选题：
‏ 是最高层次的信息。‏
选项：
A: 认识论
B: 本体论
C: 价值论
D: 唯物论
答案: 【 本体论】

3、单选题：
‌下列不属于狭义信息论的是                 。‌
选项：
A: 信息的测度
B: 信源编码
C: 信道容量
D: 噪声理论
答案: 【 噪声理论】

4、单选题：
‌下列不属于信息论的研究内容的是               。‍
选项：
A: 信息的产生
B: 信道传输能力
C: 信源、信道模型
D: 纠错编码
答案: 【 信息的产生】

5、单选题：
‏下列关于信息论发展历史描述不正确的是             。‌
选项：
A: 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。
B: 1952年，香农发展并证明了信道容量的迭代算法。
C: 哈特莱用消息的可能数目的对数来度量消息中所含有的信息量，为香农创立信息论提供了思路。
D: 1959年，香农首先提出了率失真函数和率失真信源编码定理，才发展成为信息率失真编码理论。
答案: 【 1952年，香农发展并证明了信道容量的迭代算法。】

6、单选题：
​下列属于通信工作者所关心的是 。‌
选项：
A: 语法信息
B: 语用信息
C: 语义信息
D: 文字描述
答案: 【 语法信息】

7、判断题：
‏信息传输系统模型表明，噪声仅仅来源于物理信道。‍
选项：
A: 正确
B: 错误
答案: 【 错误】

8、判断题：
‏本体论层次的信息表明，信息不依赖于人而存在。‍
选项：
A: 正确
B: 错误
答案: 【 正确】

9、判断题：
‏信道编码与译码是一对可逆变换。​
选项：
A: 正确
B: 错误
答案: 【 错误】

10、判断题：
‌1976年，论文“密码学的新方向”的发表，标志着保密通信理论研究的开始。‌
选项：
A: 正确
B: 错误
答案: 【 错误】

11、判断题：
​基因组序列信息的提取和分析是生物学的研究内容之一。‎
选项：
A: 正确
B: 错误
答案: 【 正确】

12、填空题：
‎香农的论文 的发表，标志着信息论的创立。‏
答案: 【 通信的数学理论】

13、填空题：
‍如果从随机不确定性的角度来定义信息，信息反应 的消除量。‍
答案: 【 不确定性】

14、填空题：
‌信源编码的结果是 冗余。​
答案: 【 减小】

15、填空题：
‌信道编码的手段是 冗余。‌
答案: 【 增加】

16、填空题：
‍经典信息论的创始人是 。‎
答案: 【 香农】

2.1-2.3随堂测试

1、单选题：
‍所谓波形信源（模拟信源），指的是（    ）。‍
选项：
A: 时间离散空间连续信源
B: 时间连续空间连续信源
C: 时间离散空间离散信源
D: 时间连续空间离散信源
答案: 【 时间连续空间连续信源】

2、单选题：
‍实际信源通常属于（   ）。‌
选项：
A: 无记忆信源
B: DMS
C: 有记忆信源
D: N阶平稳信源
答案: 【 有记忆信源】

3、单选题：
‍信源X的先验不确定性是关于（    ）的函数。​
选项：
A: 先验概率
B: 信源X的符号集合
C: 转移大概
D: 信息
答案: 【 先验概率】

4、单选题：
‏长度为N的DMS符号串的的不确定性为（   ）。​
选项：
A: N倍的单符号的不确定性。
B: 信源整体的不确定性。
C: 和符号串整体的概率空间相关，与单符号的不确定性没有关系。
D: 单符号不确定性之和。
答案: 【 单符号不确定性之和。】

5、多选题：
‌下列关于互信息量的描述，正确的是（   ）。‎
选项：
A: 互信息量具有互易性。
B: 互信息量具有非负性。
C: 互信息量的上界值为实在信息。
D: 若两个随机变量相互独立，则他们彼此间的互信息为1。
答案: 【 互信息量具有互易性。;
互信息量的上界值为实在信息。】

6、多选题：
‌下列关于信息的描述，正确的是（  ）。‏
选项：
A: 信息是不确定性的减少。
B: 自信息量可描述信息。
C: 信息=先验不确定性-后验不确定性。
D: 先验概率越小，信源的实在信息越小。
答案: 【 信息是不确定性的减少。;
信息=先验不确定性-后验不确定性。】

7、多选题：
‏关于自信息量的性质，正确的是（   ）。‎
选项：
A: 概率为0时，规定自信息量为0。
B: 自信息量具有非负性。
C: 自信息量具有可加性：
D: 自信息量的可加性可推广到N维空间。
答案: 【 自信息量具有非负性。;
自信息量具有可加性：;
自信息量的可加性可推广到N维空间。】

8、多选题：
‏关于非理想观察模型，下列描述正确的是（   ）。‎
选项：
A: 观察之前的不确定性为信源符号的先验不确定性。
B: 观察过程中的不确定性是由干扰引入的。
C: 后验不确定性一定小于先验不确定性。
D: 经过观察过程获得的信息为先验不确定性减去后验不确定性。
答案: 【 观察之前的不确定性为信源符号的先验不确定性。;
观察过程中的不确定性是由干扰引入的。;
经过观察过程获得的信息为先验不确定性减去后验不确定性。】

2.4-2.7随堂测试

1、单选题：
下列物理量，不满足非负性的是（）‎‌‎
选项：
A: H(X)
B:  I(X;Y)
C: I(x_k;y_j)
D: H（Y|X）
答案: 【  I(x_k;y_j)】

2、单选题：
‌下列表达式不正确的是（   ）‎
选项：
A:
B:
C:
D:
答案: 【 】

3、判断题：
‍无条件熵小于条件熵。‌
选项：
A: 正确
B: 错误
答案: 【 错误】

4、判断题：
​对于DMS，长度为3的符号串的平均不确定是单个符号平均不确定的3倍。‏
选项：
A: 正确
B: 错误
答案: 【 正确】

5、判断题：
‌信源内部的关联性，会提高熵值。‏
选项：
A: 正确
B: 错误
答案: 【 错误】

6、填空题：
‏在对信源进行观察之前，对认识主体来说，信源存在__________不确定性。‏
答案: 【 先验】

7、填空题：
‏在对信源进行观察之前，对认识主体来说，观察之后，信源还存在__________不确定性。‎
答案: 【 后验】

8、填空题：
‎256个亮度值构成的信源，其熵值最大为__________比特。‌
答案: 【 8】

2.8-2.11随堂测试

1、多选题：
‌信源满足下列（      ）条件时，为马尔可夫信源。‏
选项：
A: 某一时刻信源符号的输出只与当前的信源状态有关，而与以前的状态无关。
B: 某一时刻信源状态只与前一符号输出有关。
C: 信源当前符号输出只由当前输出符号和前一时刻状态确定。
D: 信源当前状态只由当前输出符号和前一时刻状态确定。
答案: 【 某一时刻信源符号的输出只与当前的信源状态有关，而与以前的状态无关。;
信源当前状态只由当前输出符号和前一时刻状态确定。】

2、多选题：
​下列关于微分熵的说法，正确的是（     ）。‌
选项：
A: 连续信源的熵均为无穷大。
B: 连续信源的离散熵和平均互信息不具有绝对意义，但是具有相对意义。
C: 微分熵满足非负性。
D: 连续信源的平均互信息满足非负性。
答案: 【 连续信源的熵均为无穷大。;
连续信源的平均互信息满足非负性。】

3、判断题：
‌DMS的单符号熵就等于该信源的极限熵。‎
选项：
A: 正确
B: 错误
答案: 【 正确】

4、判断题：
‏马尔可夫信源是一种记忆长度有限的有记忆信源。‏
选项：
A: 正确
B: 错误
答案: 【 正确】

5、判断题：
‍所有的马尔可夫链都满足C-K方程。‌
选项：
A: 正确
B: 错误
答案: 【 错误】

6、判断题：
‌为提升信息的传输效率，需要冗余度尽可能的大。‌
选项：
A: 正确
B: 错误
答案: 【 错误】

7、判断题：
‎连续信源的熵就是其微分熵，具有和离散熵相似的定义形式及性质。‏
选项：
A: 正确
B: 错误
答案: 【 错误】

8、填空题：
‍设X的取值受限于有限区间[a,b]，则X服 从                   时，其熵达到最大。‍
答案: 【 均匀分布】

9、填空题：

​设X的均值为 μ ，方差受限为，则X服从                  时，其熵达到最大。

‍答案: 【 高斯分布##%_YZPRLFH_%##正态分布】

10、填空题：

‏设连续随机变量X的概率密度函数为,其微分熵为                         。

​答案: 【 log(b-a)】

第2章信息的度量单元测试

1、单选题：
‏设Ｘ的取值受限于有限区间［a,b］，则X服从            时，其熵达到最大。‌
选项：
A: 均匀分布
B: 高斯分布
C: 正态分布
D: 泊松分布
E: 二项分布
答案: 【 均匀分布】

2、单选题：
‎设Ｘ的功率受限，则X服从            时，其熵达到最大。‌
选项：
A: 高斯分布
B: 正态分布
C: 均匀分布
D: 泊松分布
E: 二项分布
答案: 【 高斯分布;
正态分布】

3、单选题：
‌若自信息量的计算中以10为底，其单位为                       。‏
选项：
A: bit/符号
B: nat/符号
C: dit/符号
D: 8进制单位/符号
答案: 【 dit/符号】

4、单选题：

‍离散平稳无记忆信源X，H(X)=2bit/符号，则                       bit/符号 。

​选项：
A: 0
B: 1
C: 4
D: 8
答案: 【 8】

5、单选题：

‏当时，则                     。

‍选项：
A: 0
B: 1
C:
D: 不确定
答案: 【 0】

6、单选题：
‏非理想观察模型中，在对信源进行观察之前，对认识主体来说，信源存在                  。‍
选项：
A: 先验不确定性
B: 后验不确定性
C: 信息
D: 后验概率
答案: 【 先验不确定性】

7、单选题：
‏设Ｘ的取值受限于有限区间［a,b］，则X服从            时，其熵达到最大。‏
选项：
A: 均匀分布
B: 正态分布
C: 高斯分布
D: 指数分布
答案: 【 均匀分布】

8、单选题：
‍时间离散、幅值离散的信道称为                   信道。‎
选项：
A: 离散
B: 波形
C: 模拟
D: 连续
答案: 【 离散】

9、多选题：
​以下物理量具有非负性的是                    。‏
选项：
A: H(X)
B: H(XY)
C:
D:
E:
F: H(X|Y)
G:
答案: 【 H(X);
H(XY);
;
;
H(X|Y);
】

10、多选题：
‎对于N阶离散平稳信源X，可以用                     描述其不确定性。‍
选项：
A: 平均符号熵
B: 条件熵
C: 极限熵
D: 离散熵H(X)
答案: 【 平均符号熵;
条件熵;
极限熵】

11、多选题：
‏关于自信息量的性质，正确的是                。‌
选项：
A: 概率为0时，规定自信息量为1。
B: 自信息量不具有非负性。
C: 自信息量具有可加性：
D: 自信息量的可加性可推广到N维空间。
答案: 【 自信息量具有可加性：;
自信息量的可加性可推广到N维空间。】

12、多选题：
‎下列表达式正确的是             。‌
选项：
A:
B: