在信息科学与技术的众多分支中，信息论与编码理论作为其核心内容之一，具有重要的理论价值和实际应用意义。为了帮助学生更好地掌握这门课程的核心知识点，本文整理了一套完整的“信息论与编码”期末考试题，涵盖基本概念、公式推导、典型例题及综合应用，适用于高校相关专业学生的复习与备考。
本套试题内容全面，结构合理，既注重基础知识的巩固，也强调实际问题的分析与解决能力。题目类型包括选择题、填空题、简答题、计算题和综合应用题，力求全面考察学生的理解能力和逻辑思维水平。
以下为部分精选题目示例：
一、选择题（每题2分，共10分）
1. 信息熵的单位通常为（ ）。
A. 比特
B. 焦耳
C. 安培
D. 米
2. 在香农第二定理中，信道容量的决定因素是（ ）。
A. 信源速率
B. 噪声功率
C. 信道带宽与信噪比
D. 编码方式
3. 下列哪种编码属于无损压缩编码？（ ）
A. JPEG
B. MP3
C. ZIP
D. MPEG
4. 若一个信源符号的出现概率为0.5，则该符号的信息量为（ ）。
A. 1 bit
B. 0.5 bit
C. 2 bit
D. 0 bit
5. 在线性分组码中，若码长为n，信息位为k，则校验位为（ ）。
A. n + k
B. n - k
C. k - n
D. n × k
二、填空题（每空2分，共10分）
1. 信息熵H(X)的取值范围是__________。
2. 香农第一定理指出，当信源熵小于信道容量时，可以实现__________传输。
3. 循环码是一种特殊的__________码，具有良好的代数结构。
4. 在二元对称信道中，输入符号为0的概率为p，则输出符号为1的概率为__________。
5. 卷积码的译码方法主要有__________和Viterbi算法。
三、简答题（每题5分，共20分）
1. 简述信息熵的基本定义及其物理意义。
2. 什么是香农极限？它在通信系统设计中有何指导意义？
3. 请说明前向纠错码与反馈重传机制的区别。
4. 简述汉明码的构造原理及其纠错能力。
四、计算题（每题10分，共30分）
1. 设某离散无记忆信源X有三个符号x₁、x₂、x₃，其概率分别为0.5、0.25、0.25。求该信源的熵H(X)。
2. 已知一个二元对称信道的转移概率矩阵为：
P(Y|X) = [ [0.9, 0.1], [0.1, 0.9] ]
若输入符号的概率分布为P(X) = [0.6, 0.4]，求互信息I(X;Y)。
3. 设有一个(7,4)汉明码，其生成多项式为g(x)=x³+x+1。若发送码字为1011001，接收端收到的码字为1011011，试判断是否发生错误，并指出错误位置。
五、综合应用题（共20分）
1. 设计一个简单的二元信道模型，假设信道输入为0或1，且信道存在一定的误码率。要求：
a. 绘制该信道的模型图；
b. 计算信道容量；
c. 选择一种合适的编码方式（如汉明码或卷积码），并说明其工作原理及优势。
结语
本套“信息论与编码”期末考试题旨在帮助学生系统复习课程重点，提升解题能力与工程实践意识。通过反复练习和深入思考，学生不仅能够掌握基本理论，还能在实际问题中灵活运用所学知识，为今后的学习和研究打下坚实基础。
建议考生在复习过程中结合教材、课堂笔记和历年真题进行系统训练，同时注意理解概念背后的数学原理与工程背景，以达到融会贯通的效果。
