2020-新高考I卷-12 多-信息熵

本题导读

本题考查新定义函数理解。核心在于特殊值法、构造函数法的灵活运用。

📌【题干】

Question

（2020年新高考I卷）12. 信息熵是信息论中的一个重要概念。设随机变量 $X$ 所有可能的取值为 $\{1,2,\dots ,n\}$，且 $P(X=i)=p_i>0$ ($i=1,2,\dots ,n$), ${\sum }_{i=1}^n{p}_i=1$。定义 $X$ 的信息熵 $H(X)=-{\sum }_{i=1}^n{p}_i{\log }_2{p}_i$。（ ）

A. 若 $n=1$，则 $H(X)=0$

B. 若 $n=2$，则 $H(X)$ 随着 $p_1$ 的增大而增大

C. 若 $p_i=\frac{1}{n}$ ($i=1,2,\dots ,n$)，则 $H(X)$ 随着 $n$ 的增大而增大

D. 若 $n=2m$，随机变量 $Y$ 所有可能的取值为 $\{1,2,\dots ,m\}$，且 $P(Y=j)=p_j+p_{2m+1-j}$ ($j=1,2,\dots ,m$)，则 $H(X)\le H(Y)$

🔍【思路分析】

破题导航

1. 直观理解“信息熵”： 信息熵衡量的是系统的不确定性。

• 如果一个事件是确定的（$n=1$），信息熵应为 $0$。

• 系统越“混乱”（概率分布越均匀，样本越多），信息熵越大。

2. 逐项拆解：

• A 选项： 直接代入 $n=1,p_1=1$ 计算。
• B 选项： $n=2$ 时，系统不确定性在 $p_1=0.5$（最均匀）时最大，是一个先增后减的过程。
• C 选项： 等概率分布。计算出 $H(X)={\log }_{2}n$，由对数函数单调性判定。
• D 选项： 比较 $X$ 和 $Y$ 的不确定性。$Y$ 是将 $X$ 的两两状态合并，减少了状态数，不确定性理应变小。

✅【答案】

点击查看答案

AC

✍【详细解析】

Abstract

【答案】 AC

【解析过程】

• 验证 A： 当 $n=1$ 时，$p_1=1$。 $H(X)=-1\cdot {\log }_{2}1=-1\cdot 0=0$。A 正确。

• 验证 B： 当 $n=2$ 时，$p_2=1-p_1$。 $H(X)=-(p_1{\log }_2{p}_1+(1-p_1){\log }_2(1-p_1))$。 这是一个关于 $p_1$ 对称的函数（类似于开口向下的二次曲线形状）。 当 $p_1=0.5$ 时取得最大值。在 $p_1\in (0.5,1)$ 时，随着 $p_1$ 增大，$H(X)$ 反而减小。B 错误。

• 验证 C： 若 $p_i=\frac{1}{n}$，则： $H(X)=-{\sum }_{i=1}^n\frac{1}{n}{\log }_2\frac{1}{n}=-n\cdot (\frac{1}{n}{\log }_2\frac{1}{n})=-{\log }_2\frac{1}{n}={\log }_{2}n$。 因为 $y={\log }_{2}n$ 在 $(0,+\infty )$ 上单调递增，所以 $H(X)$ 随 $n$ 增大而增大。C 正确。

• 验证 D： 比较 $H(X)$ 与 $H(Y)$： $H(X)={\sum }_{j=1}^m(-p_j{\log }_2{p}_j-p_{2m+1-j}{\log }_2{p}_{2m+1-j})$ $H(Y)={\sum }_{j=1}^m-(p_j+p_{2m+1-j}){\log }_2(p_j+p_{2m+1-j})$ 由于 $p_j<p_j+p_{2m+1-j}$，且 $y={\log }_{2}x$ 递增， 则 ${\log }_2{p}_j<{\log }_2(p_j+p_{2m+1-j})$ $⟹-{\log }_2{p}_j>-{\log }_2(p_j+p_{2m+1-j})$ 同理对另一项也成立。累加得 $H(X)>H(Y)$。 直观理解： $X$ 的状态数比 $Y$ 多，且 $Y$ 是 $X$ 的粗粒化合并，合并后信息丢失，不确定性降低。D 错误。

故选：AC。

💡【考点归纳与避坑指南】

Danger

• 新定义的本质： $H(X)$ 实际上是 ${\log }_2(1/p_i)$ 的期望值。
• 最大熵原理： 当所有概率相等时，信息熵达到最大。这一结论可以帮助我们快速判断 B 和 C。
• 数学素养： 这种题目不要求你背公式，而是要求你在几分钟内读懂公式，并能用单调性工具去分析它。

📖【试题探源与推广】

Tip

在物理学中，熵代表混乱度。在通信中，熵代表平均每条消息所含的信息量。

• 结论： 均匀分布的系统所含信息量最大。如果一个人说话全是有规律的废话，他的“信息熵”就很低。

B 选项背后的数学本质是函数 $f(p)=-p\log p$ 的凹性。 如果未来遇到类似的定义题（如基尼系数、赫芬达尔指数），处理思路是一样的：

1. 带入边界值（如 $0$ 或 $1$）；
2. 带入均等值（如 $1/n$）；
3. 考察单调性。

解题逻辑：

• A：常识，确定事件无信息量。
• B：直觉，硬币两面概率 0.5 时最难猜，概率 0.9 时很好猜（不确定性变小），所以不单调。
• C：计算，$H={\log }_{2}n$，显然增。
• D：逻辑，状态合二为一，分类变少，混乱度降低。

🔗【关联脉络】

Multi column

知识锚点 (Nodes)

• 06.01 幂指对函数图象与性质
• 05.02 函数的四大性质

类题演练 (Links)

• 1997-全国卷理-13 单-奇偶函数与单调性的不等式
• 1979-全国卷理-06
• 1987-全国卷理-05 单-函数的单调性