24.01回归分析与线性拟合

🟦 回归分析与线性拟合

核心心法

“散点定趋势，系数定强弱，方程定预测”。回归分析的本质是寻找一条“最优”直线，使得所有样本点到该直线的距离平方和最小。通过相关系数 $r$ 判定线性相关的紧密程度，通过决定系数 $R^2$ 评估模型的拟合优度，而回归方程 $\hat{y}=bx+a$ 则是实现数据外推预测的数学载体。

---

一、 变量间的相关关系

1. 关系分类：
   • 函数关系：确定性的关系（如 $y=2x$）。
   • 相关关系：非确定性的关系（如身高与体重）。
2. 散点图与正负相关：
   • 正相关：点群从左下向右上延伸。
   • 负相关：点群从左上向右下延伸。

---

二、 相关系数 $r$ (Correlation Coefficient)

用于衡量两个变量 $x$ 与 $y$ 之间线性相关程度的量： $r=\frac{{\sum }_{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{{\sum }_{i=1}^n(x_i-\bar{x}{)}^2{\sum }_{i=1}^n(y_i-\bar{y}{)}^2}}$

1. $r$ 的性质

• 符号判定：$r>0$ 为正相关，$r<0$ 为负相关。
• 程度判定：$|r|$ 越接近 1，相关性越强；$|r|$ 越接近 0，相关性越弱。
• 强相关标准：通常 $|r|>0.75$ 即可认为具有很强的线性相关关系。

---

三、 线性回归方程 $\hat{y}=bx+a$

1. 最小二乘法系数公式

$\{\begin{array}{l}b=\frac{{\sum }_{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{{\sum }_{i=1}^n(x_i-\bar{x}{)}^2}=\frac{{\sum }_{i=1}^n{x}_i{y}_i-n\bar{x}\bar{y}}{{\sum }_{i=1}^n{x}_i^2-n{\bar{x}}^2}\\ a=\bar{y}-b\bar{x}\end{array}$

2. 核心性质

样本中心点

回归直线 $\hat{y}=bx+a$ 一定经过样本点的中心 $(\bar{x},\bar{y})$。这是求解截距 $a$ 的关键依据。

---

四、 拟合效果的评估：残差与决定系数 $R^2$

1. 残差 (Residual)：${\hat{e}}_i=y_i-{\hat{y}}_i$。实际观测值与模型估计值的偏差。
2. 残差平方和 $Q$：$\sum (y_i-{\hat{y}}_i{)}^2$。$Q$ 越小，拟合效果越好。
3. 决定系数 $R^2$ (Coefficient of Determination)： $R^2=1-\frac{{\sum }_{i=1}^n(y_i-{\hat{y}}_i{)}^2}{{\sum }_{i=1}^n(y_i-\bar{y}{)}^2}$
   • 物理意义：$x$ 对 $y$ 变化的贡献率。
   • 判定：$R^2$ 越接近 1，模型拟合效果越好。

---

五、 非线性回归的线性化转化

当散点图呈现曲线特征时，通过变量代换将其转化为线性回归：

原非线性方程	变量代换方法	转化后的线性形式
指数型 $y=c_1{e}^{c_{2}x}$	两边取对数，令 $z=\ln y$	$z=bx+a$ ($a=\ln c_1,b=c_2$)
幂函数型 $y=c_3{x}^2+c_4$	令 $t=x^2$	$y=c_{3}t+c_4$

---

⚠️ 考场避坑与做题技巧

公式选择的“偷懒”法则

• 如果题目给了一堆散点坐标，先算 $\bar{x},\bar{y}$，用第一组减法公式。
• 如果题目给出了 $\sum x_i{y}_i$ 这种整体和，直接套用第二组乘法公式。

相关性不代表因果性

统计学上的相关关系只能说明两个变量在数值上有同步趋势，并不代表 $x$ 是 $y$ 的原因。在描述结论时，要用“相关”而非“因为”。

$R^2$ 与 $r$ 的联系

在简单线性回归中，$R^2$ 实际上等于相关系数 $r$ 的平方。所以如果 $|r|$ 很大，$R^2$ 自然也会接近 1。