21.3
一元线性回归
用最小二乘法建立线性回归模型并解释参数。
本文章目录
01 · 出发点
用一条直线概括成对数据的平均趋势
当散点图呈近似线性趋势时，可以用直线 ŷ=a+bx 描述 x 变化时 y 的平均变化。各观测点与直线的竖直差称为残差。
最小二乘法选择使残差平方和最小的直线。平方既避免正负残差抵消，也使较大的偏离受到更强惩罚。
02 · 概念
最小二乘回归直线
回归斜率 b 表示 x 每增加 1 个单位，预测的 y 平均改变 b 个单位；截距 a 是 x=0 时的模型预测，只有当 0 位于合理研究范围时才具有实际解释。
当 x 的离差平方和大于 0 时，最小二乘斜率 b 等于 x、y 离差乘积和除以 x 的离差平方和，再由 a=ȳ-bx̄ 求截距。回归直线因此通过样本中心 (x̄,ȳ)。
03 · 方法
建立并解释回归模型
- 01
先用散点图确认线性模型基本合理，并识别离群点。
- 02
计算斜率 b，再用 a=ȳ-bx̄ 求截距，写出带预测符号的方程。
- 03
结合变量单位解释斜率，检查残差和模型适用范围。
04 · 例题
把方法落到具体问题
某组数据的 x̄=4、ȳ=10，最小二乘斜率 b=1.5，求回归方程。
解
- 1
设回归方程为 ŷ=a+1.5x。
- 2
回归直线经过样本中心 (4,10)。
- 3
代入 10=a+1.5×4，得到 a=4。
05 · 辨析
容易忽略的条件与边界
回看
本节小结
- 最小二乘法通过最小化残差平方和确定回归直线。
- 斜率描述单位 x 变化对应的平均预测变化。
- 回归模型需要散点图、残差和适用范围共同支持。