最小二乘法公式怎么算 快速上手
最小二乘法公式的核心答案是:在线性模型里,参数估计值通常写成 β^ = (X^T X)^(-1) X^T y;如果是一元线性模型,也可以写成 b = Σ(x_i - x̄)(y_i - ȳ) / Σ(x_i - x̄)^2,再求 a = ȳ - b x̄。这个公式的用法很直白:先把数据整理成自变量和因变量,再构造平方和目标,随后求导并整理成可解的方程,最后得到一条最贴合数据的拟合线。
一、公式速览
| 场景 | 常用公式 | 适用数据 |
|---|---|---|
| 一元线性模型 | b = Σ(x_i - x̄)(y_i - ȳ) / Σ(x_i - x̄)^2 | 一个自变量 x、一个因变量 y |
| 一元线性截距 | a = ȳ - b x̄ | 已求出斜率 b |
| 多元线性模型 | β^ = (X^T X)^(-1) X^T y | 多个自变量,一个因变量 |
| 目标函数 | S = Σ(y_i - y^_i)^2 | 用来衡量拟合线的贴合程度 |
二、一元线性计算步骤
- 准备数据
把样本整理成表格,常见字段包括:x、y、x̄、ȳ。
x̄ 表示 x 的平均值,ȳ 表示 y 的平均值。
- 计算平均数
先求所有 x 的平均值 x̄。
再求所有 y 的平均值 ȳ。
- 计算分子
分子是每个 x_i 与 x̄ 的差,乘以对应的 y_i 与 ȳ 的差,再把所有乘积相加:
Σ(x_i - x̄)(y_i - ȳ)
- 计算分母
分母是每个 x_i 与 x̄ 的差平方后求和:
Σ(x_i - x̄)^2
- 求斜率
用分子除以分母,得到 b。
- 求截距
用 a = ȳ - b x̄,得到截距 a。
- 写出拟合公式
一元线性拟合线一般写成:y^ = a + b x。
三、矩阵形式计算步骤
| 步骤 | 操作 | 说明 |
|---|---|---|
| 1 | 构造 X 矩阵 | 每一行是一个样本,每一列是一个自变量,可加入一列常数项 1 |
| 2 | 构造 y 向量 | 把所有因变量按顺序放成向量 |
| 3 | 计算 X^T | X 的转置矩阵 |
| 4 | 计算 X^T X | 先做转置再相乘 |
| 5 | 求逆矩阵 | 当矩阵满足求逆条件时,计算 (X^T X)^(-1) |
| 6 | 计算 X^T y | 转置矩阵与因变量向量相乘 |
| 7 | 得到 β^ | 使用公式 β^ = (X^T X)^(-1) X^T y |
| 8 | 写出模型 | 得到预测形式:y^ = X β^ |
四、符号表
| 符号 | 含义 |
|---|---|
| x_i | 第 i 个样本的自变量 |
| y_i | 第 i 个样本的因变量 |
| y^_i | 第 i 个样本的拟合值 |
| x̄ | 自变量的平均值 |
| ȳ | 因变量的平均值 |
| X | 自变量矩阵 |
| y | 因变量向量 |
| X^T | 矩阵 X 的转置 |
| (X^T X)^(-1) | 矩阵 X^T X 的逆矩阵 |
| β^ | 参数估计值 |
五、使用清单
- 一元模型:准备 x 列、y 列、平均值、分子、分母。
- 多元模型:准备 X 矩阵、y 向量、转置、乘法、求逆。
- 表格工具:适合处理小样本一元模型。
- 矩阵工具:适合处理多变量线性回归模型。
- 输出结果:截距、斜率、参数向量、拟合公式。
【常见问题】
问题1:最小二乘法公式怎么算需要先准备哪些数据?
回答1:最小二乘法公式怎么算前需要准备自变量 x、因变量 y 和样本编号。一元模型通常准备两列数据;多元模型准备 X 矩阵和 y 向量,再按矩阵步骤计算。
问题2:最小二乘法公式怎么算可以用表格工具完成吗?
回答2:最小二乘法公式怎么算可以用表格工具完成。一元模型可以通过求平均值、求分子、求分母、求斜率、求截距这几步完成;多元模型可以整理矩阵区域后使用矩阵函数求参数估计值。
问题3:最小二乘法公式怎么算得到的参数有什么用?
回答3:最小二乘法公式怎么算得到的参数可用于写出拟合线或拟合平面。把参数代入 y^ = a + b x 或 y^ = X β^,就可以计算每个样本的预测值,并观察拟合趋势。
免责声明:本文用于数学学习参考,实际计算以教材、软件说明和数据口径为准。
