最小二乘法计算公式是
【最小二乘法计算公式是】最小二乘法是一种用于数据拟合的数学方法,广泛应用于回归分析中。它的核心思想是通过最小化误差平方和来寻找最佳拟合曲线或直线。该方法在统计学、工程学、经济学等多个领域都有广泛应用。
一、最小二乘法的基本原理
最小二乘法(Least Squares Method)的基本目标是找到一条曲线或直线,使得它与给定数据点之间的垂直距离的平方和最小。换句话说,就是让所有观测值与预测值之间的偏差尽可能小。
设我们有一组数据点 $(x_1, y_1), (x_2, y_2), \dots, (x_n, y_n)$,我们要找一个函数 $y = f(x)$ 来拟合这些点,使得残差平方和最小:
$$
S = \sum_{i=1}^{n} (y_i - f(x_i))^2
$$
最小化 $S$ 的过程即为最小二乘法的核心。
二、线性最小二乘法(一元线性回归)
当拟合函数为一次函数时,即:
$$
y = a x + b
$$
此时,我们需要求出系数 $a$ 和 $b$,使得残差平方和最小。
公式推导如下:
1. 残差平方和:
$$
S = \sum_{i=1}^{n} (y_i - a x_i - b)^2
$$
2. 对 $a$ 和 $b$ 求偏导并令其等于零,得到正规方程组:
$$
\begin{cases}
\sum_{i=1}^{n} (y_i - a x_i - b) x_i = 0 \\
\sum_{i=1}^{n} (y_i - a x_i - b) = 0
\end{cases}
$$
3. 解这个方程组可得:
$$
a = \frac{n \sum x_i y_i - \sum x_i \sum y_i}{n \sum x_i^2 - (\sum x_i)^2}
$$
$$
b = \frac{\sum y_i - a \sum x_i}{n}
$$
三、常用最小二乘法公式总结
| 类型 | 拟合模型 | 公式表达 | 参数求解 |
| 线性拟合 | $y = ax + b$ | $\min S = \sum (y_i - ax_i - b)^2$ | $a = \frac{n \sum x_i y_i - \sum x_i \sum y_i}{n \sum x_i^2 - (\sum x_i)^2}$ $b = \frac{\sum y_i - a \sum x_i}{n}$ |
| 多项式拟合 | $y = a_0 + a_1 x + \dots + a_n x^n$ | $\min S = \sum (y_i - \sum_{k=0}^{n} a_k x_i^k)^2$ | 构造正规方程组求解各系数 |
| 非线性拟合 | 如指数、对数等 | 根据模型形式进行线性化或数值迭代 | 通常需要数值方法(如牛顿-拉夫森法) |
四、应用示例
假设我们有以下数据点:
| x | y |
| 1 | 2 |
| 2 | 4 |
| 3 | 5 |
| 4 | 7 |
使用最小二乘法拟合直线:
- 计算各项总和:
- $\sum x = 1+2+3+4 = 10$
- $\sum y = 2+4+5+7 = 18$
- $\sum x_i y_i = 1×2 + 2×4 + 3×5 + 4×7 = 2+8+15+28 = 53$
- $\sum x_i^2 = 1^2 + 2^2 + 3^2 + 4^2 = 1+4+9+16 = 30$
- 代入公式计算:
$$
a = \frac{4×53 - 10×18}{4×30 - 10^2} = \frac{212 - 180}{120 - 100} = \frac{32}{20} = 1.6
$$
$$
b = \frac{18 - 1.6×10}{4} = \frac{18 - 16}{4} = 0.5
$$
所以拟合直线为:$y = 1.6x + 0.5$
五、总结
最小二乘法是一种简单而有效的数据拟合方法,尤其适用于线性关系的数据分析。通过最小化误差平方和,可以得到最接近实际数据的拟合曲线或直线。不同的拟合模型(如线性、多项式、非线性)对应不同的计算方式,但其核心思想是一致的。
通过合理选择模型和参数,最小二乘法可以帮助我们在复杂数据中提取有用的信息,是数据分析的重要工具之一。








最小二乘法计算公式是