algorithm - 4D空间中的最小二乘线拟合

Question

我有一组点，例如:

(x, y, z, t)

(1, 3, 6, 0.5)

(1.5, 4, 6.5, 1)

(3.5, 7, 8, 1.5)

(4, 7.25, 9, 2)

我正在寻找对这些点的最佳线性拟合，假设函数如下:f(t) = a * x +b * y +c * z

Answer 1

这是 Linear Regression问题。 “最适合”取决于您为变得更好而定义的指标。

一个简单的例子是 Least Squares Metric ，旨在最小化平方和:(f((x_i,y_i,z_i)) - w_i)^2 - 其中 w_i 是样本的测量值.

因此，在最小二乘法中，您试图最小化 SUM{(a*x_i+b*y_i+c*z^i - w_i)^2 |每一个我。此函数在以下位置有一个全局最小值:

(a,b,c) = (X^T * X)^-1 * X^T * w

Where:
X is a 3xm matrix (m is the number of samples you have)
X^T - is the transposed of this matrix
w - is the measured results: `(w_1,w_2,...,w_m)`
The * operator represents matrix multiplication 

还有更复杂的其他方法，使用其他距离度量，一个例子是著名的 SVR具有线性内核。