math - 什么是SVD(奇异值分解)

Question

它实际上如何减少噪音..您能建议一些不错的教程吗？

Answer 1

SVD可以从平方矩阵的几何意义上理解为 vector 的变换。

考虑一个正方形n x n矩阵M乘以 vector v以产生输出 vector w:

w = M*v

奇异值分解M是三个矩阵 M=U*S*V的乘积，即 w=U*S*V*v。 U和V是正交矩阵。从几何变换的 Angular (通过乘以 vector 作用于 vector )，它们是旋转和反射的组合，不会改变它们乘以的 vector 的长度。 S是对角矩阵，代表沿n轴中的每个轴以不同的缩放因子(对角项)进行缩放或压缩。

因此，将 vector v与矩阵M左乘的效果是将v旋转/反射M的正交因子V，然后将结果缩放/压缩对角线因子S，然后旋转/反射结果的M正交因子U.

从数值的 Angular 来看，SVD是可取的一个原因是，与正交矩阵的乘法是可逆的 extremely stable运算(条件数为1)。 SVD捕获对角缩放矩阵S中的任何病态。