向量|揭开矩阵分解的神秘面纱——特征分解，奇异值分解，伪逆矩阵( 四 )
文章图片
Σ有如下结构 。左上角部分是一个对角线矩阵，对角线元素中有奇异值（后面会详细介绍） 。Σ的其他元素都是零 。
文章图片
我们把奇异值按降序排列 。
文章图片
奇异值的数量与矩阵A的秩相同，也就是独立列向量的数量 。
那么，我们如何创建这样一个分解呢？
主要的想法是，我们做一个如下的方形矩阵 。
文章图片
或
文章图片
我们可以选择其中之一，但使用元素较少的那一个比较容易 。例如，如果矩阵A是100×10,000 。AA^T是100×100，而A^TA是10,000×10,000 。所以，我会选择AA^T 。
假设我们用AA^T对矩阵A进行奇异值分解 。
文章图片
其中：
文章图片
是一个对角线矩阵（m×m） 。这些值是AA^T的特征值，因为我们对AA^T进行了如下的特征分解 。
文章图片
矩阵U中的列向量是特征向量，因为：
文章图片
换句话说，如果我们能对AA^T进行特征分解，我们就能计算出U和对角线的σ，然后我们就能计算出V 。
我们可以考虑用A^TA进行同样的计算：
文章图片
其中
文章图片
是一个对角线矩阵（n×n） 。这些值是特征值，因为我们对A^TA进行了如下的特征分解：
文章图片
矩阵V中的列向量是特征向量，因为：
文章图片
换句话说，如果我们能对A^TA进行特征分解，我们就能计算出V和对角线的Σ，然后我们就能计算出U 。
因此，如果我们对AA^T或A^TA进行特征分解，我们就可以进行奇异值分解 。
同样，我们应该选择AA^T或A^TA中较小的一个 。
让我们用Numpy试试奇异值分解 。
推荐阅读
- 大学|211大学毕业就有高就业率？其中水分之大令人咋舌，揭开就业真相
- 民办学校|为什么说大一新生入学，揭开了太多家庭的无奈和自卑？
- 高校|985/211名校研究生，毕业到手“实际工资”有多少？为你揭开现实
- 考研|考上研究生的普通二本生，现如今怎么样了？过来人为你揭开谜底
- 中小学|网友无意找到初中时期“同学录”，一个秘密被揭开，早点发现好了
- 教师|校长与总务主任之间的秘密无人知晓，一次上门造访居然揭开了盖子
- 矩阵|一个老师的2021年终总结火了！太扎心了！
- 考研|2021年考研人数突破457万，揭开生存真相：比你优秀的人还在努力
- 全媒体|新京报全媒体矩阵 2021年成绩单来了
- 矩阵|新年至，老师吧送你100幅教育漫画！一起思考教育是什么？