每天五分钟机器学习:什么是基
作者头像
  • 程小姐
  • 2020-05-13 07:37:47 3

我们通常用这种方式来表示一个向量,例如(3,2)。这种表示方法的前提是我们默认使用(1,0)和(0,1)作为二维空间的一组基。只要以这两者为基,向量就可以这样表示。如图所示,该向量在x轴上的投影为3,在y轴上的投影为2,因此它可以表示为(3,2)。

总体来说,我们可以用以下格式表示向量:

其中x=3,y=2。因此,要准确描述一个向量,首先需要确定一组基,然后给出在这些基所在直线上的投影值。这是因为我们从小习惯使用这组默认的基。选择(1,0)和(0,1)作为基,是因为它们分别是x轴和y轴的单位向量,便于表示。

作为基,必须满足线性独立的条件。为了使基更实用,我们通常会让基互相垂直,这样的基更容易表示向量。因此,只要满足线性独立的条件,就可以将其作为基,例如(1,1)和(-1,1)也可以作为一组基,因为它们也满足线性独立的要求。

此外,我们还希望基的长度为1,因为此时可以通过点积来直接计算投影值,从而简化计算过程。要将基单位化,只需将其长度调整为1即可,例如(1,1)和(-1,1)可以单位化为:

这样,向量(3,2)在新基下的坐标就变成了与其点积的结果,即:

通过可视化可以看出:

蓝色部分代表新的基,红色部分则是在这个新基下的坐标。

降维的核心

要将一个5×3的矩阵(样本)降维至4×3的新样本,我们需要使用一个4×5的降维矩阵。通过矩阵乘法,我们可以实现这一转换:

(4×5)×(5×3)=(4×3)

这里的每一列代表一个样本,每一行代表一个基。换句话说,要将一个五维向量降至四维,我们需要找到一组四维的新基。核心问题仍然是坐标变换。关于新基的具体计算方法,可以参考这篇文章:每天五分钟机器学习:主成分分析算法PCA的核心——特征分解技术

    本文来源:图灵汇
责任编辑: : 程小姐
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
机器分钟每天学习什么
    下一篇