由n个实数组成的有序数组称为n维向量。向量的例子包括:
其中向量可分为行向量和列向量。a是一个n维行向量,其第i个分量记作ai(1≤i≤n)。β是一个n维列向量,其第i个分量记作bi(1≤i≤n)。
若需将行向量转换为列向量或将列向量转换为行向量,可以采用转置的方法。
两个n维向量只有在其每个对应的分量都相等时才被认为是相等的。例如,向量a=(a1,a2,...,an)和向量β=(b1,b2,...,bn)相等的条件是ai=bi(i=1,2,...,n)。
所有分量都为零的向量称为零向量,通常记作0=(0,0,...,0)。
对于一个n维向量a=(a1,a2,...,an),其各个分量的相反数组成的向量称为a的负向量,记作-a,即-a=(-a1,-a2,...,-an)。
向量之间的加法和减法是通过对应分量的加法和减法来实现的。
向量与实数的乘积则是向量的每个分量与该实数相乘的结果。
向量a与b的内积(也称作点积或数量积)可以通过以下公式计算:
其中|a|表示向量a的模,即向量的长度。
内积的性质包括:
向量的范数是指向量与某个实数之间的关系。向量的范数用符号||x||表示,需要满足以下条件才能称为向量x的范数:
常见的范数包括:
从图形可以看出,L1范数比L2范数更加稀疏。这是因为,在优化过程中,L1范数更容易使某些变量变为零,从而表现出稀疏性。