范数
范数(norm)是数学中的一种基本概念。在泛函分析中,它定义在赋范线性空间中,并满足一定的条件,即 ①非负性;②齐次性;③三角不等式。它常常被用来度量某个向量空间(或矩阵)中的每个向量的长度或大小。范数,是具有“长度”概念的函数。在线性代数、泛函分析及相关的数学领域,范数是一个函数,是矢量空间内的所有矢量赋予非零的正长度或大小。半范数可以为非零的矢量赋予零长度。
总的来说,范数的定义就是一种具有“长度”概念的函数
一、向量范数
总体公式
举例 先定义一个向量为: .
1.1 向量的1范数
即 p=1 也就是向量的各个元素的绝对值之和。
那么上述向量 .
1.2 向量的2范数
即 p=2 向量的每个元素的平方和再开平方根,也就是欧氏距离。
那么上述向量 .
1.3 向量的无穷范数
即 , 向量的所有元素的绝对值中最大的。
那么上述向量 .
二、矩阵范数
举例 矩阵
2.1 矩阵的L0范数
矩阵的L0范数即:矩阵的非0元素的个数,通常用它来表示稀疏,L0范数越小0元素越多,也就越稀疏,上述矩阵A最终结果就是4.
2.2 矩阵的L1范数
矩阵的L1范数即:矩阵中的每个元素绝对值之和,它是L0范数的最优凸近似,因此它也可以表示稀疏,上述矩阵A最终结果就是13.
2.3 矩阵的F范数
矩阵的F范数即:矩阵的各个元素平方之和再开平方根,它通常也叫做矩阵的L2范数,它的有点在它是一个凸函数,可以求导求解,易于计算,上述矩阵A最终结果就是:.
2.4 矩阵的1范数(列和范数)
矩阵的1范数(列和范数,列模)() ,即:矩阵的每一列上的元素绝对值先求和,再从中取个最大的,(列和最大),上述矩阵A的1范数先得到[5,8],再取最大的最终结果就是8.
2.5 矩阵的2范数(谱范数)
矩阵的2范数(谱范数,谱模), 即:矩阵的最大特征值开平方根,上述矩阵A的2范数得到的最终结果是:7.545179782593587.
2.6 矩阵的无穷范数(行和范数)
矩阵的1范数(行和范数,行模),即:矩阵的每一行上的元素绝对值先求和,再从中取个最大的,(行和最大),上述矩阵A的1范数先得到[3,10],再取最大的最终结果就是10.
2.7 矩阵的核范数
矩阵的核范数即:矩阵的奇异值(将矩阵svd分解)之和,这个范数可以用来低秩表示(因为最小化核范数,相当于最小化矩阵的秩——低秩),上述矩阵A最终结果就是:7.810249675906655.
2.8 矩阵的L21范数
矩阵的L21范数即:矩阵先以每一列为单位,求每一列的F范数(也可认为是向量的2范数),然后再将得到的结果求L1范数(也可认为是向量的1范数),很容易看出它是介于L1和L2之间的一种范数,上述矩阵A最终结果就是:10.4476609.
参考博客
https://blog.csdn.net/Michael__Corleone/article/details/75213123