美文网首页散文简友广场想法
向量范数和矩阵范数

向量范数和矩阵范数

作者: Cache_wood | 来源:发表于2021-10-05 09:55 被阅读0次

线性代数中最有用的一些运算符是范数(norm)。非正式地说,一个向量的范数告诉我们一个向量有多大。 这里考虑的大小(size)概念不涉及维度,而是分量的大小。

在线性代数中,向量范数是将向量映射到标量的函数 f 。向量范数要满足一些属性。

给定任意向量 x ,第一个性质说,如果我们按常数因子 α 缩放向量的所有元素,其范数也会按相同常数因子的绝对值缩放:
f(\alpha x) = \alpha f(x)
第二个性质是我们熟悉的三角不等式:

f(x+y) \leq f(x) + f(y)

第三个性质简单地说范数必须是非负的:

f(x) \geq 0

最后一个性质要求范数最小为0,当且仅当向量全由0组成。
\forall x,[x]_i =0 \Leftrightarrow f(x) = 0

事实上,欧几里得距离是一个范数:具体而言,它是 L_2范数。假设 n 维向量 x 中的元素是 x_1,…,x_n ,其 L_2 范数是向量元素平方和的平方根:
||x||_2 = \sqrt{\sum_{i=1}^nx_i^2}

其中,在 L_2 范数中常常省略下标 2 ,也就是说, ||x||等同于 ∥x∥_2

在深度学习中,我们更经常地使用 L_2 范数的平方。你还会经常遇到 L_1 范数,它表示为向量元素的绝对值之和:
||x||_1 = \sum_{i=1}^n|x_i|

L_2范数相比, L_1范数受异常值的影响较小。为了计算 L_1 范数,我们将绝对值函数和按元素求和组合起来。

L_2 范数和 L_1 范数都是更一般的 L_p 范数的特例:
||x||_p = (\sum_{i=1}^n |x_i|^p)^{\frac{1}{p}}

类似于向量的 L_2 范数,矩阵 X∈R^{m×n} 的弗罗贝尼乌斯范数(Frobenius norm)是矩阵元素平方和的平方根:
||X||_F = \sqrt{\sum_{i=1}^{m}\sum_{j=1}^n}x_{ij}^2

弗罗贝尼乌斯范数满足向量范数的所有性质,它就像是矩阵形向量的 L_2 范数。

相关文章

  • 范数

    范数,是用来衡量向量,矩阵的大小的。 下面介绍一下常用的范数: 向量的范数 L1范数: 其实就是向量每一维数的绝对...

  • 范数与距离度量(python实现)

    范数 norm则表示范数,函数参数如下: ①x: 表示矩阵(也可以是一维) ②ord:范数类型 向量的范数: ​ ...

  • 向量范数和矩阵范数

    线性代数中最有用的一些运算符是范数(norm)。非正式地说,一个向量的范数告诉我们一个向量有多大。 这里考虑的大小...

  • 译 介绍机器学习中的向量范数

    译 介绍机器学习中的向量范数 原文地址 向量范数 向量和矩阵运算中常常依赖向量的大小和长度的计算。 向量的长度称为...

  • 范数

    向量的范数 向量的1-范数 向量元素绝对值之和。 向量的2-范数 Euclid范数(欧几里得范数,常用计算向量长度...

  • 常见向量范数和矩阵范数

    1、向量范数1-范数: ,Euclid范数(欧几里得范数,常用计算向量长度),即向量元素绝对值的平方和再开方,ma...

  • Frobenius norm(Frobenius 范数)

    Frobenius 范数,简称F-范数,是一种矩阵范数,记为||·||F。矩阵A的Frobenius范数定义为矩阵...

  • 算子范数为什么是矩阵范数

    矩阵范数要满足四条性质: (正定性), (齐次性) (三角不等式) (相容性) 矩阵的算子范数是根据某一个向量范数...

  • 常见向量范数和矩阵范数【转】

    转自jimye的CSDN博客:http://blog.csdn.net/left_la/article/detai...

  • 向量的范数

    向量的范数是一个标量范数为: 特别地: 0范数为向量中非零元素的个数 1范数为向量元素的绝对值相加 2范数为向量元...

网友评论

    本文标题:向量范数和矩阵范数

    本文链接:https://www.haomeiwen.com/subject/pevcnltx.html