内积

作者: Blessed佑佑 | 来源:发表于2019-11-10 20:03 被阅读0次

一、欧几里得空间

定义:设\boldsymbol{V}是实数域\mathbb{R}的线性空间,映射\tau: \boldsymbol{V}\times\boldsymbol{V}\rightarrow\mathbb{R}称为\boldsymbol{V}上的内积(Inner product),记作<\boldsymbol{v}_1,\boldsymbol{v}_2>,满足:

  • 对称性:<\boldsymbol{v}_1,\boldsymbol{v}_2>=<\boldsymbol{v}_2,\boldsymbol{v}_1>
  • 对第二个元素的线性性:<\boldsymbol{v}_1,\boldsymbol{v}_2k+\boldsymbol{v}_3l>=<\boldsymbol{v}_1,\boldsymbol{v}_2>k+<\boldsymbol{v_1,\boldsymbol{v}_3}>l
  • 正定性,非零向量\boldsymbol{v}跟自己的内积是大于0的,<\boldsymbol{v},\boldsymbol{v}>\ >\ 0

对于第二条性质的解释,内积本来是一个二元函数,当将第一个参数固定住,就变成了关于第二个参数的一元函数,此时这个函数是一个线性函数(映射),即<\boldsymbol{v}_1,\cdot>\rightarrow\mathbb{R}这个映射是线性的,线性组合的像等于像的线性组合。

\mathbb{R}上线性空间上定义了内积,就称为内积空间,若空间是有限维的,则称为欧几里得空间。

<\boldsymbol{0}, \boldsymbol{v}>=<\boldsymbol{v},\boldsymbol{0}>=<\boldsymbol{v},\boldsymbol{0+0}>=<\boldsymbol{v},\boldsymbol{0}>+<\boldsymbol{v},\boldsymbol{0}>\Rightarrow<\boldsymbol{0},\boldsymbol{v}>=0

\mathbb{R}^n上的标准内积

\mathbb{R}^n\times\mathbb{R}^n\rightarrow \mathbb{R}计算为:<\boldsymbol{x},\boldsymbol{y}>=\boldsymbol{x}^T\boldsymbol{y}=\sum_{k=1}^nx_iy_i证明这是不是内积,就挨个check一下那三条性质。

函数的内积

连续函数空间\boldsymbol{V}=\mathcal{C}([a,b],\mathbb{R}^n),设两个向量\boldsymbol{f}(t),\boldsymbol{g}(t),其中\boldsymbol{f}(t)=\left[ \begin{matrix} f_1(t)\\f_2(t)\\\vdots\\f_n(t) \end{matrix} \right], \boldsymbol{g}(t)=\left[ \begin{matrix} g_1(t)\\g_2(t)\\\vdots\\g_n(t) \end{matrix} \right],t\in[a,b]定义内积<\boldsymbol{f},\boldsymbol{g}>=\int_a^b\boldsymbol{f}^T\boldsymbol{g}\ dt=\int_a^b\sum_{k=1}^nf_i(t)g_i(t)dt

二、复内积和酉空间(Unitary Space,也称为辛空间)

定义:设\boldsymbol{V}\mathbb{C}上的线性空间,复内积:\boldsymbol{V}\times\boldsymbol{V}\rightarrow\mathbb{C}满足:

  • <\boldsymbol{v}_1,\boldsymbol{v}_2>=\overline{<\boldsymbol{v}_2,\boldsymbol{v}_1>}
  • 对第二个元素的线性性
  • 正定性:<\boldsymbol{v},\boldsymbol{v}>\in\mathbb{R}且大于0

有限维的复内积空间称为酉空间

对第一个元素是共轭线性的:<k\boldsymbol{v}_1+l\boldsymbol{v}_2,\boldsymbol{v}_3>=\overline{<\boldsymbol{v}_3,k\boldsymbol{v}_1+l\boldsymbol{v}_2>}=\overline{<\boldsymbol{v}_3,\boldsymbol{v}_1>k+<\boldsymbol{v}_3,\boldsymbol{v}_2>l}\\=\overline{<\boldsymbol{v}_3,\boldsymbol{v}_1>}\overline{k}+\overline{<\boldsymbol{v}_3,\boldsymbol{v}_2>}\overline{l}=\overline{k}<\boldsymbol{v}_1,\boldsymbol{v}_2>+\overline{l}<\boldsymbol{v}_2,\boldsymbol{v}_3>

标准酉空间\mathbb{C}^n

\mathbb{C}^n上定义复内积<\boldsymbol{v}_1,\boldsymbol{v}_2>=\overline{\boldsymbol{v}_1}^T\boldsymbol{v}_2=\sum_{k=1}^n\overline{x}_iy_i

线性组合的内积的矩阵表示:\left<\sum_{i=1}^s\boldsymbol{\alpha}_ik_i,\sum_{i=1}^t\boldsymbol{\beta}_il_i\right>=[\overline{k_1},\overline{k_2},\cdots,\overline{k_s}]\left[ \begin{matrix} <\boldsymbol{\alpha}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_1,\boldsymbol{\beta}_t>\\<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_2,\boldsymbol{\beta}_t>\\ \vdots &\vdots &\ddots &\vdots\\<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\alpha}_s,\boldsymbol{\beta}_t> \end{matrix} \right] \left[\begin{matrix} l_1\\l_2\\\vdots\\l_t \end{matrix} \right]=\sum_{i=1}^s\sum_{i=1}^t\overline{k_i}<\boldsymbol{\alpha}_i,\boldsymbol{\beta}_j>l_j

Gram矩阵

\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s是内积空间的一个向量组,则矩阵G(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s)=\left[ \begin{matrix} <\boldsymbol{\alpha}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_t>\\<\boldsymbol{\beta}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_t>\\ \vdots &\vdots &\ddots &\vdots\\<\boldsymbol{\beta}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_t> \end{matrix} \right]其中基向量组的Gram矩阵称为度量矩阵

性质:

  • Hermit性:\overline{\boldsymbol{G}}^T=\boldsymbol{G},证明简单,<\boldsymbol{\beta}_i,\boldsymbol{\beta}_j> = \overline{<\boldsymbol{\beta}_j,\boldsymbol{\beta}_i>}
  • 非负定性:\forall \boldsymbol{z}\in\mathbb{C}^s,有\overline{\boldsymbol{z}}^T\boldsymbol{G}\boldsymbol{z}\ge 0,证明:\left[\overline{z_1},\overline{z_2},\cdots,\overline{z_s}\right]\left[\begin{matrix} <\boldsymbol{\beta}_1,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_1,\boldsymbol{\beta}_s>\\<\boldsymbol{\beta}_2,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_2,\boldsymbol{\beta}_s>\\\vdots&\vdots\vdots&\ddots&\vdots\\<\boldsymbol{\beta}_s,\boldsymbol{\beta}_1>&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_2>&\cdots&<\boldsymbol{\beta}_s,\boldsymbol{\beta}_s > \end{matrix}\right]\left[\begin{matrix}z_1\\z_2\\\vdots\\z_s\end{matrix}\right] =\left< \sum_{k=1}^sz_k\boldsymbol{\beta}_k,\sum_{k=1}^sz_k\boldsymbol{\beta}_k \right>\ge 0
  • \boldsymbol{G}正定\Leftrightarrow 向量组\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s线性无关,证明:设\boldsymbol{z}\ne\boldsymbol{0},则\sum_{k=1}^sz_k\boldsymbol{\beta}_k\ne0,再根据上一条性质即可证明。
  • rank(\boldsymbol{G})=rank(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s)

\mathbb{C}^n上的Gram矩阵,有一个向量组\boldsymbol{B}_{n\times s}=[\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s],这里是具体的向量,不是抽象的,则\boldsymbol{G}(\boldsymbol{\beta}_1,\boldsymbol{\beta}_2,\cdots,\boldsymbol{\beta}_s) = \overline{\boldsymbol{B}}^T\boldsymbol{B },证明:(\overline{\boldsymbol{B}}^T\boldsymbol{B})_{ij}=\overline{\boldsymbol{\beta}_i}^T\boldsymbol{\beta}_j=<\boldsymbol{\beta}_i,\boldsymbol{\beta}_j>=\boldsymbol{G}_{ij}

f,g \in \boldsymbol{V} = \mathcal{C}([a,b],\mathbb{R}),其中<f,g>=\int_a^bf(t)g(t)dt,Gram矩阵\boldsymbol{G}(\boldsymbol{f}_1,\boldsymbol{f}_2,\cdots,\boldsymbol{f}_s)=\left[ \begin{matrix} \displaystyle\int_a^bf_1(t)f_1(t)dt & \displaystyle\int_a^bf_1(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_1(t)f_s(t)\\\displaystyle\int_a^bf_2(t)f_1(t)dt&\displaystyle\int_a^bf_2(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_2(t)f_s(t)dt\\\vdots&\vdots&\ddots&\vdots\\\displaystyle\int_a^bf_s(t)f_1(t)dt&\displaystyle\int_a^bf_s(t)f_2(t)dt&\cdots&\displaystyle\int_a^bf_s(t)f_s(t)dt \end{matrix} \right]

三、向量的长度和距离

定义:\left\| \boldsymbol{\alpha} \right\| = \sqrt[]{\left<\boldsymbol{\boldsymbol{\alpha},\boldsymbol{\alpha}}\right>}\\ d(\boldsymbol{\alpha},\boldsymbol{\beta})=\left\| \boldsymbol{\alpha}-\boldsymbol{\beta } \right\|

  • 正性:\left\| \boldsymbol{\alpha} \right\| \ge 0,iff \boldsymbol{\alpha}=\boldsymbol{0}时,\|\boldsymbol{\alpha}\|=0
  • 正齐性:\|k\boldsymbol{\alpha}\|=|k|\|\boldsymbol{\alpha}\|
  • 三角不等式:\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|\ge\|\boldsymbol{\alpha}\|+\|\boldsymbol{\beta}\|
  • Cauchy-Schwarz不等式:|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>|\le \|\boldsymbol{\alpha}\|\cdot\|\boldsymbol{\beta}\|
  • 平行四边形公式:\|\boldsymbol{\alpha}+\boldsymbol{\beta}\|^2+\|\boldsymbol{\alpha}-\boldsymbol{\beta}\|^2=2\left( \|\boldsymbol{\alpha}\|^2+\|\boldsymbol{\beta}\|^2 \right)

证明Cauchy-Schwarz不等式:\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>=|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>|e^{i\theta}两边乘以e^{i\theta}的倒数\left< \boldsymbol{\alpha},\boldsymbol{\beta} \right>e^{-i\theta}=|\left<\boldsymbol{\alpha},\boldsymbol{\beta }\right>|\\\Rightarrow\left<\boldsymbol{\alpha}e^{i\theta},\boldsymbol{\beta}\right>=|\left<\boldsymbol{\alpha},\boldsymbol{\beta }\right>|\in\mathbb{R}\boldsymbol{\alpha}e^{i\theta}=\boldsymbol{\alpha}',要证明\left<\boldsymbol{\alpha}',\boldsymbol{\beta}\right>\le\|\boldsymbol{\alpha}'\|\cdot\|\boldsymbol{\beta}\|,则左边=|\left<\boldsymbol{\alpha},\boldsymbol{\beta}\right>| \\右边=\|\boldsymbol{\alpha}e^{i\theta}\|\cdot\|\boldsymbol{\beta}\|=\|\boldsymbol{\alpha}\|\|\boldsymbol{\beta}\|等号成立的条件是\boldsymbol{\alpha}\boldsymbol{\beta}线性相关。

相关文章

  • 内积

    两个向量的函数,返回值是一个标量。 数学源于生活高于生活。建立了笛卡尔坐标系后,我们通过矢量定义内积,能够描述我们...

  • 内积

    一、欧几里得空间 定义:设是实数域的线性空间,映射称为上的内积(Inner product),记作,满足: 对称性...

  • 内积

    内积 笛卡尔坐标系 直角坐标系 数量积

  • 矩阵基础8-二次型

    一. 内积空间 1.1 向量内积 向量的乘积(这个有点物理的感觉): 向量内积: 例子: 内积的性质: 1.2 正...

  • 关于内积

    这是在看别人的稿子的过程中突然形成的一个想法。当然,和我在看的稿子半毛钱关系没有……另,我自己投出去的稿子最近也要...

  • 关于内积

    内积是如何定义的?不就是1)a.dot(b) = |a||b|cos(theta)总感觉这个定义从哪里来,到哪里去...

  • 2019-01-07支持向量机数学背景

    向量内积

  • DL01-4:感知器实现(向量版)

    1.使用numpy做内积运算2.使用向量或者矩阵内积实现感知器 一、向量与矩阵的内积计算 1、向量作为矩阵的注意点...

  • 核方法 Kernel method

    1.内积(点积) 内积,又叫做点积,数量积或标量积。假设存在两个向量和,内积的计算方法为: 2.核方法 [1][#...

  • 向内积累

    愈发意识到, 成长的任务 不是一味向外延展, 而是不断向内积累, 让自己的生命通过各种各样的内向建构, 变得丰富,...

网友评论

      本文标题:内积

      本文链接:https://www.haomeiwen.com/subject/icxnbctx.html