syntax.garden

22 内积与范数

22 内积与范数

内积与范数

这讲讲什么:给向量空间再加一层结构——内积。有了它,向量才有长度、有夹角、能谈垂直,也才证得出那条支配整个数学的不等式。
前置:02 讲的向量空间定义、06 讲的基与维数;13 讲开头给过的复数共轭与绝对值
一句话:范数不是公理,是内积的副产品;所有关于长度的定理,最后都归到 ⟨u,⋅⟩\langle u,\cdot\rangle 的线性上。


一、为什么需要它

前 21 讲我们手上只有两样东西:加法与标量乘法。由此长出线性组合、张成、线性无关、基、维数、线性映射、矩阵、特征值——整套理论只管结构,不管距离。

这带来一个具体的不便。取 R2\mathbb{R}^2 的两个向量

u=(1,0),v=(0,1)u=(1,0),\qquad v=(0,1)

它们线性无关,这一点我们早就会判断了。但它们「垂直」吗?「一样长」吗?「谁离原点更近」?在 02 讲的框架里,这三个问题根本没有意义——向量空间的定义里没有任何一样东西能提供比较的尺度。

你可能会说:长度不是现成的吗,∥x∥=x12+⋯+xn2\|x\|=\sqrt{x_1^2+\cdots+x_n^2}。对,但请注意两件事。

第一,这个公式对高维没有解释力。 它为什么长这样?为什么 R3\mathbb{R}^3 里是「平方和开根」,而不是 ∣x1∣+∣x2∣+∣x3∣|x_1|+|x_2|+|x_3|?如果换一组基,它还成立吗?光看公式答不出来。

第二,它不线性。 这才是真麻烦。∥λx∥=∣λ∣∥x∥\|\lambda x\|=|\lambda|\|x\| 只能算「齐次」,而

∥x+y∥≠∥x∥+∥y∥\|x+y\|\neq\|x\|+\|y\|

一般地不成立:取 x=(1,0)x=(1,0)、y=(0,1)y=(0,1),左边是 2\sqrt2,右边是 22。长度这个量天生不线性,可前 21 讲积累的全部工具——线性组合、基、矩阵、特征值——都是线性的。范数落在工具射程之外。

出路只有一条:别直接研究长度,先研究一个线性的对象,让长度从它派生出来。

那个对象就是点积。在 Rn\mathbb{R}^n 上

x⋅y=x1y1+⋯+xnynx\cdot y=x_1y_1+\cdots+x_ny_n

它对每个位置都线性:

(x+x′)⋅y=x⋅y+x′⋅y,(λx)⋅y=λ(x⋅y)(x+x')\cdot y=x\cdot y+x'\cdot y,\qquad (\lambda x)\cdot y=\lambda(x\cdot y)

而长度正藏在它里面:

∥x∥2=x⋅x\|x\|^2=x\cdot x

「平方」这一步,把非线性的问题拽回了线性世界。这一讲要做的,就是把点积从 Rn\mathbb{R}^n 的具体公式里抽出来,变成任何向量空间都能安装的一层结构——内积。

记住这个动机,后面能省很多力气

范数不好算,范数的平方好算;范数的平方是内积。
所以凡是遇到与长度有关的证明,第一反应应该是「两边平方,改写成内积」。

读完这一讲,你应该能回答:

  1. 内积的五条公理里,哪一条是为了让复空间也能用才变复杂的?
  2. Cauchy–Schwarz 不等式的等号条件为什么偏偏是「成比例」?
  3. ⟨u,v⟩=0\langle u,v\rangle=0 与 ∥u+v∥2=∥u∥2+∥v∥2\|u+v\|^2=\|u\|^2+\|v\|^2 真的无条件等价吗?

二、定义与最小例子

2.1 定义

设 VV 是数域 F\mathbb{F}(R\mathbb{R} 或 C\mathbb{C})上的向量空间。VV 上的内积是一个函数,把每个有序对 (u,v)(u,v) 对应到一个数 ⟨u,v⟩∈F\langle u,v\rangle\in\mathbb{F},并满足下面五条:

① 正性(positivity)

⟨v,v⟩≥0对所有 v∈V\langle v,v\rangle\ge 0\quad\text{对所有 }v\in V

② 定性(definiteness)

⟨v,v⟩=0  ⟺  v=0\langle v,v\rangle=0\iff v=0

③ 第一个位置上的可加性

⟨u+v,w⟩=⟨u,w⟩+⟨v,w⟩对所有 u,v,w∈V\langle u+v,w\rangle=\langle u,w\rangle+\langle v,w\rangle\quad\text{对所有 }u,v,w\in V

④ 第一个位置上的齐次性

⟨λu,v⟩=λ⟨u,v⟩对所有 λ∈F, u,v∈V\langle\lambda u,v\rangle=\lambda\langle u,v\rangle\quad\text{对所有 }\lambda\in\mathbb{F},\ u,v\in V

⑤ 共轭对称性

⟨u,v⟩=⟨v,u⟩‾对所有 u,v∈V\langle u,v\rangle=\overline{\langle v,u\rangle}\quad\text{对所有 }u,v\in V

装了内积的向量空间,称为内积空间。

2.2 逐条读一遍

①② 一起看:它们说的其实是同一件事的两半。① 说 ⟨v,v⟩\langle v,v\rangle 这个数落在非负实数里(注意:即使 F=C\mathbb{F}=\mathbb{C},内积也可能取复数值,但自己和自己的内积永远是实数);② 说它只有在 v=0v=0 时才取到 00。合起来就是「⟨v,v⟩\langle v,v\rangle 像长度的平方」——非负,且只有零向量长度为零。

为什么 ① 单独一条不够

只要求 ⟨v,v⟩≥0\langle v,v\rangle\ge0 而不要求 ②,会出现「非零但长度为零」的向量。
那样的量不能当长度用,因为「v≠0v\neq0 却 ∥v∥=0\|v\|=0」会让后面所有唯一性论证失效。
② 是把「平方」变成「长度」的那道闸门。

③④ 一起看:它们说的是「第一个位置是线性的」。注意是第一个,不是两个都线性——⑤ 会让第二个位置变成共轭线性,这一点第三节要单独算。

⑤:交换两个位置,结果取复共轭。若 F=R\mathbb{F}=\mathbb{R},每个实数都等于自己的共轭,所以 ⑤ 直接退化成对称性

⟨u,v⟩=⟨v,u⟩\langle u,v\rangle=\langle v,u\rangle

也就是说,实空间的内积是对称的双线性型;复空间的内积是「一个位置线性、另一个位置共轭线性」的半双线性型。第三条「真的等价吗」这个问题,答案的分水岭就在这里。

关于共轭放在哪一边

有的资料(尤其是物理文献)把共轭放在第一个位置,于是第一个位置共轭线性、第二个位置线性。
两种写法给出的长度 ⟨v,v⟩\sqrt{\langle v,v\rangle} 完全一样,差的只是把矩阵转置并共轭一下。
本文统一采用上面 ③④ 的约定:第一个位置线性。读别的书时先确认它的约定,再动笔。

2.3 最小例子:R2\mathbb{R}^2 上的欧几里得内积

⟨(x1,x2),(y1,y2)⟩=x1y1+x2y2\langle (x_1,x_2),(y_1,y_2)\rangle=x_1y_1+x_2y_2

手算一个:取 u=(1,2)u=(1,2)、v=(3,−1)v=(3,-1),则

⟨u,v⟩=1⋅3+2⋅(−1)=1\langle u,v\rangle=1\cdot3+2\cdot(-1)=1

而 ⟨v,u⟩=3⋅1+(−1)⋅2=1\langle v,u\rangle=3\cdot1+(-1)\cdot2=1,相等(实空间,符合 ⑤ 的退化形式)。

回看五条:① ⟨u,u⟩=x12+x22≥0\langle u,u\rangle=x_1^2+x_2^2\ge0 ✓;② 平方和为零当且仅当两个分量都为零 ✓;③④ 展开即得,是分配律 ✓;⑤ 乘法可交换 ✓。

2.4 更多例子:同一个空间可以装不同的内积

以下每个都是货真价实的内积,建议逐个验证「哪一条最容易漏」。

(a) Fn\mathbb{F}^n 上的欧几里得内积

⟨(w1,…,wn),(z1,…,zn)⟩=w1z1‾+⋯+wnzn‾\langle (w_1,\dots,w_n),(z_1,\dots,z_n)\rangle=w_1\overline{z_1}+\cdots+w_n\overline{z_n}

当 F=R\mathbb{F}=\mathbb{R} 时共轭无作用,就是普通的点积。当 F=C\mathbb{F}=\mathbb{C} 时,共轭必须有——否则 ⟨z,z⟩=∑zk2\langle z,z\rangle=\sum z_k^2 可能是复数,① 就无法成立。

(b) 加权内积:取定正数 c1,…,cnc_1,\dots,c_n,

⟨(w1,…,wn),(z1,…,zn)⟩=c1w1z1‾+⋯+cnwnzn‾\langle (w_1,\dots,w_n),(z_1,\dots,z_n)\rangle=c_1w_1\overline{z_1}+\cdots+c_nw_n\overline{z_n}

五条全部照抄 (a) 的验证,只在 ② 处多一句「ck>0c_k>0 所以 ck∣zk∣2c_k|z_k|^2 之和为零当且仅当每个 zk=0z_k=0」。这一个例子就说明:内积不是唯一的,Fn\mathbb{F}^n 上装了不同内积就是不同的内积空间。

(c) 连续函数空间上的积分内积:设 VV 是 [−1,1][-1,1] 上全体连续实值函数,

⟨f,g⟩=∫−11fg\langle f,g\rangle=\int_{-1}^{1}fg

③④ 是积分的线性,⑤ 是乘法可交换。真正要动脑的是 ②:若 ∫−11f2=0\int_{-1}^{1}f^2=0,能否推出 f≡0f\equiv0?

能,但要靠连续性。若某个 x0x_0 处 f(x0)≠0f(x_0)\neq0,则 f2f^2 在 x0x_0 的一个小邻域上有正下界,积分就严格大于零,矛盾。所以 ff 处处为零。

这一步最容易被跳过

「∫f2=0⇒f=0\int f^2=0\Rightarrow f=0」不是恒真的。若把 VV 换成「[−1,1][-1,1] 上全体黎曼可积函数」,
取 ff 只在一个点上等于 11、其余处处为零,则 ∫f2=0\int f^2=0 但 f≠0f\neq0,② 就失败了。
定性的成立依赖「连续」这个前提,不是积分的功劳。

(d) 多项式空间 P(R)\mathcal{P}(\mathbb{R}) 上的内积

⟨p,q⟩=p(0)q(0)+∫−11p′q′\langle p,q\rangle=p(0)q(0)+\int_{-1}^{1}p'q'

② 的验证:⟨p,p⟩=p(0)2+∫(p′)2=0\langle p,p\rangle=p(0)^2+\int (p')^2=0 意味着一项一项为零,故 p(0)=0p(0)=0 且 p′=0p'=0。p′p' 恒为零说明 pp 是常数,再由 p(0)=0p(0)=0 得 p≡0p\equiv0。✓

(e) 带权指数衰减的内积

⟨p,q⟩=∫0∞p(x)q(x)e−x dx\langle p,q\rangle=\int_0^{\infty}p(x)q(x)e^{-x}\,dx

② 的验证:被积函数非负,积分为零说明 p2e−xp^2e^{-x} 在 [0,∞)[0,\infty) 上处处为零(同样用连续性),而 e−x>0e^{-x}>0,故 p≡0p\equiv0。这里正性由「被积函数非负」直接给出,定性由「多项式若在一段区间上为零则恒为零」给出。

2.5 内积空间的定义与约定

带内积的向量空间叫内积空间。最重要的是 Fn\mathbb{F}^n 配欧几里得内积;以后说「Fn\mathbb{F}^n 是内积空间」,除非另行声明,指的都是这个内积。

这里有个轻微的术语滥用要点明:内积空间 = 向量空间 + 一个指定的内积。同一个向量空间换上另一个内积,就是另一个内积空间。说「VV 是内积空间」时,那个内积要么隐含、要么由上下文唯一确定。


三、几个必须自己算一遍的结论

3.1 展开公式:一切的起点

先算一个反复要用的式子。对任意 u,v∈Vu,v\in V,

∥u+v∥2=⟨u+v,u+v⟩=⟨u,u⟩+⟨u,v⟩+⟨v,u⟩+⟨v,v⟩=∥u∥2+2Re⁡⟨u,v⟩+∥v∥2\begin{aligned}\|u+v\|^2&=\langle u+v,u+v\rangle\\&=\langle u,u\rangle+\langle u,v\rangle+\langle v,u\rangle+\langle v,v\rangle\\&=\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2\end{aligned}

第一步用了 ③(第一个位置可加),第三步用了 ⑤ 把 ⟨v,u⟩\langle v,u\rangle 换成 ⟨u,v⟩‾\overline{\langle u,v\rangle},而一个复数加自己的共轭等于它的实部的两倍。

这个式子记下来,不要每次重推

它的信息量极大:两个向量相加之后长度会「多出来」多少,完全由 Re⁡⟨u,v⟩\operatorname{Re}\langle u,v\rangle 决定。
Re⁡⟨u,v⟩>0\operatorname{Re}\langle u,v\rangle>0 时变长,<0<0 时变短,=0=0 时恰好等于平方和。

3.2 第二个位置是共轭线性的

定义只要求第一个位置线性,第二个位置的行为要推出来。

可加性:

⟨u,v+w⟩=⟨v+w,u⟩‾=⟨v,u⟩+⟨w,u⟩‾=⟨v,u⟩‾+⟨w,u⟩‾=⟨u,v⟩+⟨u,w⟩\begin{aligned}\langle u,v+w\rangle&=\overline{\langle v+w,u\rangle}\\&=\overline{\langle v,u\rangle+\langle w,u\rangle}\\&=\overline{\langle v,u\rangle}+\overline{\langle w,u\rangle}\\&=\langle u,v\rangle+\langle u,w\rangle\end{aligned}

共轭齐次性:

⟨u,λv⟩=⟨λv,u⟩‾=λ⟨v,u⟩‾=λ‾ ⟨v,u⟩‾=λ‾⟨u,v⟩\begin{aligned}\langle u,\lambda v\rangle&=\overline{\langle\lambda v,u\rangle}\\&=\overline{\lambda\langle v,u\rangle}\\&=\overline{\lambda}\,\overline{\langle v,u\rangle}\\&=\overline{\lambda}\langle u,v\rangle\end{aligned}

注意那个横杠

第一个位置:⟨λu,v⟩=λ⟨u,v⟩\langle\lambda u,v\rangle=\lambda\langle u,v\rangle,横杠没有。
第二个位置:⟨u,λv⟩=λ‾⟨u,v⟩\langle u,\lambda v\rangle=\overline{\lambda}\langle u,v\rangle,横杠有。
实空间里两者一样,看不出区别;一到复空间,这一根横杠能让整道题翻车。第 3.6 节会看到它的后果。

顺带得到两条常用结论:对每个 vv,⟨0,v⟩=0\langle 0,v\rangle=0(因为 u↦⟨u,v⟩u\mapsto\langle u,v\rangle 是线性的,线性映射把 00 送到 00),以及 ⟨v,0⟩=⟨0,v⟩‾=0‾=0\langle v,0\rangle=\overline{\langle 0,v\rangle}=\overline 0=0。

3.3 正交分解(一个构造,后面全靠它)

问题:给定 u,vu,v,且 v≠0v\neq0,能不能把 uu 拆成「vv 的标量倍」加上「与 vv 正交的一块」?

试着拆:对任意标量 cc,恒有

u=cv+(u−cv)u=cv+(u-cv)

现在只需要选 cc,让第二块与 vv 正交:

0=⟨u−cv,v⟩=⟨u,v⟩−c⟨v,v⟩0=\langle u-cv,v\rangle=\langle u,v\rangle-c\langle v,v\rangle

(第二个等号用了第一个位置的线性和齐次性。)于是

c=⟨u,v⟩∥v∥2c=\frac{\langle u,v\rangle}{\|v\|^2}

分母 ∥v∥2≠0\|v\|^2\neq0 正是因为 v≠0v\neq0(由定性)。代回去:

u=⟨u,v⟩∥v∥2v+w,w=u−⟨u,v⟩∥v∥2v,⟨w,v⟩=0u=\frac{\langle u,v\rangle}{\|v\|^2}v+w,\qquad w=u-\frac{\langle u,v\rangle}{\|v\|^2}v,\qquad \langle w,v\rangle=0

这就是正交分解。cvcv 叫 uu 在 vv 方向上的投影,ww 叫残差。24 讲会用这个构造做最小化问题,23 讲会用它做 Gram–Schmidt,其源头都在这里。

记住 cc 长什么样

分子是内积 ⟨u,v⟩\langle u,v\rangle,分母是平方 ∥v∥2\|v\|^2。
常见的错是把分母写成 ∥v∥\|v\|,算出带量纲的怪东西。
检验办法:量纲(尺度)上看,cc 必须与 vv 无关地缩放——把 vv 换成 tvtv,cc 不该变。

3.4 Cauchy–Schwarz 不等式(完整证明)

定理:设 u,v∈Vu,v\in V,则

∣⟨u,v⟩∣≤∥u∥ ∥v∥|\langle u,v\rangle|\le\|u\|\,\|v\|

等号成立当且仅当 u,vu,v 成标量倍数关系。

证明

若 v=0v=0,左边 ∣⟨u,0⟩∣=0|\langle u,0\rangle|=0,右边 ∥u∥⋅0=0\|u\|\cdot0=0,两端相等,结论成立。以下设 v≠0v\neq0。

用 3.3 的正交分解

u=⟨u,v⟩∥v∥2v+w,⟨w,v⟩=0u=\frac{\langle u,v\rangle}{\|v\|^2}v+w,\qquad \langle w,v\rangle=0

先确认两块互相正交:

⟨⟨u,v⟩∥v∥2v, w⟩=⟨u,v⟩∥v∥2⟨v,w⟩=0\left\langle\frac{\langle u,v\rangle}{\|v\|^2}v,\ w\right\rangle=\frac{\langle u,v\rangle}{\|v\|^2}\langle v,w\rangle=0

(第一块是 ww 的标量倍,⟨v,w⟩=⟨w,v⟩‾=0‾=0\langle v,w\rangle=\overline{\langle w,v\rangle}=\overline 0=0。)

于是可以对这两块用毕达哥拉斯定理(它的证明见 3.6,且只用到展开公式,没有循环论证):

∥u∥2=∥⟨u,v⟩∥v∥2v∥2+∥w∥2=∣⟨u,v⟩∣2∥v∥4∥v∥2+∥w∥2=∣⟨u,v⟩∣2∥v∥2+∥w∥2≥∣⟨u,v⟩∣2∥v∥2(3.1)\begin{aligned}\|u\|^2&=\left\|\frac{\langle u,v\rangle}{\|v\|^2}v\right\|^2+\|w\|^2\\&=\frac{|\langle u,v\rangle|^2}{\|v\|^4}\|v\|^2+\|w\|^2\\&=\frac{|\langle u,v\rangle|^2}{\|v\|^2}+\|w\|^2\\&\ge\frac{|\langle u,v\rangle|^2}{\|v\|^2}\end{aligned}\tag{3.1}

两边乘 ∥v∥2>0\|v\|^2>0,得

∣⟨u,v⟩∣2≤∥u∥2∥v∥2|\langle u,v\rangle|^2\le\|u\|^2\|v\|^2

再开平方(两边都非负)即得

∣⟨u,v⟩∣≤∥u∥ ∥v∥|\langle u,v\rangle|\le\|u\|\,\|v\|

等号条件:由 (3.1),等号成立当且仅当 ∥w∥=0\|w\|=0,由定性当且仅当 w=0w=0,即

u=⟨u,v⟩∥v∥2vu=\frac{\langle u,v\rangle}{\|v\|^2}v

也就是 uu 是 vv 的标量倍。反过来,若 u=cvu=cv,直接计算:

∣⟨cv,v⟩∣=∣c∣ ∥v∥2,∥cv∥ ∥v∥=∣c∣ ∥v∥2|\langle cv,v\rangle|=|c|\,\|v\|^2,\qquad \|cv\|\,\|v\|=|c|\,\|v\|^2

两端相等。再补上 v=0v=0 的情形:此时 uu 是 vv 的标量倍、vv 也是 uu 的标量倍,两端仍相等。合起来就是「u,vu,v 成标量倍数关系」。■\blacksquare

证明的结构值得单独记

分解 → 勾股 → 扔掉非负项 → 开方。
这不是巧合:Cauchy–Schwarz 的几何内容就是「直角三角形的斜边不短于直角边」。
只要能正交分解,这个不等式几乎是被送出来的。反过来,凡是能用 C–S 的地方,都可以想象成一个投影在起作用。

两个具体形态:

(i) 对实数 x1,…,xn,y1,…,ynx_1,\dots,x_n,y_1,\dots,y_n,

(∑k=1nxkyk)2≤(∑k=1nxk2)(∑k=1nyk2)\left(\sum_{k=1}^{n}x_ky_k\right)^2\le\left(\sum_{k=1}^{n}x_k^2\right)\left(\sum_{k=1}^{n}y_k^2\right)

就是从 Rn\mathbb{R}^n 的欧几里得内积直接抄下来的。

(ii) 对 [−1,1][-1,1] 上的连续实值函数,

∣∫−11fg∣2≤(∫−11f2)(∫−11g2)\left|\int_{-1}^{1}fg\right|^2\le\left(\int_{-1}^{1}f^2\right)\left(\int_{-1}^{1}g^2\right)

就是从例 2.4 (c) 抄下来的。

同一个不等式,两副面孔。这正是「把点积抽象成内积」的回报:证一次,处处通用。

3.5 三角不等式

定理:设 u,v∈Vu,v\in V,则

∥u+v∥≤∥u∥+∥v∥\|u+v\|\le\|u\|+\|v\|

证明:由 3.1 的展开公式,

∥u+v∥2=∥u∥2+2Re⁡⟨u,v⟩+∥v∥2≤∥u∥2+2∣⟨u,v⟩∣+∥v∥2≤∥u∥2+2∥u∥ ∥v∥+∥v∥2=(∥u∥+∥v∥)2\begin{aligned}\|u+v\|^2&=\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2\\&\le\|u\|^2+2|\langle u,v\rangle|+\|v\|^2\\&\le\|u\|^2+2\|u\|\,\|v\|+\|v\|^2\\&=(\|u\|+\|v\|)^2\end{aligned}

第二行用了 Re⁡z≤∣z∣\operatorname{Re}z\le|z|,第三行用了 Cauchy–Schwarz。两边开平方即得。■\blacksquare

等号条件:要两处同时取等。第一处要求 Re⁡⟨u,v⟩=∣⟨u,v⟩∣\operatorname{Re}\langle u,v\rangle=|\langle u,v\rangle|,即 ⟨u,v⟩\langle u,v\rangle 是非负实数;第二处要求 C–S 取等,即 u,vu,v 成标量倍数关系。合起来:那个标量必须是非负实数。

所以等号条件不是「共线」就够

取 u=(1,0)u=(1,0)、v=(−1,0)v=(-1,0),共线,但 ∥u+v∥=0\|u+v\|=0,而 ∥u∥+∥v∥=2\|u\|+\|v\|=2,等号不成立。
必须「同方向」,不能「反方向」。这正是「非负实数倍」比「标量倍」严格的地方。

反向三角不等式(常用):由 u=(u−v)+vu=(u-v)+v 的三角不等式得 ∥u∥≤∥u−v∥+∥v∥\|u\|\le\|u-v\|+\|v\|,即 ∥u∥−∥v∥≤∥u−v∥\|u\|-\|v\|\le\|u-v\|;交换 u,vu,v 再取绝对值:

∣ ∥u∥−∥v∥ ∣≤∥u−v∥\big|\,\|u\|-\|v\|\,\big|\le\|u-v\|

它的意思是:两个向量的长度差,不会超过它们的距离。这也是「长度是连续函数」的定量版本。

3.6 毕达哥拉斯定理,以及它的逆命题

定理:若 ⟨u,v⟩=0\langle u,v\rangle=0,则

∥u+v∥2=∥u∥2+∥v∥2\|u+v\|^2=\|u\|^2+\|v\|^2

证明:由 3.1,∥u+v∥2=∥u∥2+2Re⁡⟨u,v⟩+∥v∥2\|u+v\|^2=\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2,而 ⟨u,v⟩=0\langle u,v\rangle=0 时 Re⁡⟨u,v⟩=0\operatorname{Re}\langle u,v\rangle=0。■\blacksquare

一行就完了。但逆命题要小心,它正是第三个问题的答案。

实空间的情形:若 F=R\mathbb{F}=\mathbb{R},Re⁡⟨u,v⟩\operatorname{Re}\langle u,v\rangle 就是 ⟨u,v⟩\langle u,v\rangle,于是

∥u+v∥2=∥u∥2+∥v∥2  ⟺  ⟨u,v⟩=0\|u+v\|^2=\|u\|^2+\|v\|^2\iff\langle u,v\rangle=0

无条件等价。这就是为什么「垂直   ⟺  \iff 勾股定理成立」在平面几何里天经地义。

复空间的情形:等价关系只到

∥u+v∥2=∥u∥2+∥v∥2  ⟺  Re⁡⟨u,v⟩=0\|u+v\|^2=\|u\|^2+\|v\|^2\iff\operatorname{Re}\langle u,v\rangle=0

为止。Re⁡⟨u,v⟩=0\operatorname{Re}\langle u,v\rangle=0 比 ⟨u,v⟩=0\langle u,v\rangle=0 弱。反例在 C2\mathbb{C}^2 里(用 2.4 (a) 的内积):取

u=(1,0),v=(i,0)u=(1,0),\qquad v=(i,0)

⟨u,v⟩=1⋅i‾+0⋅0‾=−i≠0\langle u,v\rangle=1\cdot\overline{i}+0\cdot\overline{0}=-i\neq0

但 Re⁡(−i)=0\operatorname{Re}(-i)=0,于是

∥u+v∥2=∥(1+i,0)∥2=∣1+i∣2=2=1+1=∥u∥2+∥v∥2\|u+v\|^2=\|(1+i,0)\|^2=|1+i|^2=2=1+1=\|u\|^2+\|v\|^2

勾股定理成立,两个向量却不正交。

这是本讲最容易踩的一个坑

「⟨u,v⟩=0  ⟺  ∥u+v∥2=∥u∥2+∥v∥2\langle u,v\rangle=0\iff\|u+v\|^2=\|u\|^2+\|v\|^2」只在实内积空间成立。
复空间里只有单向:正交 ⇒\Rightarrow 勾股;反向不成立。
记不住就记展开公式——它永远是对的,Re⁡\operatorname{Re} 也在那里摆着。

顺带:平行四边形等式。把 u+vu+v 与 u−vu-v 的平方同时展开相加,

∥u+v∥2+∥u−v∥2=(∥u∥2+2Re⁡⟨u,v⟩+∥v∥2)+(∥u∥2−2Re⁡⟨u,v⟩+∥v∥2)=2(∥u∥2+∥v∥2)\begin{aligned}\|u+v\|^2+\|u-v\|^2&=\big(\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2\big)\\&\quad+\big(\|u\|^2-2\operatorname{Re}\langle u,v\rangle+\|v\|^2\big)\\&=2\big(\|u\|^2+\|v\|^2\big)\end{aligned}

交叉项正好抵消。这条恒等式不含内积,只含范数,它刻画的正是「这个范数是不是从某个内积来的」——第六节会用到。


四、几何直观 / 记忆钩子

4.1 把内积看成「投影 × 长度」

在 R2\mathbb{R}^2 里,若 u,vu,v 都是单位向量、夹角为 θ\theta,则

⟨u,v⟩=cos⁡θ\langle u,v\rangle=\cos\theta

一般的 u,vu,v(非零)则有

⟨u,v⟩=∥u∥ ∥v∥cos⁡θ\langle u,v\rangle=\|u\|\,\|v\|\cos\theta

于是 Cauchy–Schwarz 变成了一个初等事实:余弦的绝对值不超过 11。

这个读法给出三条好用的直觉:

  • 内积的符号告诉你夹角是锐角还是钝角。⟨u,v⟩>0\langle u,v\rangle>0 锐角,<0<0 钝角,=0=0 直角。
  • 内积的大小(相对范数而言)告诉你「投影有多长」。固定 ∥u∥\|u\|,当 vv 方向不变、长度翻倍时,内积也翻倍——因为投影的「影子长度」乘上了 vv 的尺子。
  • ⟨u,v⟩=0\langle u,v\rangle=0 就是「影子长度为零」,即 uu 在 vv 上没有任何分量。

4.2 高维的角度是定义出来的,不是画出来的

R2\mathbb{R}^2、R3\mathbb{R}^3 可以画图。R100\mathbb{R}^{100} 不能。但非零向量 x,yx,y 的夹角照样可以定义:

θ=arccos⁡⟨x,y⟩∥x∥ ∥y∥\theta=\arccos\frac{\langle x,y\rangle}{\|x\|\,\|y\|}

这个定义有意义的唯一理由就是 Cauchy–Schwarz:它保证分数落在 [−1,1][-1,1] 里,arccos⁡\arccos 才有定义。

这是 C–S 最本质的用途

它不是一条「顺便证明的估计式」,而是夹角概念的许可证。
如果 C–S 不成立,arccos⁡\arccos 会收到 1.51.5 这种输入,整个高维几何就无从谈起。

4.3 两个记忆钩子

钩子一:「先平方」。

长度的一切麻烦都来自根号。遇到 ∥u+v∥\|u+v\|,立刻改写为 ∥u+v∥2\|u+v\|^2 并展开成内积。这一招能解决 90% 的范数题。

钩子二:「第一个位置直,第二个位置反」。

  • ⟨λu,v⟩=λ⟨u,v⟩\langle \lambda u,v\rangle=\lambda\langle u,v\rangle(直的,无横杠)
  • ⟨u,λv⟩=λ‾⟨u,v⟩\langle u,\lambda v\rangle=\overline{\lambda}\langle u,v\rangle(反的,有横杠)
  • 实空间里两者看不出差别,所以初学用 Rn\mathbb{R}^n 练手不会暴露问题,换到 C\mathbb{C} 才翻车。

钩子三(图像):把 uu 想成一支箭,vv 想成一束光的方向。uu 在这束光下的影子就是 ⟨u,v⟩∥v∥2v\dfrac{\langle u,v\rangle}{\|v\|^2}v,剩余部分 ww 与光线平行方向垂直。正交分解 = 把箭拆成「顺着光」和「背着光」两段。在草稿纸上画一个直角三角形:斜边是 uu,一条直角边是投影 ⟨u,v⟩∥v∥2v\dfrac{\langle u,v\rangle}{\|v\|^2}v,另一条是 ww。Cauchy–Schwarz 说的就是——斜边不会短于那条投影边。这张图你自己画一遍,比看任何插图都管用。


五、常见误区

误区 1:以为「⟨u,v⟩=0\langle u,v\rangle=0」和「∥u+v∥2=∥u∥2+∥v∥2\|u+v\|^2=\|u\|^2+\|v\|^2」无条件等价

只在实内积空间成立。复空间里后者的真实条件是 Re⁡⟨u,v⟩=0\operatorname{Re}\langle u,v\rangle=0,它比正交弱。
反例:C2\mathbb{C}^2 中 u=(1,0)u=(1,0)、v=(i,0)v=(i,0),⟨u,v⟩=−i≠0\langle u,v\rangle=-i\neq0,但 ∥u+v∥2=2=∥u∥2+∥v∥2\|u+v\|^2=2=\|u\|^2+\|v\|^2。
判断办法:不要凭几何直觉,回到展开公式,看那个 Re⁡\operatorname{Re} 还在不在。

误区 2:以为内积只有一种,就是「对应相乘再相加」

加权内积 c1w1z1‾+⋯+cnwnzn‾c_1w_1\overline{z_1}+\cdots+c_nw_n\overline{z_n}(ck>0c_k>0)、积分内积 ∫fg\int fg、p(0)q(0)+∫p′q′p(0)q(0)+\int p'q' 都是内积。
「内积」是一组公理,不是一个公式。R2\mathbb{R}^2 换了内积,垂直关系就变了:在欧几里得内积下 ⟨(1,1),(1,−1)⟩=1−1=0\langle(1,1),(1,-1)\rangle=1-1=0,两者正交;换成权重为 (2,3)(2,3) 的加权内积后,⟨(1,1),(1,−1)⟩=2⋅1⋅1+3⋅1⋅(−1)=−1≠0\langle(1,1),(1,-1)\rangle=2\cdot1\cdot1+3\cdot1\cdot(-1)=-1\neq0,同一对向量不再正交。
所以「两个向量垂不垂直」这句话,不指定内积就是没有意义的。

误区 3:以为任何「看起来像长度」的函数都是范数,或者任何范数都来自内积

范数本身是有公理的:正定(∥v∥=0  ⟺  v=0\|v\|=0\iff v=0)、齐次(∥λv∥=∣λ∣∥v∥\|\lambda v\|=|\lambda|\|v\|)、三角不等式。
但满足这三条的范数不一定来自内积。判据是平行四边形等式:来自内积的范数必满足它,反之亦然(这一方向的构造是第六节的内容)。
反例:R2\mathbb{R}^2 上的 ∥(x,y)∥∞=max⁡{∣x∣,∣y∣}\|(x,y)\|_\infty=\max\{|x|,|y|\}。取 u=(1,0)u=(1,0)、v=(0,1)v=(0,1):
∥u+v∥∞2+∥u−v∥∞2=1+1=2\|u+v\|_\infty^2+\|u-v\|_\infty^2=1+1=2,而 2(∥u∥∞2+∥v∥∞2)=2(1+1)=42(\|u\|_\infty^2+\|v\|_\infty^2)=2(1+1)=4。不等,所以它不来自任何内积。
同样地,∥(x,y)∥1=∣x∣+∣y∣\|(x,y)\|_1=|x|+|y| 也失败(算出来是 4+4=84+4=8 对 2⋅2=42\cdot2=4)。

误区 4:把 Cauchy–Schwarz 的等号条件写成「u,vu,v 共线」

共线不够,要看是不是同向。不过 C–S 的等号条件确实是「成标量倍数关系」(含任一为零的情形),换成三角不等式的等号条件才必须是「非负实数倍」。
别把两条不等式的等号条件混着记:

  • C–S:∥u∥\|u\|、∥v∥\|v\| 成比例即可,方向随便(因为左边有绝对值)。
  • 三角不等式:必须同向(左边没有绝对值,反向会让中间项变负)。
误区 5:验证内积时只查 ③④,漏掉 ②

初学者拿到一个候选公式,往往验证了双线性和对称性就宣布「是内积」。真正容易失败的是定性。
典型陷阱:在 [−1,1][-1,1] 上的「全体可积函数」上定义 ⟨f,g⟩=∫fg\langle f,g\rangle=\int fg——双线性、对称都对,但取「只在一点取值为 11、其余为零」的 ff,有 ⟨f,f⟩=0\langle f,f\rangle=0 而 f≠0f\neq0,② 失败。
口诀:双线性 + 对称是便宜的,定性是要付代价的(连续性、正权、ck>0c_k>0 都是代价)。


六、拓展(可跳过)

6.1 极化恒等式:从范数反推内积

范数是内积派生的。反过来,内积能不能由范数算出来?在实空间里可以:

⟨u,v⟩=∥u+v∥2−∥u−v∥24\langle u,v\rangle=\frac{\|u+v\|^2-\|u-v\|^2}{4}

把 3.1 的展开公式代进去,右边是 4⟨u,v⟩4\dfrac{4\langle u,v\rangle}{4},恰好还原。

这条式子有两层意思。第一,实内积空间里「内积」与「范数」是同一个信息的两种编码,谁都不能多给一点东西。第二,它给了范数一个可检验的指纹:如果某个范数来自内积,它必须满足平行四边形等式(3.6 已算),而平行四边形等式又足以造出内积——事实上可以证明:

一个范数来自某个内积,当且仅当它满足平行四边形等式。

这条结论的完整证明(用极化恒等式定义 ⟨⋅,⋅⟩\langle\cdot,\cdot\rangle,再逐条验证五条公理)超出本讲范围,但结论值得记住:平行四边形等式是「内积范数」的身份证。

6.2 一个漂亮的应用:正交   ⟺  \iff 范数对一切扰动都不减

证明下面的等价关系:

⟨u,v⟩=0  ⟺  对所有 a∈F, ∥u∥≤∥u+av∥\langle u,v\rangle=0\iff\text{对所有 }a\in\mathbb{F},\ \|u\|\le\|u+av\|

充分性:若 ⟨u,v⟩=0\langle u,v\rangle=0,则由勾股定理

∥u+av∥2=∥u∥2+∥av∥2≥∥u∥2\|u+av\|^2=\|u\|^2+\|av\|^2\ge\|u\|^2

必要性:设 ⟨u,v⟩≠0\langle u,v\rangle\neq0。用展开公式,

∥u+av∥2=∥u∥2+2Re⁡(a⟨u,v⟩)+∣a∣2∥v∥2\|u+av\|^2=\|u\|^2+2\operatorname{Re}\big(a\langle u,v\rangle\big)+|a|^2\|v\|^2

新添的两项里,第一项关于 aa 是一次的、第二项是二次的。只要 aa 足够小,一次项就压过二次项。具体地,取 a=−t ⟨u,v⟩‾a=-t\,\overline{\langle u,v\rangle}(t>0t>0 很小),则 Re⁡(a⟨u,v⟩)=−t∣⟨u,v⟩∣2\operatorname{Re}(a\langle u,v\rangle)=-t|\langle u,v\rangle|^2,于是

∥u+av∥2=∥u∥2−2t∣⟨u,v⟩∣2+t2∣⟨u,v⟩∣2∥v∥2<∥u∥2\|u+av\|^2=\|u\|^2-2t|\langle u,v\rangle|^2+t^2|\langle u,v\rangle|^2\|v\|^2<\|u\|^2

(当 0<t<2∥v∥20<t<\dfrac{2}{\|v\|^2} 时)矛盾。

这个等价关系的意义

它把「正交」翻译成了一个变分说法:uu 已经是 uu 在直线 {u+av}\{u+av\} 上的最短点。
24 讲讲最小化问题时,整个理论的出发点就是这个观察。

6.3 均值的平方不超过平方的均值

取 Rn\mathbb{R}^n 上两个特殊向量:x=(a1,…,an)x=(a_1,\dots,a_n) 与 y=(1,…,1)y=(1,\dots,1)。Cauchy–Schwarz 给出

(∑k=1nak)2≤(∑k=1nak2)⋅n\left(\sum_{k=1}^{n}a_k\right)^2\le\left(\sum_{k=1}^{n}a_k^2\right)\cdot n

两边除以 n2n^2:

(a1+⋯+ann)2≤a12+⋯+an2n\left(\frac{a_1+\cdots+a_n}{n}\right)^2\le\frac{a_1^2+\cdots+a_n^2}{n}

左边是「均值的平方」,右边是「平方的均值」。等号成立当且仅当 yy 是 xx 的倍数,即 a1=⋯=ana_1=\cdots=a_n。

一条统计里天天用的不等式,在 C–S 里只是一次代入。


七、自测(先做,再看答案)

1. 在 R2\mathbb{R}^2 上定义 ⟨(x1,x2),(y1,y2)⟩=2x1y1+3x2y2\langle (x_1,x_2),(y_1,y_2)\rangle=2x_1y_1+3x_2y_2。验证它是内积,并求 ∥(1,1)∥\|(1,1)\| 与 ⟨(1,1),(2,−1)⟩\langle(1,1),(2,-1)\rangle。

2. 在 [−1,1][-1,1] 上的连续实值函数空间中用 ⟨f,g⟩=∫−11fg\langle f,g\rangle=\int_{-1}^{1}fg。取 f(x)=1f(x)=1、g(x)=xg(x)=x。求 ∥f∥\|f\|、∥g∥\|g\|、⟨f,g⟩\langle f,g\rangle,它们正交吗?

3. 用 Cauchy–Schwarz 证明:对任意实数 a,ba,b,有 (a+b)2≤2(a2+b2)(a+b)^2\le2(a^2+b^2),并指出等号成立的条件。

4. 设 ∥u∥=3\|u\|=3、∥u+v∥=4\|u+v\|=4、∥u−v∥=6\|u-v\|=6,求 ∥v∥\|v\|。

5. 设 VV 是实内积空间。证明:⟨u,v⟩=0\langle u,v\rangle=0 当且仅当对所有 a∈Ra\in\mathbb{R} 都有 ∥u∥≤∥u+av∥\|u\|\le\|u+av\|。

答案(点开)

1. ① ⟨(x1,x2),(x1,x2)⟩=2x12+3x22≥0\langle(x_1,x_2),(x_1,x_2)\rangle=2x_1^2+3x_2^2\ge0 ✓;
② 上式为零当且仅当 x1=x2=0x_1=x_2=0(因系数 2,3>02,3>0)✓;
③④ 展开即得,两个分量各自线性 ✓;
⑤ 乘法可交换 ✓。所以是内积。
∥(1,1)∥=2⋅1+3⋅1=5\|(1,1)\|=\sqrt{2\cdot1+3\cdot1}=\sqrt5;
⟨(1,1),(2,−1)⟩=2⋅1⋅2+3⋅1⋅(−1)=4−3=1\langle(1,1),(2,-1)\rangle=2\cdot1\cdot2+3\cdot1\cdot(-1)=4-3=1。

2. ∥f∥2=∫−111 dx=2\|f\|^2=\int_{-1}^{1}1\,dx=2,故 ∥f∥=2\|f\|=\sqrt2。
∥g∥2=∫−11x2dx=[x33]−11=23\|g\|^2=\int_{-1}^{1}x^2dx=\left[\frac{x^3}{3}\right]_{-1}^{1}=\frac23,故 ∥g∥=23\|g\|=\sqrt{\frac23}。
⟨f,g⟩=∫−11x dx=0\langle f,g\rangle=\int_{-1}^{1}x\,dx=0。正交。
旁证:C–S 给出 0≤2⋅2/3=230\le\sqrt2\cdot\sqrt{2/3}=\frac{2}{\sqrt3},成立(且等号不成立,符合「不成比例」)。

3. 取 R2\mathbb{R}^2 上的欧几里得内积,令 x=(a,b)x=(a,b)、y=(1,1)y=(1,1)。C–S:
∣⟨x,y⟩∣2≤∥x∥2∥y∥2|\langle x,y\rangle|^2\le\|x\|^2\|y\|^2,即 (a+b)2≤(a2+b2)⋅2(a+b)^2\le(a^2+b^2)\cdot2。
等号成立当且仅当 (a,b)(a,b) 是 (1,1)(1,1) 的标量倍,即 a=ba=b。

4. 用平行四边形等式:

∥u+v∥2+∥u−v∥2=2(∥u∥2+∥v∥2)\|u+v\|^2+\|u-v\|^2=2(\|u\|^2+\|v\|^2)

代入 16+36=2(9+∥v∥2)16+36=2(9+\|v\|^2),得 52=18+2∥v∥252=18+2\|v\|^2,故 ∥v∥2=17\|v\|^2=17,∥v∥=17\|v\|=\sqrt{17}。
(注意:单靠 ∥u∥,∥u+v∥,∥u−v∥\|u\|,\|u+v\|,\|u-v\| 这三个数就能定出 ∥v∥\|v\|,这正是内积范数的特殊性——一般范数做不到。)

5. 充分性:若 ⟨u,v⟩=0\langle u,v\rangle=0,由勾股定理 ∥u+av∥2=∥u∥2+∥av∥2≥∥u∥2\|u+av\|^2=\|u\|^2+\|av\|^2\ge\|u\|^2。
必要性:设 ⟨u,v⟩≠0\langle u,v\rangle\neq0(此时必有 v≠0v\neq0)。对任意实数 aa,

∥u+av∥2=∥u∥2+2a⟨u,v⟩+a2∥v∥2\|u+av\|^2=\|u\|^2+2a\langle u,v\rangle+a^2\|v\|^2

取 a=−t⟨u,v⟩a=-t\langle u,v\rangle,其中 t>0t>0 且 t<2∥v∥2t<\dfrac{2}{\|v\|^2},则

∥u+av∥2=∥u∥2−2t⟨u,v⟩2+t2⟨u,v⟩2∥v∥2=∥u∥2−⟨u,v⟩2 t(2−t∥v∥2)<∥u∥2\|u+av\|^2=\|u\|^2-2t\langle u,v\rangle^2+t^2\langle u,v\rangle^2\|v\|^2=\|u\|^2-\langle u,v\rangle^2\,t\big(2-t\|v\|^2\big)<\|u\|^2

因为 ⟨u,v⟩2>0\langle u,v\rangle^2>0 且 t(2−t∥v∥2)>0t(2-t\|v\|^2)>0。这与「对所有 aa 都有 ∥u∥≤∥u+av∥\|u\|\le\|u+av\|」矛盾。
故必有 ⟨u,v⟩=0\langle u,v\rangle=0。


八、复习卡

项 内容
内积五条 正性 ⟨v,v⟩≥0\langle v,v\rangle\ge0;定性 ⟨v,v⟩=0  ⟺  v=0\langle v,v\rangle=0\iff v=0;第一位置可加;第一位置齐次;共轭对称 ⟨u,v⟩=⟨v,u⟩‾\langle u,v\rangle=\overline{\langle v,u\rangle}
内积空间 向量空间 + 一个指定的内积;换内积 = 换空间
范数 ∥v∥=⟨v,v⟩\|v\|=\sqrt{\langle v,v\rangle},是非负实数
范数两条 ∥v∥=0  ⟺  v=0\|v\|=0\iff v=0;∥λv∥=∣λ∣ ∥v∥\|\lambda v\|=|\lambda|\,\|v\|
展开公式 ∥u+v∥2=∥u∥2+2Re⁡⟨u,v⟩+∥v∥2\|u+v\|^2=\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2(一切的起点)
第二位置 可加但共轭齐次:⟨u,λv⟩=λ‾⟨u,v⟩\langle u,\lambda v\rangle=\overline{\lambda}\langle u,v\rangle
正交 ⟨u,v⟩=0\langle u,v\rangle=0;零向量与所有向量正交,且是唯一与自身正交的向量
正交分解 u=⟨u,v⟩∥v∥2v+wu=\dfrac{\langle u,v\rangle}{\|v\|^2}v+w,⟨w,v⟩=0\langle w,v\rangle=0(v≠0v\neq0)
Cauchy–Schwarz ∣⟨u,v⟩∣≤∥u∥ ∥v∥|\langle u,v\rangle|\le\|u\|\,\|v\|;等号   ⟺  \iff 成标量倍数关系
三角不等式 ∥u+v∥≤∥u∥+∥v∥\|u+v\|\le\|u\|+\|v\|;等号   ⟺  \iff 一方是另一方的非负实数倍
反向三角 ∣∥u∥−∥v∥∣≤∥u−v∥\big|\|u\|-\|v\|\big|\le\|u-v\|
勾股定理 ⟨u,v⟩=0⇒∥u+v∥2=∥u∥2+∥v∥2\langle u,v\rangle=0\Rightarrow\|u+v\|^2=\|u\|^2+\|v\|^2
勾股逆命题 仅实空间成立;复空间只到 Re⁡⟨u,v⟩=0\operatorname{Re}\langle u,v\rangle=0
平行四边形等式 ∥u+v∥2+∥u−v∥2=2(∥u∥2+∥v∥2)\|u+v\|^2+\|u-v\|^2=2(\|u\|^2+\|v\|^2);是「范数来自内积」的判据
典型反例 max⁡{∣x∣,∣y∣}\max\{|x|,|y|\} 与 ∥x∥+∣y∣\|x\|+|y| 不来自内积(违反平行四边形等式)
解题第一反应 遇长度先平方,改写为内积

九、出处与延伸(可选,不影响阅读)

  • 主线出处:本讲内容对应《线性代数应该这样学》(第 4 版,Sheldon Axler 著,吴俊达、何阳 译)第 6 章 6A 节「内积和范数」,PDF 第 165–177 页(印刷页码 152–164)。按编号回查:点积 6.1、内积 6.2、五个内积例子 6.3(a)–(e)、内积空间 6.4、记号 6.5、内积的基本性质 6.6、范数 6.7、范数例 6.8、范数的基本性质 6.9、正交 6.10、正交性与 00 6.11、毕达哥拉斯定理 6.12、一种正交分解 6.13、Cauchy–Schwarz 6.14、例 6.16、三角不等式 6.17、平行四边形等式 6.21。
  • 原文的证明顺序:先证正交分解 6.13,再用它 + 勾股 6.12 证 Cauchy–Schwarz 6.14,最后用 C–S 证三角不等式 6.17。本文的第三节完全照这个顺序,没有调换——因为这条链每往前一步都依赖前一步,换顺序就得另找证明。
  • 关于共轭放在哪一侧:第 4 版把齐次性放在第一个位置,因此 Cn\mathbb{C}^n 上的欧几里得内积写作 ∑wkzk‾\sum w_k\overline{z_k};不少物理文献把共轭放在第一个位置。两种约定给出的范数相同,但 ⟨u,λv⟩\langle u,\lambda v\rangle 到底是 λ⟨u,v⟩\lambda\langle u,v\rangle 还是 λ‾⟨u,v⟩\overline{\lambda}\langle u,v\rangle 会互换。照抄任何资料之前先确认它的约定。
  • 习题来源:本讲第六节 6.1 的极化恒等式、6.2 的正交等价条件,分别对应该节习题第 26、6 题;平行四边形等式作为「范数来自内积」的判据,对应该节习题第 28 题(其证明思路是先用极化恒等式造内积,再验证五条公理)。
  • 术语别名:内积 = 数量积 / 标量积(scalar product);范数 = 长度 / 模(norm,复数情形下叫 moduli 的模);共轭对称也叫 Hermite 对称;实空间里内积就是对称正定双线性型。
  • 延伸阅读:关于「角度在高维需由 Cauchy–Schwarz 授权」这一点,该节习题第 16 题直接作为论述题提出;关于 pp-范数只在 p=2p=2 时来自内积,见同节习题第 25 题。
  • 历史注记:Cauchy 于 1821 年给出离散形式的版本,Bunyakovsky 于 1859 年给出积分形式,Schwarz 数十年后独立发现并使之广为人知,不等式因三人得名。勾股定理在 R2\mathbb{R}^2 的特例,古巴比伦人早在三千五百多年前就已掌握,希腊人两千五百多年前重新发现并给出证明。
23 讲往哪走

有了内积,「正交」就成了一个可以批量制造的概念。23 讲会把一个基里的向量两两正交化,得到规范正交基;24 讲会在正交的基础上解决最小化问题——而它们的全部工具,就是本讲的正交分解 3.3 与 Cauchy–Schwarz 3.4。