2.2 知识点复习

2.2.1 大O和小o

重要概念回顾 以下设f:E→Rm,g:E→Rm,x∈E。

(1)

O:称f=O(g),若∃M>0,∃δ>0,使得∥x∥<δ⟹∥f(x)∥≤M∥g(x)∥。

(2)

同阶:称f与g同阶,若f=O(g)且g=O(f)。

(3)

o:称f=o(g),若∀ε>0,∃δ>0,使得∥x∥<δ⟹∥f(x)∥≤ε∥g(x)∥。

(4)

等价:称f∼g,若f=g+o(g)。

重要定理回顾 设f,g:E→Rm,则f=O(g)等价于fk=O(gk),(∀k),其中fk,gk是f,g的第k个分量。

应用 以下设x→0。

(1)

线性映射:Ax=O(x)。

(2)

二次型:⟨Ax,x⟩=O(∥x∥2)。

注 多元多项式的阶不能简单地认为是单项式的最高次幂,如xy=O(x2+y2),但反过来不成立。因此多元微积分中没有阶的概念,只有同阶,如x2+y2与2x2+3y2同阶。

阶的概念实际上是这么引入的:我们想研究一元函数f:R→R在一点x0附近的行为,可以用单项式(x−x0)n来近似,近似效果最好的单项式的次数n就是f的阶,如图2.2.1(a)所示。如果n为整数,这就是Taylor展开的主项次数。

但在多元微积分中,函数f:Rm→R在x0附近的行为无法完全用∥x−x0∥n来近似,如图2.2.1(b)所示。如果一定要用多项式来近似的话,可以用多元Taylor展开的思想,写成∑i!,i2,⋯,inai1,i2,⋯,in(x1−x01)i1(x2−x02)i2⋯(xn−x0n)in。

PIC
(a) f(x)=xsin⁡x在0附近的行为
PIC
(b) f(x,y)=xy在(0,0)附近的行为
图 2.2.1: 一元函数与多元函数的阶

2.2.2 可导与可微

重要概念回顾

(1)

可导(可微):称f:E→Rp在x0处可导(可微),若存在线性映射A:Rm→Rp使得f(x0+h)=f(x0)+Ah+o(h)。记A=:∂f(x0)。若p=1,则通常记为df(x0)。

(2)

沿向量的导数:f:E→Rp沿v的导数为∂f∂v(x0):=limt→0+f(x0+tv)−f(x0)t。若∥v∥=1,则称为方向导数。

重要定理回顾

(1)

如果f在x0处可微,则f在任意方向的方向导数都存在,且成立(1)∂f∂v(x0)=∂f(x0)(v)

(2)

链式法则:设F:E→Rp、G:Rp→Rq,F在x0处可微,G在y0=F(x0)处可微,则G∘F在x0处可微,且成立(2)∂(G∘F)(x0)=∂G(y0)∘∂F(x0)

(3)

Leibniz公式:(3)d(f(x)g(x))=f(x)dg(x)+g(x)df(x)d(f(x)⋅g(x))(v)=f(x)⋅∂g(x)(v)+g(x)⋅∂f(x)(v)

应用

(1)

常映射、线性映射均为可微函数。

(2)

内积:设f(x)=⟨Ax,x⟩,则∂f(x0)=x0T(A+AT)。

(3)

方阵:设f(A)=A−1,则∂f(A)(B)=−A−1BA−1。

(4)

复合内积:设F,G在x0处可微,则H(x):=⟨F(x),G(x)⟩在x0处可微,且(4)∂H(x0)(v)=⟨∂F(x0)(v),G(x0)⟩+⟨F(x0),∂G(x0)(v)⟩

(5)

行列式:∂det(A)(B)=tr(A∗TB)。

注

(1)

微分是线性映射,导数相当于线性映射的矩阵表示。

(2)

以上定义与一元微积分相容。f′(x0)相当于一个等比例函数(也是线性映射),∂f(x0)相当于一个矩阵。

(3)

设f:R→Rm表示m维空间中的位矢,则∂f(t)表示速度。

(4)

在方向导数的定义中一定要注意t→0+,t→0−表示的是相反方向的方向导数。

(5)

设v=∥v∥u,则∂∂v=∥v∥∂∂u。

(6)

如果f在任意方向的方向导数都存在,f甚至可以不连续,如f(x,y)=x2+y2arctan⁡yx(补充定义f(0,0)=0)。

(7)

导数和方向导数的几何意义如图2.2.2所示。

PIC
(a) 导数的几何意义
PIC
(b) 方向导数的几何意义
图 2.2.2: 导数和方向导数的几何意义

2.2.3 偏导数

重要概念回顾

(1)

偏导数:设f:E→Rp,{v1,⋯,vm}是Rm的一组基,对应的坐标向量为(x1,⋯,xm)T,则f在x0处的偏导数为(5)∂f∂xi(x0)=limt→0f(x0+tvi)−f(x0)t 通常选择标准正交基{e1,⋯,em}。

(2)

Jacobi矩阵:设f:E→Rp,则f在x0处的Jacobi矩阵为(6)∂f(x0)=(∂f1∂x1(x0)∂f1∂x2(x0)⋯∂f1∂xm(x0)∂f2∂x1(x0)∂f2∂x2(x0)⋯∂f2∂xm(x0)⋮⋮⋱⋮∂fp∂x1(x0)∂fp∂x2(x0)⋯∂fp∂xm(x0))=:Jf(x0)

重要定理回顾

(1)

全微分:设f:Rm→R,{v1,⋯,vm}是Rm的一组基,对应的坐标向量为(x1,⋯,xm)T,dxi:x↦xi是坐标映射函数,则f在x0处微分为(7)df(x0)=∑i=1m∂f∂xi(x0)dxi 此时的微分又称为全微分,此定理又称一阶微分的形式不变性。

(2)

链式法则:(8)∂(G∘F)(x0)=∂G(F(x0))∘∂F(x0) 等价于(9)J(G∘F)(x0)=JG(F(x0))⋅JF(x0) 设(10)(y1⋮yn)=F(x1,⋯,xm),(z1⋮zl)=G(y1,⋯,yn) 则(11)∂zi∂xj=∑k=1n∂zi∂yk∂yk∂xj,∀i,j

(3)

f可微⟹f连续,f可微⟹f的所有偏导数存在。

(4)

如果f的所有偏导数在U上都连续,则f在U上可微。条件可放宽为:至多有1个偏导数存在。

应用 正交坐标系(直角坐标系、极/柱坐标系、球坐标系)变换的Jacobi矩阵。

注

(1)

导数是函数本身的性质,不依赖于坐标系的选取。链式法则是复合函数导数的计算方法。

(2)

Jacobi矩阵(偏导数)是导数在特定坐标系下的矩阵表示,依赖于坐标系的选取。链式法则可以转换为Jacobi矩阵的乘法。

(3)

全微分是特定映射(即陪域为R,多元函数)的微分,描述了微分(线性函数)与坐标映射函数的关系。

(4)

容易证明:在Rm的任意基底下,Jacobi矩阵(全微分)的形式保持不变。

(5)

偏导数的符号常常让人困惑,例如:设f(x,y)=x+y,则∂f∂x(x,x)究竟是1还是2?我个人倾向于1,∂f∂x表示的是f对第一个变量求偏导后的函数,随后代入这个函数在(x,x)处的值。对于另一种答案,我会用∂∂xf(x,x),∂f(x,x)∂x来表示。有时候为了避免歧义,会使用∂1f来表示对第一个变量求偏导。

2.2.4 梯度

重要概念回顾 设f:E→R,则f在x0处的梯度为(12)∇f(x0)=(∂f∂x1(x0)⋮∂f∂xm(x0)),∇=(∂∂x1⋮∂∂xm)

重要定理回顾

(1)

Riesz表示定理:设E是有限维实内积空间,f:E→R连续线性泛函,则存在唯一的a∈E使得f(x)=⟨a,x⟩。

(2)

梯度与微分、方向导数的关系:(13)∂f∂v(x0)=df(x0)(v)=⟨∇f(x0),v⟩

(3)

∇(f∘G)(x)=(JG(x))T∇f(G(x))。

(4)

Leibniz公式:(14)∇(f(x)g(x))=f(x)∇g(x)+g(x)∇f(x)∇(f(x)⋅g(x))=(Jg(x))Tf(x)+(Jf(x))Tg(x)

应用

(1)

内积:设f(x)=⟨Ax,x⟩,则∇f(x0)=(A+AT)x0。

(2)

行列式:∇det(A)=A∗,矩阵内积的定义为⟨A,B⟩=tr(ATB)。

注

(1)

梯度是线性函数∂f(x0)在E=Rm中的内积表示。

(2)

梯度方向是函数的方向导数最大的方向,即函数值增长最快的方向;梯度的大小是函数最大的方向导数值。

例 2.2.1 证明梯度的Leibniz公式:(15)∇(f(x)g(x))=f(x)∇g(x)+g(x)∇f(x)∇(f(x)⋅g(x))=(Jg(x))Tf(x)+(Jf(x))Tg(x)

证明 首先证明乘积公式:(16)∂(fg)∂xi=∂f∂xig+f∂g∂xi⟹∇(fg)=f∇g+g∇f 再证明内积公式:(17)∂(f⋅g)∂xi=∂∂xi∑j=1mfjgj=∑j=1m(∂fj∂xigj+fj∂gj∂xi)=∑j=1m[(Jf)jigj+fj(Jg)ji]⟹∇(f⋅g)=(Jf)Tg+(Jg)Tf ◻

2.2.5 高阶偏导数

重要概念回顾 设{v1,⋯,vm}是Rm的一组基,对应的坐标向量为(x1,⋯,xm)T,函数f:Rm→R,则f在x0处的k阶偏导数为(18)∂kf∂xik∂xik−1⋯∂xi1=∂∂xik∂∂xik−1⋯∂f∂xi1(x0),i1,⋯,ik∈{1,⋯,m}

重要定理回顾

(1)

如果函数f的所有k阶偏导数都连续,记作f∈Ck,则f的k阶偏导数的值与求导顺序无关。

(2)

设函数f,g∈Ck、λ,μ∈R,则λf+μg,f⋅g∈Ck。

(3)

设函数f∈Ck、映射G∈Ck(意为G的每一个分量Gi∈Ck),则f∘G∈Ck。

应用

(1)

计算平面Laplace算子Δ=∂2∂x2+∂2∂y2在极坐标系下的表示。

(2)

证明:矩阵求逆算子f:A↦A−1在其定义域内是C∞的。

注

(1)

k阶偏导数共有mk个。

(2)

当k=2时,设m×m矩阵H满足Hij=∂2f∂xj∂xi,则H称为Hesse矩阵。

(3)

当高阶偏导数的值与求导顺序无关时,偏导数可简写为∂kf∂xmαm⋯∂x1α1,其中α1+⋯+αm=k。

2.2.6 *协变与逆变

设U={u1,⋯,um}、V={v1,⋯,vm}是Rm的两组基,从V到U的基变换矩阵B满足(19)ui=∑j=1mvjbji⟺(u1⋯um)=(v1⋯vm)B 易知B可逆。

现在我们考虑向量w在V,U这两组基上展开的坐标向量,分别记x=(x1,⋯,xm)T、y=(y1,⋯,ym)T。假设x,y之间存在变换(20)y=Ax⟺yi=∑j=1maijxj 注意到(21)w=∑i=1myiui=∑i=1m(∑j=1maijxj)(∑k=1mvkbki)=∑k=1m(∑j=1m∑i=1mbkiaijxj)vk=∑k=1m(∑j=1m(BA)kjxj)vk=∑k=1mxkvk 故有(22)∑j=1m(BA)kjxj=xk,∀k,∀x∈Rm⟹BA=I⟹A=B−1 由此证明了“若A存在,则A=B−1”,代入验证即可得到A的存在性。因此坐标向量的变换形式为(23)y=B−1x 它的变换矩阵是基变换矩阵的逆矩阵。我们把所有类似坐标向量变换方式的变换称为逆变。

现在我们考虑偏导数算子∂∂xi的变换,根据链式法则易得(24)∂∂yi=∑j=1m∂xj∂yi∂∂xj 由于x=By,故有(25)xj=∑i=1mbjiyi⟹∂xj∂yi=bji⟹∂∂yi=∑j=1m∂∂xjbji 因此偏导数算子的变换形式为(26)(∂∂y1⋯∂∂ym)=(∂∂x1⋯∂∂xm)B 它的变换矩阵和基变换矩阵相同。我们把所有类似基变换方式的变换称为协变。全微分算子d是协变算子。

逆变指标一般写在上标位置,协变指标一般写在下标位置,我们后面也将采用此记号。

2.2.7 *曲面坐标系(1)

在Rn中,利用我们熟悉的直角坐标系1(x,y,z)=:(x1,⋯,xn),可以定义曲面坐标系(x′1,⋯,x′n)为(27)x′i=x′i(x1,⋯,xn),i=1,⋯,n 上式就是直角坐标系到曲面坐标系的坐标变换。为保证x′1,⋯,x′n相互独立,应当要求Jacobi矩阵可逆,即(28)detJ=det∂(x′1,⋯,x′n)∂(x1,⋯,xn)≠0

例 2.2.2 柱坐标系(ρ,ϕ,z)、球坐标系(r,θ,ϕ)(如图2.2.3所示)与直角坐标系(x,y,z)的坐标变换为(29)(x,y,z)=(ρcos⁡ϕ,ρsin⁡ϕ,z)(x,y,z)=(rsin⁡θcos⁡ϕ,rsin⁡θsin⁡ϕ,rcos⁡θ)

PIC PIC

图 2.2.3: 柱坐标系与球坐标系

有了坐标系后,我们就可以定义坐标系的基向量:

定理 2.2.3 容易验证:⟨gi,gj⟩=δij。

定义空间的度规G为(30)gij=gji=⟨gi,gj⟩,G=(gij)n×n 与此同时,定义(31)gij=gji=⟨gi,gj⟩ 容易验证G−1=(gij)n×n。

对空间的任意一点,如果通过该点的三个坐标面总是互相垂直的,这个坐标系就称为正交曲面坐标系。坐标面垂直等价于其法向量gi相互垂直,亦即G−1为对角矩阵。因此

定理 2.2.4 如果度规G是对角矩阵,则此坐标系为正交曲面坐标系;此时正交归一基ei=gihi,其中hi=∥gi∥=gii;物理分量满足A^i=Aihi

度规与(微元)弧长也存在联系。计算可知2(32)ds2=∑i,jgijdxidxj=gijdxidxj 在我们熟悉的直角坐标系Rn中,有(33)ds2=dx12+⋯+dxn2

例 2.2.5 直角坐标系、柱坐标系、球坐标系均为正交曲面坐标系。请分别写出直角坐标系、柱坐标系、球坐标系下的弧长表达式。

解 计算可知(34)ds2=dx2+dy2+dz2ds2=dρ2+ρ2dϕ2+dz2ds2=dr2+r2dθ2+r2sin2⁡θdϕ2 在实际运用中,可不必计算、依赖朴素的物理直觉得到以上三式。 ◻

利用定义式计算度规较为麻烦,在实际运用中通常会借助坐标变换的Jacobi矩阵来计算度规。

定理 2.2.6 设从直角坐标系(x1,⋯,xn)变换到(x′1,⋯,x′n)的Jacobi矩阵为J,则度规与Jacobi矩阵的关系为(35)G=(JJT)−1

证明 已知Jacobi矩阵的定义为(36)Jij:=∂x′i∂xj 由于Jacobi矩阵可逆,因此(37)(J−1)ij=∂xi∂x′j⟹dxi=(J−1)ijdx′j 弧长的定义为(38)ds2=dxkdxk=(J−1)ki(J−1)kjdx′idx′j=[(J−1)TJ−1]ijdx′idx′j=(JJT)ij−1dx′jdx′j=gijdx′jdx′j 因此(39)gij=(JJT)ij−1 ◻

(未完待续)

2.2.8 *全微分与梯度

度规可以帮助我们得到正交曲面坐标系下的梯度算符。

定理 2.2.7 d是梯度算符的协变微分形式。在正交曲面坐标系中,设u为函数,则(40)du=∑i∂u∂xidxi⟺∇u=∑i∂u∂xieigii

证明 证明参考3。设r为正交曲面坐标系中的一点,定义xi方向的单位向量为ei,其满足(41)hi=‖∂r∂xi‖=gii,ei=1hi∂r∂xi 则dr的全微分可表示为(42)dr=∑i∂r∂xidxi=∑ihieidxi 故有(43)⟨ei,dr⟩=⟨hieidxi,ei⟩=hidxi 设u为函数,则du的全微分可表示为(44)du=∑i∂u∂xidxi=∑i1hi∂u∂xi⟨ei,dr⟩=⟨∑i1hi∂u∂xiei,dr⟩ 根据Riesz表示定理,存在唯一的∇u使得(45)du=⟨∇u,dr⟩ 因此(46)∇u=∑i1hi∂u∂xiei=∑i∂u∂xieigii ◻

在更一般的坐标系中,我们有下面的结论:

例 2.2.8 设{v1,⋯,vm}是Rm中的一组基,对应的坐标向量为(x1,⋯,xm)T,试用∂∂xi,(i=1,⋯,m)来表示梯度算子∇。

解 设v=ξ1v1+⋯+ξmvm,∇f(x0)=c1v1+⋯+cmvm,则(47)df(x0)(v)=⟨∇f(x0),v⟩=⟨∑i=1mcivi,∑j=1mξjvj⟩=∑i=1m∑j=1mci⟨vi,vj⟩ξj=(c1⋯cm)(⟨v1,v1⟩⋯⟨v1,vm⟩⋮⋱⋮⟨vm,v1⟩⋯⟨vm,vm⟩)(ξ1⋮ξm) 记度规G:=(⟨vi,vj⟩)m×m,由(全)微分的定义可知(48)df(x0)(v)=∑i=1m∂f∂xi(x0)ξi=(∂f∂x1(x0)⋯∂f∂xm(x0))(ξ1⋮ξm) 因此(49)∇f(x0)=G−1(∂f∂x1(x0)⋮∂f∂xm(x0))⟹∇=G−1(∂∂x1⋮∂∂xm) 当{v1,⋯,vm}是标准正交基时,G=I。 ◻

由此我们发现∇=G−1dT,此即梯度在协变基向量下的坐标向量表示。在此基础上,我们可以进一步证明:

定理 2.2.9 设V,U是Rm的两组基,对应的坐标向量分别为x,y,两者之间的坐标变换满足(50)U=VB⟺y=B−1x 则有(51)dy=dxB,∇y=B−1∇x 亦即在协变基向量的坐标表示下,全微分算子d是协变的,梯度算子∇是逆变的。

证明 由链式法则可得(52)dy=dx∂x∂y=dxB 设z为直角坐标系,令JV=∂x∂z、JU=∂y∂z,则有B=∂x∂y=∂x∂z∂z∂y=JVJU−1,且(53)∇x=JVJVTdxT,∇y=JUJUTdyT,dy=dxB⟹dyT=JU−TJVTdx 计算可得(54)∇y=JUJUTJU−TJVT(JVJVT)−1∇x=JUJV−1=B−1∇x ◻

在正交曲面坐标系中,正交归一基更为常用,此时梯度的物理分量表示为(55)∇u=G−1∑i=1m∂u∂xihiei=∑i=1m∂u∂xieigii

2.2.9 *线性映射的伴随

设A:Rn→Rm为m×n矩阵,A的转置矩阵AT:Rm→Rn的定义为(AT)ij=Aji。然而,对于一般的线性映射,以上定义不便操作,故我们可借助内积来定义线性映射的伴随。设A:U→V是线性映射,则A的伴随映射AT:V→U也是个线性映射,其满足(56)⟨Au,v⟩V=⟨u,ATv⟩U,∀u∈U,∀v∈V 容易证明这个定义与矩阵转置的定义等价。方便起见,以下省略内积的下标。

线性映射与其伴随的Jacobi矩阵满足什么关系呢?

设U={u1,⋯,un}、V={v1,⋯,vm}分别是U,V的一组基,对应的坐标向量为(x1,⋯,xn)T、(y1,⋯,ym)T,记Aui=∑i=1nvjaji,则有(57)∑j=1n∂Aj∂xivj=∂A∂xi(x0)=limt→0A(x0+tui)−A(x0)t=Aui=∑j=1nvjaji⟹∂Aj∂xi=aji 故(58)A~:=JA=(aij)n×n⟹∂A∂xi(x0)=Aui=∑j=1nvjA~ji,∀x0∈U 同理(59)∂AT∂yj(y0)=ATvj=∑i=1muiAT~ij,∀y0∈V 注意到(60)∑k=1m⟨ui,uk⟩AT~kj=⟨ui,ATvj⟩U=⟨vj,Aui⟩=∑k=1n⟨vj,vk⟩VA~ki 记度量矩阵MU:=(⟨ui,uj⟩)n×n、MV:=(⟨vi,vj⟩)m×m,它们都是对称矩阵,则上式可写为(61)MUAT~=(MVA~)T⟹AT~=MU−1A~TMV 当U,V为标准正交基时,MU=I且MV=I,此时AT~=A~T。

1若无声明,(x1,⋯,xn)并不特指直角坐标系。

2式中蓝色字体使用了Einstein求和约定,所有指标都只会出现一次或两次,(一上一下)出现两次的指标表示对它在其所有可能取值构成的集合中求和。

3./figure/lecture_mathphys2_05.pdf。