漫步数学分析
会敲键盘的猩猩
研究方向为机器学习,尤其是统计学习,数学业余爱好者。
展开
-
漫步数学分析三十九——隐函数定理
假设x,yx,y被方程F(x,y)=0F(x,y)=0关联起来,我们会说这定义了一个函数y=f(x)y=f(x)(或者说隐式定义了y=f(x)y=f(x)),然后打算计算dy/dxdy/dx。前面已经提到过,给定这样的FF,一般不能显式求出yy,所以在没有求解之前知道这样的函数存在是非常重要的。为了更好的理解给出的结论,考虑函数F(x,y)=x2+y2−1F(x,y)=x^2+y^2-1,我们对满足翻译 2017-03-22 20:58:24 · 8547 阅读 · 1 评论 -
漫步数学分析三十七——极大值与极小值
定理10有一个非常重要的应用,它给我们提供了确定函数极大值与极小值的方法。我们期望从单变量函数的相关知识来得出二阶导数的判定准则,所以我们先回顾一下实变量实况。如果f:R→Rf:R\to R在x0x_0处有一个局部极大或极小,并且ff在x0x_0处可微,那么f′(x0)=0f^\prime(x_0)=0。更进一步,如果ff 二次连续可微,并且若f′′(x0)<0f^{"}(x_0)<0,那么x0x_翻译 2017-03-18 23:02:14 · 3891 阅读 · 0 评论 -
漫步数学分析二十七——Stone-Weierstrass定理
在讨论连续函数与一致收敛时,最基本的两个结论是上篇文章讨论的Arzela-Ascoli定理以及本文要讨论的斯通-魏尔斯特拉斯(Stone-Weierstrass)定理。斯通-魏尔斯特拉斯定理主要是为了说明任何连续函数都可以用更简单的函数来一致逼近,像多项式。这样的多项式近似技术在理论以及数值计算中非常重要。我们先从实轴上特殊情况的结论开始,它首先是被魏尔斯特拉斯证明的,但是我们这里用伯恩斯坦(Ber翻译 2017-03-05 21:04:33 · 22139 阅读 · 1 评论 -
漫步数学分析番外五(上)
定理1\textbf{定理1} 令fk:A→Rmf_k:A\to R^m是连续函数并且假设fk→ff_k\to f(一致),那么ff是连续的。证明:\textbf{证明:}因为fn→ff_n\to f一致收敛,所以给定ε>0\varepsilon>0,我们可以扎到NN使得k≥Nk\geq N意味着对所有的x∈Ax\in A不等式∥fk(x)−f(x)∥<ε/3\Vert f_k(x)-f(x)\Ve翻译 2017-03-08 20:09:51 · 451 阅读 · 0 评论 -
漫步数学分析三十六——泰勒定理
我们讨论一般函数f:A⊂Rn→Rmf:A\subset R^n\to R^m的泰勒公式,为此我们首先讨论高阶导数。对于f:Rn→Rf:R^n\to R,定义高阶偏导没有问题;我们仅仅迭代偏导的过程 ∂2f∂x1∂x2=∂∂x1(∂∂x2f)\frac{\partial^2f}{\partial x_1\partial x_2}=\frac{\partial}{\partial x_1}\left翻译 2017-03-17 19:17:03 · 1704 阅读 · 0 评论 -
漫步数学分析二十六——积分方程与不动点
在许多物理问题中,我们会遇到积分方程;他们的形式如下 f(x)=a+∫x0k(x,y)f(y)dy(1)\begin{equation}f(x)=a+\int_0^x k(x,y)f(y)dy\tag1\end{equation} 其中a=f(0),ka=f(0),k已经给定,我们假设kk是连续的。例如f(x)=aexf(x)=ae^x就是微分方程df/dx=f(x)df/dx=f(x)的解翻译 2017-03-03 21:46:40 · 1356 阅读 · 0 评论 -
漫步数学分析二十二——魏尔斯特拉斯测试
我们现在考虑一致收敛的一些判别方法。首先是理论上的方法,类似于RnR^n中序列的柯西判别准则,它也称为柯西判别准则。定理2\textbf{定理2} 令fk:A→Rmf_k:A\to R^m是一个函数序列,那么fkf_k一致收敛,当且仅当对每个ε>0\varepsilon>0,存在一个NN使得l,k≥Nl,k\geq N时,对所有的x∈Ax\in A,不等式∥fk(x)−fl(x)∥<ε\Vert f翻译 2017-02-24 19:11:17 · 3242 阅读 · 0 评论 -
漫步数学分析十六——紧集与连集的像
定理2\textbf{定理2} 令f:A→Rmf:A\to R^m是一个连续映射,那么如果K⊂AK\subset A并且KK是连集,那么f(K)f(K)是连集。如果B⊂AB\subset A并且BB是紧集,那么f(B)f(B)是紧集。如果我们用路径连续的话,(i)\textrm{(i)}的结果就会很明显,即,如果c(t)c(t)是一条连接KK中x,yx,y的路径,那么f(c(t))f(c(t)翻译 2017-02-15 19:39:14 · 2459 阅读 · 0 评论 -
漫步数学分析二十一——逐点收敛与一致收敛
对一个函数序列来说,最自然的收敛类型可能是逐点(pointwise)收敛,定义如下。定义1\textbf{定义1} 函数序列fk:A→Rm,A⊂Rnf_k:A\to R^m,A\subset R^n逐点收敛到f:A→Rmf:A\to R^m,如果对于每个x∈A,fk(x)→f(x)x\in A,f_k(x)\to f(x)的话(像RmR^m中的序列收敛一样)。如果fkf_k逐点收敛到ff,我们经常写翻译 2017-02-23 21:44:43 · 26465 阅读 · 0 评论 -
漫步数学分析二十五——等连续函数
定义4\textbf{定义4} 令B⊂ℓ(A,Rm)B\subset \ell(A,R^m),我们称BB是函数的等连续(equicontinuous)集合,如果对于每个ε>0\varepsilon>0,存在δ>0\delta>0使得如果x,y∈Ax,y\in A,那么d(x,y)<δd(x,y)<\delta 意味着对所有的f∈B,d(f(x),f(y))<εf\in B,d(f(x),f(y))<翻译 2017-03-02 20:51:31 · 728 阅读 · 0 评论 -
漫步数学分析十五——连续
连续函数有一个重要的性质,那就是当xx靠近x0x_0时,f(x)f(x)靠近f(x0)f(x_0)(如图???\ref{fig:4-1}所示)。另一方面,在图2中,即使xx非常靠近x0x_0,但是f(x)f(x)可能不会靠近f(x0)f(x_0)。 图1 为了精确地定义连续,首先需要定义函数在一个点处的极限概念。定义1\textbf{定义1} 令A⊂Rn,f:A→RmA\subset翻译 2017-02-14 20:02:51 · 972 阅读 · 0 评论 -
漫步数学分析番外六(上)
定理1\textbf{定理1} 令AA是RnR^n中的开集并且假设f:A→Rmf:A\to R^m在x0x_0处可微,那么Df(x0)Df(x_0)是由ff唯一确定。证明:\textbf{证明:}令L1,L2L_1,L_2是满足定义1的两个线性映射,我们必须说明L1=L2L_1=L_2。固定e∈Rn,∥e∥=1e\in R^n,\Vert e\Vert=1,对λ∈R\lambda\in R令x=x0翻译 2017-03-19 19:24:08 · 709 阅读 · 0 评论 -
漫步数学分析番外五(下)
接下来我们不证明定理10,而是更加一般的结论。定理10′\textbf{定理10}^\prime 令XX是一个完备度量空间,令T:X→XT:X\to X是一个压缩映射:d(T(x),T(y))≤λd(x,y)d(T(x),T(y))\leq\lambda d(x,y),其中0≤λ<10\leq\lambda<1是一个不动的常数,那么TT是连续的且有唯一的一个不动点。证明:\textbf{证明:}可以翻译 2017-03-09 20:17:21 · 743 阅读 · 0 评论 -
漫步数学分析二十八——狄利克雷与阿贝尔测试
在我们判断一致收敛的时候,某些情况下魏尔斯特拉斯M测试会失效,为此挪威数学家尼尔斯阿贝尔(Niels Abel)以及狄利克雷(Dirichlet)分别提出了两种测试方法,这些方法对许多实例都是非常有用的,尤其是研究傅里叶与幂级数的时候,当我们碰到一致收敛却不是绝对收敛的时候,这些方法非常重要。定理13\textbf{定理13}(阿贝尔测试) 令A⊂Rm,φn:A→RA\subset R^m,\var翻译 2017-03-06 19:47:39 · 1600 阅读 · 0 评论 -
漫步数学分析三十五——均值定理
我们现在考虑两个非常重要的定理,也就是均值定理与泰勒(Taylor)定理。首先,我们考虑均值定理,我们先回顾一下基本微积分中的均值定理,如果f:[a,b]→Rf:[a,b]\to R是连续的,在(a,b)(a,b)上可微,那么存在点c∈(a,b)c\in(a,b)使得f(b)−f(a)=f′(c)(b−a)f(b)-f(a)=f^\prime(c)(b-a),其中f′=df/dxf^\prime=d翻译 2017-03-16 20:29:37 · 8291 阅读 · 0 评论 -
漫步数学分析三十五——乘法法则与梯度
微分中另一个有名的法则是乘法法则或莱布尼兹法则。定理6\textbf{定理6} 令A⊂RnA\subset R^n是开集,f:A→Rm,g:A→Rf:A\to R^m,g:A\to R是可微函数,那么gfgf是可微的并且对于x∈A,D(gf)(x):Rn→Rmx\in A,D(gf)(x):R^n\to R^m为D(gf)(x)⋅e=g(x)(Df(x)⋅e)+(Dg(x)⋅e)f(x)D(gf)(翻译 2017-03-15 19:04:50 · 4629 阅读 · 0 评论 -
漫步数学分析三十四——链式法则
求导中最重要的一个方法是链式法则,例如为了求(x3+3)6(x^3+3)^6的导数,我们令y=x3+3y=x^3+3,首先求y6y^6的导数,得到6y56y^5,然后乘以x3+3x^3+3的导数得到最终的答案6(x3+3)53x26(x^3+3)^53x^2,对多变量函数来说存在同样的处理过程。例如如果u,v,fu,v,f是两个变量的实值函数,那么 ∂∂xf(u(x,y),v(x,y))=∂f∂u翻译 2017-03-14 19:26:17 · 2549 阅读 · 0 评论 -
漫步数学分析三十三——可微的条件
因为雅克比矩阵给出了有效的计算方法,因此我们知道通常的偏导存在就意味着导数DfDf存在。不幸的是这结论在一般情况下是不成立的,例如将f:R2→Rf:R^2\to R 定义为y=0,f(x,y)=x;x=0,f(x,y)=y;y=0,f(x,y)=x;x=0,f(x,y)=y;其余情况下f(x,y)=1f(x,y)=1,那么∂f/∂x,∂f/∂y\partial f/\partial x,\parti翻译 2017-03-13 22:54:04 · 5052 阅读 · 0 评论 -
漫步数学分析三十二——可微映射的连续性
对于单变量实值函数而言,f:(a,b)→Rf:(a,b)\to R在x0x_0处可微,那么 limx→x0(f(x)−f(x0))=limx→x0(f(x)−f(x0)x−x0)⋅(x−x0)=f′(x0)⋅limx→x0(x−x0)=f′(x0)⋅0=0\begin{align*}\lim_{x\to x_0}(f(x)-f(x_0))&=\lim_{x\to x_0}\left(\frac翻译 2017-03-12 18:49:43 · 1453 阅读 · 0 评论 -
漫步数学分析三十八——反函数定理
注意Jf(x)≠0Jf(x)\neq0意味着Df(x):Rn→RnDf(x):R^n\to R^n是线性同构(即它的矩阵是可逆的),从而根据事实:最佳线性近似是可逆的,我们想得出函数本身是可逆的。然而,需要一些限制条件。为此考虑f:R→Rf:R\to R,如果ff是C1C^1且f′(x0)≠0f^\prime(x_0)\neq0,那么ff在x0x_0的邻域内是可逆的。几何上来看这非常明显,因为f′(翻译 2017-03-21 20:43:38 · 9964 阅读 · 2 评论 -
漫步数学分析三十一——矩阵表示
定义2\textbf{定义2} ∂fj/∂xi\partial f_j/\partial x_i存在的话,定义如下: ∂fj∂xi(x1,…,xn)=limh→0{fj(x1,…,xi+h,…,xn)−fj(x1,…,xn)h}\frac{\partial f_j}{\partial x_i}(x_1,\ldots,x_n)=\lim_{h\to 0}\left\{\frac{f_j(x_1,\翻译 2017-03-11 19:42:44 · 787 阅读 · 0 评论 -
漫步数学分析二十九——幂级数
本篇文章我们介绍无限级数的相关理论,我们先从幂级数开始。定义5\textbf{定义5} 幂级数就是形如Σ∞k=0akxk\Sigma_{k=0}^\infty a_kx^k的级数,其中系数aka_k是固定的实(或虚)数,令 limk→∞sup|ak|−−−√k=1R\lim_{k\to\infty}\sup{\sqrt[k]{|a_k|}=\frac{1}{R}}RR称为幂级数的收敛半径,{x翻译 2017-03-07 22:17:36 · 1217 阅读 · 0 评论 -
漫步数学分析三十——导数的定义
对单变量函数f:(a,b)→Rf:(a,b)\to R,我们称ff在x0∈(a,b)x_0\in(a,b)处可微,如果极限 f′(x0)=limh→0f(x0+h)−f(x0)hf^\prime(x_0)=\lim_{h\to 0}\frac{f(x_0+h)-f(x_0)}{h}存在。我们也将f′(x)f^\prime(x)写成df/dxdf/dx。等价地,我们可以将上面的公式写成 lim翻译 2017-03-10 19:45:24 · 1581 阅读 · 0 评论 -
漫步数学分析番外六(下)
定理9\textbf{定理9} 令f:A→Rf:A\to R在开集AA上二阶可导且D2fD^2f连续(即函数∂2f/(∂xi∂j)\partial^2f/(\partial x_i\partial_j)是连续的),那么D2fD^2f是对称的;即 D2f(x)(x1,x2)=D2f(x)(x2,x1)D^2f(x)(x_1,x_2)=D^2f(x)(x_2,x_1)或者用元素的方式表示就是 ∂翻译 2017-03-20 19:30:22 · 463 阅读 · 0 评论 -
漫步数学分析番外四
定理1\textbf{定理1} 令f:A→Rmf:A\to R^m是一个映射,其中A⊂RnA\subset R^n是任意集合,那么下面的断言是等价的。ff在AA上连续对于AA中的每个收敛序列xk→x0x_k\to x_0,我们有f(xk)→f(x0)f(x_k)\to f(x_0)对于RmR^m中的每个开集UU,f−1(U)⊂Af^{-1}(U)\subset A 对AA而言是相对开的;即,对翻译 2017-02-22 20:43:49 · 924 阅读 · 0 评论 -
漫步数学分析番外三
定理1\textbf{定理1} 令A⊂RnA\subset R^n,那么下面的条件是等价的:(i)\textrm{(i)} AA是闭的且有界。 (ii)\textrm{(ii)} AA的每个开覆盖有一个有限的子覆盖。 (iii)\textrm{(iii)}AA中的每个序列都有一个收敛的子序列,且收敛到AA中的点。 (ii)′\textrm{(ii)}^{'}所有满足有限交性质的一系列闭集都翻译 2017-02-13 18:47:15 · 640 阅读 · 0 评论 -
漫步数学分析十一——紧集
在给出RnR^n中紧集的精确定义前,我们需要介绍一些术语。对于集合A⊂RnA\subset R^n,当且仅当存在一个常数M≥0M\geq0使得A⊂D(0,M)A\subset D(0,M),那么就称该集合是有界的(bounded),所以一个集合被邻域原点的某个邻域D(0,M)D(0,M)包住时,它就是有界的;换句话说,对于所有的x∈A,∥x∥<Mx\in A,\Vert x\Vert<M。 集合AA翻译 2017-01-14 15:41:52 · 14480 阅读 · 2 评论 -
漫步数学分析番外一
定理2\textbf{定理2} 令S⊂RS\subset R,那么b∈Rb\in R是SS的最小上界,当且仅当bb是上界且对于每个ε>0\varepsilon>0,有一个x∈Sx\in S使得x>b−εx>b-\varepsilon。证明:\textbf{证明:}首先,假设b=lub(S)=sup(S)b=\text{lub}(S)=\sup(S)且ε>0\varepsilon>0,我们必须产生一个翻译 2016-12-14 22:41:51 · 916 阅读 · 0 评论 -
漫步数学分析九——级数
与R1R^1类似,我们可以考虑RnR^n中的级数。定义9\textbf{定义9} 对于级数Σ∞k=0xk\Sigma_{k=0}^\infty x_k,其中xk∈Rnx_k\in R^n,如果它的部分和sk=Σki=0xis_k=\Sigma_{i=0}^k x_i 序列收敛到xx,那么我们就成该级数收敛到x∈Rnx\in R^n,我们写作Σ∞k=0xk=x\Sigma_{k=0}^\infty x翻译 2017-01-07 17:38:50 · 1292 阅读 · 1 评论 -
漫步数学分析八——集合边界
如果我们考虑R2R^2中的单位圆,那么其边界显然就是圆。但是对于更加复杂的情况,例如有理数,它的边界是什么在直观上就不明显,因此我们需要精确的定义。定义6\textbf{定义6} 对于R2R^2中的集合AA,边界定义为集合 bd(A)=cl(A)∩cl(Rn∖A)\text{bd}(A)=\text{cl}(A)\cap\text{cl}(R^n\backslash A)有时候用符号∂A=bd翻译 2017-01-06 16:59:51 · 6197 阅读 · 0 评论 -
漫步数学分析七——集合的闭包
集合AA的内部是AA的最大开子集,同样地,我们也能构造一个包含AA的最小闭集,这个集合就成为AA的闭包(closure)并用cl(A)\text{cl}(A)或A¯\bar{A}表示。定义5\textbf{定义5} 令A⊂RnA\subset R^n,集合cl(A)\text{cl}(A) 定义成所有包含AA的闭集之交(所以根据定理3(ii)\textrm{(ii)}可得cl(A)\text{cl}翻译 2017-01-05 15:56:11 · 40623 阅读 · 5 评论 -
漫步数学分析六——聚点
除了定义外,还有一种非常有用的方式来判断一个集合是否为闭集,而该方法依赖于一个非常重要的概念:聚点(accumulation point)。定义4\textbf{定义4} 对于点x∈Rnx\in R^n,如果包含xx的每个开集UU包含不同于xx但依然属于集合AA中的点,那么就称xx是AA的一个聚点。也就是说,集合AA的聚点是这样的点,AA中其他点可以任意靠近它,聚点也叫做聚类点(cluster po翻译 2017-01-03 20:53:06 · 26991 阅读 · 0 评论 -
漫步数学分析四——集合内部
定义2\textbf{定义2} 对任何集合A⊂RnA\subset R^n,点x∈Ax\in A,如果有一个开集UU使得x∈U⊂Ax\in U\subset A,那么就成该点为AA的一个内点。(等价的描述为:有一个ε>0\varepsilon>0 使得D(x,ε)⊂AD(x,\varepsilon)\subset A)AA内部就是所有内点组成的集合并用int(A)\text{int}(A)表示,这个翻译 2016-12-22 20:58:01 · 5036 阅读 · 1 评论 -
漫步数学分析五——闭集
定义3\textbf{定义3} 对于RnR^n中的集合BB,如果它在RnR^n中的补(即集合Rn∖BR^n\backslash B)是开集,那么它是闭集。例如,单点是闭集,含有边界的单位圆组成的集合是闭集。大致来说,当集合包含它的边界点时它就是闭的(直观感觉可从图6中看出),如图1所示。 图1 存在既不是开集又不是闭集的集合。例如在R1R^1,中半开半闭区间(0,1](0,1]既不是开集翻译 2017-01-02 22:49:05 · 11944 阅读 · 0 评论 -
漫步数学分析三——开集
为了定义开集,我们首先介绍ε−disc\varepsilon-\text{disc}的概念。定义1\textbf{定义1} 对于每个固定的x∈Rnx\in R^n以及ε>0\varepsilon>0,集合 D(x,ε)={y∈Rn|d(x,y)<ε}D(x,\varepsilon)=\{y\in R^n|d(x,y)<\varepsilon\}称为关于xx的ε−disc\varepsilon-翻译 2016-12-21 22:44:30 · 7158 阅读 · 1 评论 -
漫步数学分析二——欧几里得空间
定义3\textbf{定义3} 欧几里得n−n-空间是由所有有序的nn 元实数组成的并且用RnR^n来表示。象征性的符号为 Rn={(x1,…,xn)|x1,…,xn∈R}R^n=\{(x_1,\ldots,x_n)|x_1,\ldots,x_n\in R\}因此RnR^n是RR与自身进行nn次笛卡尔乘积的结果,可以写成Rn=R×⋯×RR^n=R\times\cdots\times R。RnR翻译 2016-12-13 19:46:14 · 3710 阅读 · 0 评论 -
漫步数学分析十——序列
定义7\textbf{定义7} 令xkx_k是RnR^n中的点列,如果对每个包含xx的开集UU(或者称为xx的邻域),有一个NN使得k≥Nk\geq N时xk∈Ux_k\in U,那么我们说xkx_k 收敛到RnR^n中的一个极限值xx,如图1所示。 图1:序列收敛 这个定义与下面介绍的ε\varepsilon定理是一致的。定理8\textbf{定理8} RnR^n中的序列xkx_k收敛翻译 2017-01-10 14:29:25 · 1490 阅读 · 0 评论 -
漫步数学分析十二——嵌套
定理1有一个非常重要的推论,就是嵌套性。定理2\textbf{定理2} 令FkF_k是RnR^n中非空紧集序列,对于所有k=1,2,…k=1,2,\ldots满足Fk+1⊂FkF_{k+1}\subset F_k,那么在∩∞k=1Fk\cap_{k=1}^\infty F_k中至少存在一个点。直观上来看,集合FkF_k会越来越小,所以我们可以将其看成序列中的一个点。然而,如果FkF_k是非紧的,那么翻译 2017-01-16 17:32:52 · 946 阅读 · 0 评论 -
漫步数学分析十七——连续映射上的运算
连续函数的复合应该是连续的,这个结论从直观上不太令人信服。对于函数f:A→Rm,g:B→Rpf:A\to R^m,g:B\to R^p其中f(A)⊂Bf(A)\subset B,我们定义复合g∘f:A→Rpg\circ f:A\to R^p 为x↦g(f(x))x\mapsto g(f(x)),如果xx靠近x0x_0,那么g∘f(x)g\circ f(x)靠近g∘f(x0)g\circ f(x_0)翻译 2017-02-16 20:27:44 · 1306 阅读 · 0 评论 -
漫步数学分析番外二(下)
定理11\textbf{定理11} RnR^n中的序列Σxk\Sigma x_k收敛,当且仅当对每个ε>0\varepsilon>0,存在一个数NN,使得k≥Nk\geq N时,不等式∥xk+xk+1+⋯+xk+p∥<ε\Vert x_k+x_{k+1}+\cdots+x_{k+p}\Vert<\varepsilon对所有整数p=0,1,2,…p=0,1,2,\ldots 成立。证明:\textbf翻译 2017-01-13 17:32:28 · 466 阅读 · 0 评论