数学课复习

最新推荐文章于 2024-08-29 07:31:49 发布

「已注销」

最新推荐文章于 2024-08-29 07:31:49 发布

阅读量246

点赞数

文章标签：概率论线性代数

本文链接：https://blog.csdn.net/int_main_Roland/article/details/125629910

版权

文章目录

数学课复习

数学课复习

高等数学

极限与连续
- 极限的意义
  重要极限 $\lim\limits_{x \to 0} \frac{\sin x}{x}$ 和 $\lim\limits_{x \to \infty} (1+\frac{1}{x})^x$
- 闭区间连续函数的性质 (有界性,最值性,介值性)
微分与积分
- 微分的意义
  曲率 $\kappa = \frac{\mathrm{d} \alpha}{\mathrm{d} s} = \frac{\mathrm{d} \arctan \mathrm{d} y / \mathrm{d} x}{\sqrt{(\mathrm{d} x)^2 + (\mathrm{d} y)^2}}$
- 微分的运算
  反函数 $\frac{\mathrm{d} x}{\mathrm{d} y} = (\frac{\mathrm{d} y}{\mathrm{d} x})^{-1}$
  链式法则 $\frac{\mathrm{d} y}{\mathrm{d} x} = \sum\limits_{u} \frac{\mathrm{d} y}{\mathrm{d} u} \frac{\mathrm{d} u}{\mathrm{d} x}$
- 积分的运算
  换元 $\iint f(x,y) \mathrm{d} x \mathrm{d} y = \iint f(x(u,v),y(u,v)) |\frac{\partial (x,y)}{\partial (u,v)}| \mathrm{d} u \mathrm{d} v$
  概率密度函数中的换元 $|\frac{\partial (x,y)}{\partial (u,v)}|$
- 中值定理

线性代数

代数空间
- 线性空间,赋范线性空间,内积空间
- 线性空间的运算 (交,和,直和)
- 线性无关,秩
线性方程组
- 克拉默法则
- 高斯消元
- 相容线性方程组极小范数解
- 矛盾线性方程组最小二乘解
矩阵
- 四个子空间
- 转置,乘积,求逆,伪逆
- 二次型,正定性
- 迹,行列式
- 特征值,奇异值
- 特殊矩阵 (厄尔米特矩阵,置换矩阵,正交矩阵,三角矩阵,范德蒙德矩阵,哈达玛矩阵,托普利兹矩阵,循环矩阵,投影矩阵,正交投影矩阵)

概率统计

概率论
- 古典概型与几何概型
  - The Twelvefold Way
- 概率公理
  - 容斥原理和Bonferroni不等式
  - 边缘概率
- 期望和方差
  - 期望的线性性质,期望的琴生不等式
  - 方差的性质
    - $E[(X-E[X])^2] = E[X^2] - E^2[X] \geqslant 0$ (期望的线性性质,期望的Jensen不等式)
    - $E[(X-e)^2] = E[(X-E[X])^2] + (E[X]-e)^2$ (期望的线性性质)
    - $D[cX+d] = c^2 D[X]$ (期望的线性性质)
    - $\leqslant (b-E[X])(E[X]-a) \leqslant \frac{1}{4} (b-a)^2$ (期望的线性性质)
  - 协方差 $\mathrm{Cov}(X,Y) = E[(X-E[X])(Y-E[Y])] = E[XY]-E[X]E[Y]$
  - 协方差矩阵 $\Sigma_{ij} = \mathrm{Cov}(X_i,X_j)$
  - 条件期望
- 条件概率
  - 全概率公式,贝叶斯公式
  - 独立性
  - $\leqslant \sqrt{E[X^2]E[Y^2]}$ , $\mathrm{Cov}(X,Y) \leqslant \sqrt{D[X]D[Y]}$
  - $\rho(X,Y) = \mathrm{Cov}(X,Y) / \sqrt{D[X]D[Y]}$
- 离散随机变量
  - 01分布, $\sim B(1,p)$ , $E [X] = p$ , $D [x] = p (1 - p)$
  - 二项分布, $\sim B(n,p)$ , $\Pr(X=k)=\binom{n}{k,n-k}p^k(1-p)^{n-k}$ , $E [X] = n p$ , $D [x] = n p (1 - p)$
  - 几何分布, $\sim G(p)$ , $Pr(X=k)=(1-p)^{k-1}p$ , $E[X]=\frac{1}{p}$ , $D[x]=\frac{1}{p}(\frac{1}{p}-1)$
  - 泊松分布, $\sim P(\lambda)$ , $\Pr(X=k)=\frac{\lambda^k}{k!}e^{-\lambda}$ , $E[X]=\lambda$ , $D[x]=\lambda$
  - $np=\lambda$ , $\to \infty$ , $\to 0$ , $\binom{n}{k,n-k}p^k(1-p)^{n-k} \to \frac{\lambda^k}{k!}e^{-\lambda}$
- 连续随机变量
  - 均匀分布, $\sim U(a,b)$ , $p(x)=\delta(a \leqslant x \leqslant b) \frac{1}{b-a}$ , $E[X]=\frac{1}{2}(a+b)$ , $D[x]=\frac{1}{12}(b-a)^2$
  - 指数分布, $\sim e(\beta)$ , $p(x)=\delta(x>0) \frac{1}{\beta} e^{- \frac{1}{\beta} x}$ , $E[X]=\beta$ , $D[x]=\beta^2$
  - 正态分布, $\sim \mathcal{N}(\mu,\sigma^2)$ , $p(x)=\frac{1}{\sqrt{2\pi\sigma^2}} \exp(-\frac{1}{2\sigma^2}(x-\mu)^2)$ , $E[X]=\mu$ , $D[x]=\sigma^2$
    - Mill不等式, $\sim \mathcal{N}(0,1)$
      $\Pr(X \geqslant \epsilon) \leqslant \frac{1}{2} \exp(- \frac{1}{2} \epsilon^2)$
      $\Pr(X \geqslant \epsilon) \leqslant \frac{1}{\epsilon} \frac{1}{\sqrt{2\pi}} \exp(- \frac{1}{2} \epsilon^2)$
概率不等式
- 集中不等式
  - Markov不等式 $\Pr(X \geqslant a) \leqslant \frac{E[X]}{a}$ ( $\geqslant 0$ )
  - Chebyshev不等式 $\Pr((X-\mu)^2 \geqslant \sigma^2) \leqslant \frac{D[X]}{\sigma^2}$
    单边Chebyshev不等式 $\Pr(X-\mu \geqslant \sigma),\Pr(X-\mu \leqslant -\sigma) \leqslant \frac{D[X]}{D[X]+\sigma^2}$
  - Chernoff不等式 $\Pr(e^{tX} \geqslant e^{ta}) \leqslant \frac{E[e^{tX}]}{e^{ta}}$
    - 01分布独立 $\Pr(\bar{X} \geqslant (1+\epsilon) \bar{p}) \leqslant (\frac{e^\epsilon}{(1+\epsilon)^{(1+\epsilon)}})^{\bar{p}} \leqslant (e^{-\epsilon^2/3})^{\bar{p}}$
      - $E[e^{tX}] = (1-p) + pe^t = 1 + p(e^t-1) \leqslant e^{p(e^t-1)}$
      - $\Pr(\bar{X} \geqslant (1-\epsilon) \bar{p}) \leqslant (\frac{e^\epsilon}{(1-\epsilon)^{(1-\epsilon)}})^{\bar{p}} \leqslant (e^{-\epsilon^2/2})^{\bar{p}}$
    - [0,1]上分布独立 $\Pr(\bar{X} \geqslant \bar{\mu}+\epsilon) \leqslant e^{- 2n \epsilon^2}$
      - $E[e^{tX}] \leqslant (1 - \mu) + \mu e^t \leqslant e^{t \mu + t^2 / 8}$
      - $e^{tX} = e^{Xt + (1-X)0} \leqslant Xe^t + (1-X)$
    - 𝒩(0,1)独立 $\Pr(\bar{X} \geqslant \epsilon) \leqslant \frac{1}{2} e^{-n\epsilon^2/2}$
      - $\bar{X} \sim \mathcal{N}(0,\frac{1}{n})$
    - Bennet和Bernstein不等式 (引入方差和更多约束)
- 大数定律 $\frac{1}{n} \sum\limits_{i=1}^{n} X_i \stackrel{\Pr}{\to} \frac{1}{n} \sum\limits_{i=1}^{n} E[X_i]$
  - Markov大数定律 $\frac{1}{n^2}D[\sum\limits_{i=1}^{n} X_i] \to 0$
  - Chebyshev大数定律 $D[X_i] \leqslant \mathrm{Const}$ ( $\rho(X_i,X_j)=0$ )
  - Khintchine大数定律 $E[X_i]<\infty$ (i.i.d.)
  - Bernoulli大数定律
- 中心极限定理
  - Lindburg-Levy中心极限定理 $(\sum\limits_{i=1}^{n} X_i - n \mu) / \sqrt{n\sigma^2} \stackrel{d}{\to} \mathcal{N}(0,1)$ (i.i.d.)
  - De Moivre-Laplace中心极限定理 $X_i \sim B(1,p)$ ( $Y_n = \sum\limits_{i=1}^{n} X_i \sim B(n,p)$ )
  - Lyapunov中心极限定理 $\left. \left(\sum\limits_{i=1}^{n} X_i - \sum\limits_{i=1}^{n} \mu_i\right) \middle/ \sqrt{\sum\limits_{i=1}^{n} \sigma_i^2} \right. \stackrel{d}{\to} \mathcal{N}(0,1)$ (独立) ( $\left. \left(\sum\limits_{i=1}^{n} E[|X_i-\mu_i|^{2+\delta}]\right)^{\frac{1}{2+\delta}} \middle/ \sqrt{\sum\limits_{i=1}^{n} \sigma_i^2} \right. \to 0$ )
统计与检验
- 样本k阶原点矩 $A_k = \frac{1}{n} \sum\limits_{i=1}^{n} X_i^k$ ,样本k阶中心矩 $B_k = \frac{1}{n} \sum\limits_{i=1}^{n} (X_i-\bar{X})^k$
  - 样本方差 $E[s_0^2] = (1-\frac{1}{n}) \sigma^2$
- 最小值,最大值,极差,次序统计量 $P_k(x) = \sum\limits_{i=k}^{n} \binom{n}{i,n-i} (P(x))^i (1-P(x))^{n-i}$
  - $\sum\limits_{i=k}^{n} \binom{n}{i,n-i} p^i (1-p)^{n-i} = n \binom{n-1}{k-1,(n-1)-(k-1)} \int\limits_{0}^{p} t^{k-1}(1-t)^{(n-1)-(k-1)} \mathrm{d}t$
  - $\gets \Pr(X \in (x-\epsilon,x+\epsilon))$
  - Beta分布,Gamma分布,Dirichlet分布
- 正态总体抽象分布
  - χ2分布(卡方分布) $\sum\limits_{i=1}^{n} X_i^2$ (样本方差)
  - t分布(学生分布) $\left. X \middle/ \sqrt{\frac{1}{n} \sum\limits_{i=1}^{n} X_i^2} \right.$ (均值和样本方差)
  - F分布 $\left. \left(\frac{1}{m} \sum\limits_{j=1}^{m} X_j^2\right) \middle/ \left(\frac{1}{n} \sum\limits_{i=1}^{n} X_i^2\right) \right.$ (两个正态分布总体)
  - $\bar{X}$ 与 $s_0^2$ 独立
- 分位数(分位点)
- 参数估计
  - 区间估计
    - 枢轴变量(正态分布总体)
    - 非正态分布总体
    - 单侧置信区间
  - 点估计
    - 矩估计法
    - 极大似然估计法
  - 一致性,无偏性,有效性
- 假设检验(根据统计量和可接受置信度(显著性水平)计算置信区间(拒绝域))
  - 方差已知的单个正态总体的期望检验(Z检验)
  - 独立性检验 $\sum\limits_{i,j} \frac{(\hat{p}_{ij} - \hat{p}_i\hat{p}_j)^2}{\hat{p}_i\hat{p}_j} \sim \chi^2((\#i-1)(\#j-1))$

凸优化

Young不等式 $\leqslant \frac{1}{p}a^p + \frac{1}{q}b^q$ ( $a, b > 0$ , $p, q > 0$ , $\frac{1}{p}+\frac{1}{q}=1$ )
Holder不等式 $\leqslant E[X^p]^{\frac{1}{p}}E[Y^q]^{\frac{1}{q}}$ ( $X, Y > 0$ , $p, q > 0$ , $\frac{1}{p}+\frac{1}{q}=1$ )