高等数学
- 函数与复合函数
- 导数与偏导数
- Jacobi矩阵与Hessian矩阵
- 函数极值判断
- 优化方法
- 数学解析方法
- 梯度下降法
- 牛顿法
线性代数
- 向量及向量空间
- 向量内积及范数
- 矩阵及矩阵的秩
- 矩阵特征数-特征值，迹
概率论, 数理统计, 随机过程
-
概率论(建模学科)
-
数理统计(参数估计, 假设检验)
-
概率论(建模学科)
→随机过程(引入时间t)
→数理统计((应用)→频率学派(参数是确定的未知的常数)/贝叶斯学派(参数是随机变量)→参数估计/评价
→估计→点估计/区间估计→极大似然估计/贝叶斯估计
-
随机试验
→随机变量→分布列(离散)/概率密度函数(连续)→特征数(期望, 方差/标准差)
→多个随机变量→随机向量→分布列(离散)/联合密度函数(连续)→特征数(期望, 方差/标准差, 协方差矩阵)
→无限个随机变量→大数定律/中心极限定理
-
极大似然估计
- 优化: 理论法, 梯度下降法, 牛顿法
-
贝叶斯估计
- 为什么需要贝叶斯: 小数据问题
- overfitting→集成学习(几个)→贝叶斯模型(∞)
- 在模型中融入不确定性
作业
给定下述Rosenbrock函数
f
(
x
)
=
(
a
−
x
1
)
2
+
b
(
x
2
−
x
1
2
)
2
f(\mathbf{x})=\left(a-x_{1}\right)^{2}+b\left(x_{2}-x_{1}^{2}\right)^{2}
f(x)=(a−x1)2+b(x2−x12)2，其中
x
=
(
x
1
x
2
)
T
∈
R
2
,
a
,
b
∈
R
\mathbf{x}=\left(\begin{array}{ll} x_{1} & x_{2} \end{array}\right)^{T} \in R^{2}, \quad a, b \in R
x=(x1x2)T∈R2,a,b∈R 。试编写程序完成下述工作：
1） 为不同的a,b取值，绘制该函数的3D表面。请问 a,b取值对该表面形状有大的影响吗？，所谓大影响就是形状不再相似。对a,b的取值区间，能否大致给出一个分类，像下面这样给出一张表：
2） 编写一个算法来找到它的全局最小值及相应的最小解，并在3D图中标出。分析一下你的算法时空效率、给出运行时间。
请输入需要随机优化的次数：100
请输入随机优化的步长1
优化的时间:2.03秒!
x=1.0, y=1.0, z=0.0
扫一扫
2363
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
