参考
2021-09-05 机器学习中的数学基础–第一天
学习内容
1.0(n)与o(n)
2.极限
3.导数
4.求导方法
5.费马定理
6.函数逼近
7.泰勒展开
8.凸函数
O(n)与o(n)
- O指Order,多项式的阶
-
∃
x
0
,
M
\exists {x_0},M
∃x0,M, 使得
x
≥
x
0
x \ge {x_0}
x≥x0时,
f
(
x
)
≤
M
g
(
x
)
f(x) \le Mg(x)
f(x)≤Mg(x),此时可表示为
f
(
x
)
=
O
(
g
(
x
)
)
f(x) = O(g(x))
f(x)=O(g(x))
即: f ( x ) f(x) f(x)的阶,要小于等于 g ( x ) g(x) g(x)的阶 -
∀
M
,
∃
x
0
\forall M,\exists {x_0}
∀M,∃x0,使得
x
≥
x
0
x \ge {x_0}
x≥x0时,
f
(
x
)
≤
M
g
(
x
)
f(x) \le Mg(x)
f(x)≤Mg(x),此时可表示为
f
(
x
)
=
o
(
g
(
x
)
)
f(x) = o(g(x))
f(x)=o(g(x))
即: f ( x ) f(x) f(x)的阶,要小于 g ( x ) g(x) g(x)的阶
-
∃
x
0
,
M
\exists {x_0},M
∃x0,M, 使得
x
≥
x
0
x \ge {x_0}
x≥x0时,
f
(
x
)
≤
M
g
(
x
)
f(x) \le Mg(x)
f(x)≤Mg(x),此时可表示为
f
(
x
)
=
O
(
g
(
x
)
)
f(x) = O(g(x))
f(x)=O(g(x))
极限
设函数 f ( x ) f(x) f(x)在点 x 0 x0 x0的某一去心邻域内有定义,如果存在常数 a a a,对于任意给定的正数 ε ε ε,都 ∃ δ > 0 \exists {\delta}>0 ∃δ>0,使不等式 ∣ f ( x ) − a ∣ < ε \left| {f(x) - a} \right| < \varepsilon ∣f(x)−a∣<ε在 ∣ x − x 0 ∣ ∈ ( 0 , δ ) \left| {x - {x_0}} \right| \in (0,\delta ) ∣x−x0∣∈(0,δ)时恒成立,那么常数 a a a就叫做函数 f ( x ) f(x) f(x)当 x → ∞ x \to \infty x→∞ 时的极限,记作 lim x → x 0 f ( x ) = a \mathop {\lim }\limits_{x \to {x_0}} f(x) = a x→x0limf(x)=a
求导
费马定理
定义:在一个区间内,
f
(
x
)
f(x)
f(x)存在极值,则极值处的
f
’
(
x
0
)
=
0
f’(x0)=0
f’(x0)=0
应用:通过导数去寻找函数的极值
充分不必要条件
泰勒展开
定义:用函数在某点的信息描述其附近取值的公式。如果函数满足一定的条件,泰勒公式可以用函数在某一点的各阶导数值做系数构建一个多项式来近似表达这个函数
凸函数
二阶导数大于零:(下)凸函数
二阶导数小于零:上凸函数