机器学习——数学基础
什么是机器学习
机器学习可以解决什么
给定数据的预测问题
1,数据清洗/特征选择
2,确定算法模型/参数优化
3,结果预测
步骤一:
训练数据—>特征提取—>选择机器学习算法—>建好模型
步骤二:
测试数据—>特征提取—>模型—>预测结果
机器学习的方法
数学基础
导数
常用函数的导数
Taylor公式—Maclaurin公式
Taylor公式的应用一:
Taylor公式的应用二:
方向导数
梯度
沿着夹角:
凸函数
割线位于函数值的上方叫做凸函数
一阶可微
二阶可微
凸函数举例
概率论
Probability Density Function概率密度函数,简称pdf。
与组合数的关系
组合数背后的秘密
熵:是混乱程度的反应
可以利用熵做决策树和随机森林
概率基础
本福特定律
公路堵车概率模型
初速度变化没有影响,都会堵车
概率公式
贝叶斯公式
两点分布
二项分布
Taylor 展式
泊松分布
均匀分布
指数分布
正态分布
二元正态分布
各种分布总结
Beta分布
事件的独立性
期望
期望的性质:
方差
协方差
协方差和独立,不相关:
协方差的意义:
协方差的上界:
Pearson相关系数:
协方差矩阵:
切比雪夫不等式
大数定律
大数定律的意义:
伯努利定理
中心极限定理
中心极限定理的意义:
最大似然估计
最大似然估计的具体实践操作: