机器学习的类别
Regression: The function outputs a scalar.用于连续值(回归)
Classification:Given options(classes),the function outputs the correct one.用于离散值(分类)
特:Structured Learing :Creat something with struct (image document).(结构化学习)
机器学习的基本步骤
![](https://i-blog.csdnimg.cn/blog_migrate/3d980f1789cc3672902e1f4c3cb77b0a.png)
Training训练
1建立Model Function
![](https://i-blog.csdnimg.cn/blog_migrate/700e12d6329f138dd4cea8a9398e9d3a.png)
注:
domain knowledge 一般由业内专家给出
2求LOSS函数
![](https://i-blog.csdnimg.cn/blog_migrate/2526615f9a3c83d62f94af55064637a5.png)
![](https://i-blog.csdnimg.cn/blog_migrate/eb58988114864563c45873eacf0e384f.png)
注:
MAE/MSE看情况选择
几率选择用Cross-entropy
Loss越小越精准(下图越接近蓝色系Loss越小)
![](https://i-blog.csdnimg.cn/blog_migrate/ae72ffd39f34adb748c77d1f139f3790.png)
3解optimization问题
找一组w,b,让loss最小
![](https://i-blog.csdnimg.cn/blog_migrate/11f953bfc93423dd4c7d92760900c868.png)
![](https://i-blog.csdnimg.cn/blog_migrate/63e807b17cdb4ae3808d3dd91f911f62.png)
![](https://i-blog.csdnimg.cn/blog_migrate/cb88fc3828a9071a3db68f3564320fde.png)
Vaildation验证
模型修正
![](https://i-blog.csdnimg.cn/blog_migrate/2783eafd8cf9c1503fdd8e9ca1327473.png)
七天周期修正
后注:Linear Modal模型只能做单方向
建立新模型
回到训练步骤
![](https://i-blog.csdnimg.cn/blog_migrate/6eb1b0ce5e8d10beef20daf23e6a3b59.png)
![](https://i-blog.csdnimg.cn/blog_migrate/0300e5e40f26750ea1cc53df9404240a.png)
![](https://i-blog.csdnimg.cn/blog_migrate/87e658802de6720a413f992b0bc89a34.png)
图示
![](https://i-blog.csdnimg.cn/blog_migrate/40d262438eec3d917fdbb82e7d6e4b12.png)
Loss
![](https://i-blog.csdnimg.cn/blog_migrate/dd9ae723d97d7fc0ce34693dc2b5c14b.png)
Optimization
![](https://i-blog.csdnimg.cn/blog_migrate/abc83a1ac30a4d3378b3b0d189637675.png)
![](https://i-blog.csdnimg.cn/blog_migrate/aa2a2a4e0e870658b452902a67c3db5e.png)
![](https://i-blog.csdnimg.cn/blog_migrate/6b11be1d2dfda4345a74559e374721e7.png)
注:
Update 与epoch的区别
epoch完成一整个L包,update每次更新数据
每个batch中update多少次为自定义
HyperParameters 超参数(自定义参数)
sigmoid 与relu等统称Activation Function(激活函数)
![](https://i-blog.csdnimg.cn/blog_migrate/68926a4783ce9df8889f24fb21c3d4c6.png)
注:
神经元->神经网络 layer->hidden layer ->>Deep Learning各种名词的来源
Testing测试
![](https://i-blog.csdnimg.cn/blog_migrate/7e411996fde39583f0734a6fab03224b.png)
注:
Overfitting (过拟合)