李宏毅老师机器学习笔记--第二节--机器学习任务攻略

一、Framework of ML
机器学习步骤:
1、写出一个含有未知数的方程 y=fθ(x) θ表示未知参数
2、定义L(θ)判断参数的好坏
3、判断参数的好坏（优化 optimization）θ*=arg minL

二、通用指南

model bias
1、model 太过简单 所有的function组成的function set 中找不到一个合理的θ使得L最优（L最小）
解决办法：重新设计 给model更大的弹性 例如：增加features

2、优化问题optimization lssue
解决办法：对于不熟悉的问题 先跑一些比较浅的方法 或非deep learning 方法 例如linear model(线性方法) （support vector machine）比较容易optimization 接下来进行深入的方法，如果出现比浅的方法更加更大，证明优化出现问题
3、training data够小 而testing data却很大 证明出现overfitting问题
举例


解决办法：1、more training data
2、data augmentation(自己根据现实创造。。。)