Lesson 1 - Overview
任何一项技术的发展热度曲线如FIg.1:发展期被关注,内部迭代快;下降期为该技术缺陷被发现;冰河期解决缺陷;如果能解决,进入应用期。
学习目标:如何使用PyTorch实现一个学习系统;理解基础的基本神经网络和深度学习概念。
要求:线性代数,概率论,Python
1. Human Intelligence
决策:information -> infer
预测:image -> prediction
2. Machine Learning
算法替代人脑。深度学习课程基本使用监督学习(supervised)。
算法:穷举法;贪心法;分治法;动态规划。
3. How to develop learning system?
Rule-based system:
Input -> Hand-designed prgram -> Output
Classic machine learning:
Input -> Hand-designed features -> Mapping from features -> Output
其中 mapping 相当于建立映射函数。
Representation learning:
Input -> Features -> Mapping from features -> Output
其中,在feature中提取向量,把向量给Mapping,feature提取和mapping学习器分别训练。
维度诅咒:如果input中feature数量越多,对采样样本需求数量越多,如图。
表示学习:高维 -> 低维
Deep learning:
Input -> Simple features -> Additional layers of more abstract features -> Mapping from features -> Output
end to end 端到端,整个模型进行训练。
4. Rule-based system VS Represnetation learning
Rule-based system:人工设计
Representation learning:从数据进行训练
5. Traditional machine learning strategy
6. New challenge
7. Brief history of neural networks
类似生物中的神经元,构造神经网络。
Back Propagation 反向传播,求导数,求偏导。
Milestone
Development : Algorithm, Data, Computation
8. Good news
9. PyTorch
![在这里插入图片描述](https://img-blog.csdnimg.cn/5bdb3b8a9ba948ffb6a2f7ee23b01e38.png