【飞桨学习笔记】第一章：零基础入门深度学习

前言

最近参加了PaddlePaddle飞桨的《百度架构师手把手带你零基础实践深度学习》课程，和小伙伴们一起学习~
百度架构师毕然老师讲解得很生动有趣！干货满满！

课程链接

link.

课程大纲

第一章：零基础入门深度学习
第二章：一个案例吃透深度学习
第三章：深度学习实践应用——计算机视觉
第四章：目标检测YoloV3
第五章：深度学习实践应用——自然语言处理
第六章：情感分类
第七章：深度学习实践应用——推荐系统
第八章：深度学习高阶导入

第一章：零基础入门深度学习

人工智能&机器学习&深度学习

人工智能
人工智能是方法论，范围很广

机器学习
机器学习的实现可以分成两步：训练和预测，类似于我们熟悉的归纳和演绎

深度学习
其实传统机器学习和深度学习在理论结构上是一致的，即：模型假设、评价函数和优化算法，其根本差别在于假设的复杂度

深度学习改变了AI应用的研发模式：

1. 实现了端到端的学习
   实现了端到端的学习，不需要去做feature engineering
2. 实现了深度学习框架标准化
   框架化

波士顿房价预测

波士顿房价预测是一个经典的机器学习任务，类似于程序员世界的“Hello World”。
预测输出类型：

• 连续的实数值 - 回归任务；
• 离散的标签 - 分类任务

基本步骤：

1. 数据处理
   数据导入、数据形状变换、数据集划分、数据归一化处理和封装load data函数
2. 模型设计
   也称为网络结构设计，相当于模型的假设空间，即实现模型“前向计算”（从输入到输出）的过程
3. 训练配置
   需要通过训练配置寻找模型的最优值，即通过损失函数来衡量模型的好坏
4. 训练过程
   目标是让定义的损失函数Loss尽可能的小，也就是说找到一个参数解w和b使得损失函数取得极小值。
   极值点 -> 斜率为0 -> 导数为0

整套方法论

1. 数据处理：读取数据、预处理
2. 模型设计：网络结构（假设）
3. 训练配置：优化器（求解算法）、计算资源配置
4. 训练过程：循环调用训练过程（外层循环epoch、内层循环batch），前向计算 +损失函数（优化目标）+后向传播
5. 保存模型