2.8.2-神经网络基础-神经网络加速-automl

1. 如何解决神经网络中的过拟合问题？
2. 影响神经网络推理速度的因素有哪些？
3. 模型压缩的常用方法有哪些？
4. 什么是自动化机器学习？
5. 请简述神经网络架构搜索的大致流程

---

1. 如何解决神经网络中的过拟合问题？

（1）增加数据

（2）正则化

（3）减少模型复杂度，减少神经网络层数、每层神经元数

.....

---

2. 影响神经网络推理速度的因素有哪些？

模型内部因素：计算量-CPU GPU、参数量、访存量、内存占用

外部因素：系统算力，内存带宽，网络带宽等

---

3. 模型压缩的常用方法有哪些？

量化、剪枝、知识蒸馏 算子分解、降维操作

---

4. 什么是自动化机器学习？

将机器学习算法流程自动化，通过反复迭代去搜寻针对业务场景最优的数据预处理、超参数配置及算法模型。包括自动化特征提取、模型选择、模型超参数选择、模型结构搜索

---

5. 请简述神经网络架构搜索的大致流程

神经网络架构搜索（Neural Architecture Search，NAS）搜索网络结构的拓扑排序（网络总层数及链接方式），卷积核大小种类，时序模型种类、池化类型等。

将待搜索的参数空间 通过 一定的搜索策略 得到网络结构，对该结构进行评估后，更新迭代得到最优模型