深度神经网络 课堂笔记（2023.3.7-3.10）

今天上课主要讲述了我们神经网络从数据预处理、到特征选择，相关方法的分类。

之后应用方法具体讲到了决策树和支持向量机（support vector machine）

感觉支持向量机里面讲述的例子还是蛮有趣的，主要我觉得还是分类的问题，之后大侠一拍桌子，把两种不同颜色的棋子，能够用白纸分开，这其实就是把二维世界中解决不了的问题，升了一个维度，之后就可以解决了。

之后决策树那里印象比较深刻的是，讲到将一些“树枝”变为叶子结点的过程，来使其泛化性能更加良好。

3.10

为什么人们在计算的时候更常用2范数，而不是0范数？

在计算中，通常更常用2范数，因为2范数是欧几里得距离的一种度量，它计算向量长度时考虑了每个分量的平方和，与常用的坐标系下的直线距离公式是一致的。在优化问题中，2范数有许多好的性质，例如可微性和凸性。另一方面，0范数只是简单地计算向量中非零元素的数量，没有考虑元素的具体取值和位置，因此它在优化中不够实用。但是，0范数在一些特定问题中也有其独特的应用，例如用于稀疏表示和压缩等领域。