为什么KNN和SVM不需要像深度学习那样进行多次迭代训练？

KNN（K-Nearest Neighbors）和SVM（Support Vector Machine）与深度学习模型有不同的训练和优化方法。

1. KNN是一种基于实例的学习，它的训练过程相对简单。

对于给定的数据集，KNN算法只需计算并存储每个数据点的特征向量。在预测阶段，对于新的未知数据点，算法会计算其特征向量，并查找训练集中与其最接近的K个数据点。这K个数据点即为其最近邻，并根据这些最近邻的类别进行投票，以确定新数据点的类别。因此，KNN并不需要像深度学习那样进行多次迭代训练。

2. SVM也是一种监督学习算法，

它通过找到一个超平面来分隔不同的类别数据点。SVM的训练涉及到优化问题，以找到最佳的超平面。然而，与深度学习不同，SVM通常使用解析方法或启发式方法来找到最优解，而不需要迭代训练。深度学习模型（如神经网络）通常需要多次迭代训练，这是因为它们包含大量的参数，需要通过反向传播算法和优化器（如梯度下降）来调整这些参数，以最小化预测误差。每次迭代都会更新模型的权重和偏差，直到模型收敛或达到预设的训练周期。

总结（KNN、SVM和深度学习在本质上有以下区别：）

1. 特征学习和表示：KNN和SVM都是基于特征的学习算法。KNN主要基于实例，通过计算特征向量来找到最近邻。SVM则试图找到一个超平面来分隔不同的类别数据点。而深度学习模型（如神经网络）具有自动学习和表示特征的能力，通过深层神经网络来自动学习特征。

2. 结构和学习方法：SVM和KNN是基于传统机器学习的方法，通常较为简单，不具备深度学习的灵活性和复杂性。深度学习的算法结构可以更加灵活，能够加入各种可微分的算术过程，如降噪算法常用的软阈值化。深度学习模型还可以进行端对端的训练，这是以SVM为代表的传统机器学习算法所不具备的功能。

3. 人工干预和专业知识：在传统机器学习的时代，通常需要一定的专业背景才可以进行特征提取和模型训练，如做图像处理需要了解图像处理的基本方式。而深度学习的出现降低了这一要求，使得专业背景的要求没那么高。例如，现在的图像处理不需要了解灰度转化、二值化、腐蚀等就可以完成一个算法的设计，人员的转型更加容易。

4. 分类效果和计算复杂性：在分类效果上，SVM通常比KNN更有效，并且速度更快。然而，深度学习在许多任务上表现出了优越的性能，尤其在大数据集和复杂任务上。此外，深度学习的计算复杂性相对较高，需要更多的计算资源和时间进行训练和优化。