机器学习 混淆矩阵（TP TN FP FN） 评价指标（MES（Mean Squared Error）-- 分类 “准确率（Accuracy），精确率（查准率 Precision） 内容详细介绍

1.深度学习框架有哪些 (目前相对受欢迎的框架) ？

1.1 Pytorch

PyTorch具有先进设计理念的框架，其历史可追溯到2002年就诞生于纽约大学的Torch。Torch使用了一种不是很大众的语言Lua作为接口。Lua简洁高效，但由于其过于小众，以至于很多人听说要掌握Torch必须新学一门语言就望而却步，但Lua其实是一门比Python还简单的语言。
考虑到Python在计算科学领域的领先地位，以及其生态完整性和接口易用性，几乎任何框架都不可避免地要提供Python接口。终于，
在2017年，Torch的幕后团队推出了PyTorch。 PyTorch不是简单地封装Lua，Torch提供Python接口，而是对Tensor之上的所有模块进行了重构，并新增了最先进的自动求导系统，成为当下最流行的动态图框架。PyTorch特点是拥有生态完整性和接口易用性，使之成为当下最流行的动态框架之一。PyTorch具有先进设计理念的框架，其历史可追溯到2002年就诞生于纽约大学的Torch。Torch使用了一种不是很大众的语言Lua作为接口。Lua简洁高效，但由于其过于小众，以至于很多人听说要掌握Torch必须新学一门语言就望而却步，但Lua其实是一门比Python还简单的语言。

1.2 TensorFlow （Keras）

TensorFlow最初由Google开发，它最初定义为描述机器学习算法的接口，以及执行该算法的实现。

TensorFlow的主要预期目标是简化机器学习解决方案在各种平台上的部署，如计算机CPU、计算机GPU、移动设备以及最近的浏览器中的部署。最重要的是，TensorFlow提供了许多有用的功能来创建机器学习模型并大规模运行他们。TensorFlow它专注于易用性，并能保持良好的性能。

TensorFlow既可供初学者使用，也可供专家使用。TensorFlow API具有不同级别的复杂度，从而使初学者可以从简单的API开始，同时也可以让专家创建非常复杂的模型。

TensorFlow主要架构
TensorFlow架构具有多个抽象层级。我们首先介绍底层，然后逐渐通往最上层。

大多数深度学习计算都是用C++编码的。为了再GPU上进行计算，TensorFlow使用了由NVIDIA开发的库CUDA。这就是想要利用GPU功能就需要安装CUDA，以及不能使用其他硬件制造商GPU的原因。

然后，Python底层API封装了C++源代码。当调用TensorFlow的Python方法时，通常会在后台调用C++代码。这个封装层使用户可以更快的工作，因为Python被认为更易于使用并且不需要编译。该Python封装器可以创建非常基本的运算，例如矩阵乘法和加法。

最上层是高级API，由Keras和评估器API两个组件组成。Keras是TensorFlow的一个用户、模块化且可扩展的封装器，评估器API包含多个预制组件，可以让你轻松的构建机器学习模型。你可以将他们视为模块化或者组件

在深度学习中，模型通常是指经过数据训练的神经网络。模型由架构、矩阵权重和参数组长

Keras介绍
Keras于2015年首次发布，它被设计为一种接口，可用于使用神经网络进行快速实验。因此，他依赖于TensorFlow或者Theano来运行深度学习操作。Keras以其用户友好著称，是初学者的首选库。TensorFlow完全集成了Keras，这意味着无需安装TensorFlow以外的任何库就可以使用它。我们将依赖tf.keras而不是Keras的独立版本。这两个版本之间有一些细微的差异，例如与TensorFlow的其他模块的兼容性以及模型的保存方式。因此，读者确保使用正确的版本，具体方法如下：
在代码中，导入tf.keras而不是keras。浏览TensorFlow网站上的tf.keras文档，而不是keras.io文档。在使用外部Keras库时，请确保他们与tf.keras兼容。某些保存的模型在Keras版本之间可不能兼容。

2 . 模型评估，参数选择

2.1 损失函数

2.2 数据集划分

训练集 验证集 测试集

训练集-----------学生的课本；学生 根据课本里的内容来掌握知识。

验证集------------作业，通过作业可以知道 不同学生学习情况、进步的速度快慢。

测试集-----------考试，考的题是平常都没有见过，考察学生举一反三的能力。

2.3 欠拟合与过拟合

以上三图从左至右 分别为 图一 ：欠拟合 ， 图二 ：正常 ， 图三 ：过拟合
欠拟合：1. 增加模型复杂度：如果你的模型太简单，可能需要增加其复杂度来更好地适应数据。例如，在神经网络中，你可以增加网络的层数、每层的节点数等。
2.添加特征：添加新的特征可能有助于提高模型的预测能力。但是，需要注意避免引入噪声或冗余信息。
3.减少正则化：如果你的模型使用了正则化技术（如L1或L2正则化），尝试降低正则化参数的值或完全移除它们。
4.增加训练时间：如果模型的训练次数不足，可能会导致欠拟合。尝试增加训练的迭代次数或者改变学习率。
5.使用更复杂的算法：某些问题可能需要更复杂的算法才能得到良好的解决方案。
6.检查数据质量：确保你的数据集没有错误、缺失值或异常值。这些都可能导致模型欠拟合。
7.交叉验证：使用交叉验证来评估模型的泛化能力，以便及时发现和解决欠拟合问题。

3 . 什么是正则化？

3.1 为了解决2.3的模型过拟合问题：

3.2 正则化有哪些？

同时BN也是一种正则化方法，在上一期也有相关介绍。

4 . 监督学习 – 混淆矩阵（TP TN FP FN）-- 回归 “ MES （Mean Squared Error）”-- 分类 “ 准确率（Accuracy），精确率（查准率 Precision），召回率（查全率 Recall），F1值 ”

4.1 混淆矩阵（TP TN FP FN）

例：

4.2 回归 “ MES （Mean Squared Error）”

4.3 分类 “ 准确率（Accuracy），精确率（查准率 Precision），召回率（查全率 Recall），F1值 ”

形象化的 准确率（Accuracy），精确率（查准率 Precision），召回率（查全率 Recall）：

例：

演算：

F1值：