常用专有名词解释

• 1.Transformer：
  一个利用注意力机制来提高模型训练速度的模型，trasnformer可以说是完全基于自注意力机制的一个深度学习模型，因为它适用于并行化计算，和它本身模型的复杂程度导致它在精度和性能上都要高于之前流行的RNN循环神经网络。具体请看这 看这里
  2.Softmax:
  
• 3.有监督、无监督
  有监督：有标签的，先通过已知的训练样本（已知输入和对应的输出）来训练，即知道数据所属的类型，通过该类型来预测结果。无监督则反之。
• 4.半监督
  先通过无监督(无标签，无结果)进行分类，之后进行人工标记进行有监督的进行分类。
• 5.强化学习：
  就是通过对不同结果的奖励与惩罚，让机器系统在经过长时间的训练后，让结果得到预期得结果。
• 6.分类 vs. 聚类
  有监督的核心是分类，无监督的核心是聚类（将数据集合分成由类似的对象组成的多个类）。有监督的工作是选择分类器和确定权值，无监督的工作是密度估计（寻找描述数据统计值），也就是无监督算法只要知道如何计算相似度就可以开始工作了。
• 7.批量学习与增量学习：
  批量学习：将学习过程与应用过程分开，将全部数据进行训练，然后在应用场景中进行预测。当预测结果不够理性时，重新回到学习过程。
  增量学习：将学习过程与应用过程进行统一，以增量的方式进行训练数据，边训练边预测。
• 8.机器学习的一般过程：
  1.数据收集 2.数据清洗3.选择模型(算法)4.训练模型5.模型评估6.应用模型
• 9.降维问题：：
  在性能损失尽可能小的情况下进行数据规模的缩小。
  
  10.范围缩小步骤
  ①找出最小值，用每个数减去最小值，之后再除以最大值，如，6，8，10进行归一化，都减去最小值为0，2，4，之后都除以最大值4，为0，0.5，1

#使用范围缩放器
from sklearn.preprocessing import MinMaxScaler
# 1.生成训练模型，默认是[0，1]，可更改
mm=MinMaxScaler()
#训练数据
res=mm.fit_transform(sample_arr)
print(res)

-归一化：normalization

10，20，30进行归一化，则10/60,20/60…,

# 3.归一化
import sklearn.preprocessing as ps
# 其中的l1:代表范数，为绝对值之和。L2：2范数，代表各数的平方之和，默认l2
res=ps.normalize(sample_arr,norm="l1")
print(res)

二值化

mask1=sample_arr<=3
mask2=sample_arr>3
sample_arr[mask1]=0
sample_arr[mask2]=1
print(sample_arr)
#使用sklearn
ob=ps.Binarizer(threshold=3)
#transform就行，不需要fit—transform，因为是一个数据判断不需要训练
res=ob.transform(sample_arr)
print(res)

二值化转换是不可逆得，会导致数据丢失，所以为了保全数据采用独热编码。

独热编码

encoder=ps.OneHotEncoder()
res=encoder.fit_transform(sample_arr)
print(res)
其中的结果代表1的位置```



#### 标签编码
![在这里插入图片描述](https://img-blog.csdnimg.cn/cd7f1cfaf4c44b29abed693aeeb3a382.png)

```java
# 标签编码
cha=np.array(["zhang","zhao","li","li"])
# 定义标签编码器,其中是通过asc码先进行排序。
lb_en=ps.LabelEncoder()
lb_sam=lb_en.fit_transform(cha)
print(lb_sam)

正则化：

作用：用于解决数据过拟合而进行的。即在目的值的后面添加一个范数。

常见的机器学习分类总结：

激活函数

作用是在机器学习算法中实现非线性的、阶跃性质的变换。