1. hyperparameters 超参数
超参数还是参数,是未知的。和一般的参数不同的是,一般意义上的参数是需要去估计的。但是超参数是人为设定的,不是估计得到的。机器学习中经常说到的“调参”就是在调整超参数。
2. tensor张量
首先推荐youtube上的一个视频讲解。
对这个概念,我的理解是以我们熟悉的三维空间举例,有三个坐标轴,(x,y,z)。
- 0阶张量:就是这三个方向永远都是0,也就是scalar;
- 1阶张量:就是这三个方向都有延展,也就是我们熟悉的任意一个向量都可以用(x,y,z)来表示;
- 2阶张量:在1阶张量的基础上,再增加一个空间
3. embedding vector嵌入向量
google上搜索给出的结果是:An embedding is a relatively low-dimensional space into which you can translate high-dimensional vectors.
举一个很简单的例子就容易理解了。对于图像的数据,我们都知道他可以用RGB的数据来表示,我们可以说(R,G,B)是一个嵌入向量。一般的向量的定义的话,R,G,B都是scalar.但是对于嵌入向量来说,R,G,B分别还可以是向量,矩阵等等。