- 博客(2)
- 收藏
- 关注
原创 【Transformer学习一:嵌入层+位置编码】
在将人类语言输入给编码器之前,需要先将这些人类语言转化为计算机可以识别的数字,比如“你好吗”,我们可以用One-Hot的方式将其转化为向量, 你=[1,0,0], 好=[0,1,0], 吗=[0,0,1]。然后使用 pytorch 中的 Embedding 类来对 text 进行嵌入,注意:这里的嵌入与使用word2vec嵌入的含义不一样,使用 word2vec 嵌入是将自然语言表示为向量形式,这里的嵌入指的是将向量形式 text 做一个线性变换。在论文中,位置编码使用以下公式。
2024-03-26 21:14:04
534
原创 十大常见排序方法
数据结构十大排序排序可分为稳定排序和非稳定排序(如果aaa在bbb的前面,且a=ba=ba=b,当我们通过某种排序方法进行排序之后,aaa仍然在bbb的前面,这种排序方法就是稳定的,否则就是不稳定的),排序也可以分为原地排序和非原地排序(如果一个排序方法额外申请了一个内存空间,这种排序就是非原地排序,否则就是原地排序),衡量一个排序方法的好坏可以根据其时间复杂度和空间复杂度来综合考虑。稳定排序我们先介绍三种稳定排序:冒泡排序,插入排序,归并排序一、冒泡排序冒泡排序的思想:每次比较相邻的两个元素,如
2022-04-08 19:38:01
3022
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人