入门 transformer 的步骤,也算是 attention is all you need 简介

1. 学习步骤

针对原始论文 attention is all you need 中的翻译业务场景,

第一步,了解词嵌入的概念和大概方法

第二步,针对 attention is all you need 中的算法,先记忆算法的精确数学计算流程,倾向于不求甚解其语言含义,多关注其数学运算;

第三步,结合流程尝试性的理解算法的含义;

2. 第一步 词嵌入

2.1 概念

词嵌入(Word Embedding)是自然语言处理(NLP)中的一种对单个单词或单个文字的表示技术,它将字、词语或短语从词汇表映射到实向量空间中,用一个向量代表一个单词。

2.2 常用词嵌入方法

未完待续

3. 第二步 算法精确的数学步骤

输入:

输出:

计算流程:

未完待续

4. 尝试理解算法含义

未完待续

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值