m0_59113542的博客

严格意义上讲 transformers 并不是的一部分，然而 transformers 与 PyTorch 或 TensorFlow 结合的太紧密了，而且可以把 transformers 看成是 PyTorch 或 TensorFlow 的延伸，所以也在这里一并讨论了。transformers 内置了 17 种以这些模型的参数、用法大同小异。默认框架为 PyTorch，使用 TensorFlow 框架在类的前面加上 'TF" 即可。每种模型都有至少一个预训练模型，限于篇幅，这里仅仅列举。

首先说一下这个原因，所读取的csv文件的编码方式不是utf-8，然后现在指定encoding="UTF-8"会出现以上问题。

bert在做掩码时为什么要进行80% mask，10% 随机替换，10% 保持原词呢？

nn.embedding “随机” 初始化词向量

介绍了transformer的位置编码为什么是正余弦函数，以及正余弦函数里面的数值是怎么来的

当执行git中的“git pull origin master –allow-unrelated-histories”命令时，会出现“ couldn’t find remote ref –allow-unrelated-histories”的错误，

2023年上半年数学建模竞赛统计，包含12组比赛

1、结合图文描述Decoder中各个模块是什么，以及是如何工作的。2、transformer是如何训练的。3、exposure bias问题造成的原因及解决方法

trandsformer 关于Encoder部分结构的讲解

真实有效

使用例子形象展示了figure与axes的区别

首先对比讲解了torch.manual_seed（）的功能，之后讲解了两种使用方式

时，会将所有没有缩进的代码全部执行一遍。而 if __name__ == '__main__':的作用就是确保程序只在当前文件夹下能运行，在被导入后不能执行。编译器在import。

gitee常用方式

物联网、智能家居、云平台、自制APP 本系统包含以下六方面功能：1、手机APP远程控制 2、语音控制 3、手机app查看家中的温度 湿度信息 4、超声波坐姿监测 5、OLED显示系统当前状态 6、万年历（支持按键修改时间）

使用appinventor完全自主开发，功能：蓝牙遥控器、串口助手、温湿度显示；解决了切换界面蓝牙依旧保持连接问题