项目
文章平均质量分 69
Jozky86
这个作者很懒,什么都没留下…
展开
-
(pytorch)基于Transformer的相关项目
基于Transformer的翻译模型基于Transformer的分类模型基于Transformer的对联模型原创 2024-02-06 11:38:18 · 206 阅读 · 0 评论 -
Transformer学习笔记(下),手写实现Transformer
x语言的所有词汇就7个词,说任何话都是用这7个词采样概率是模仿自然语言中有些词经常被说到(热门词),有些词很难被说到(生僻词)以概率在词汇表中进行采样,采一个随机长度transformer的作用是将x翻译成y,也就说y和x之间要有一定的关联性,y可以根据x推导出来的x和y的关联规则:y当中的每一词都是x当中的词进行逆序之后的结果,小写字母变大写字母,y当中的数字是用9减去x当中的数字得到的虚线的箭头表明y当中的第一位取决于x的最后一位(9-x),即y当中第一位和第二位是相同的。原创 2024-01-31 11:44:38 · 1736 阅读 · 0 评论 -
基于pytorch的ResNet垃圾图片分类
步骤:搭建模型->搭建训练函数->搭建验证函数->搭建数据加载器->损失函数与优化器->开始训练。需要排除图像宽高过大和过小的数据(图像高宽均保持在200到2000以内)需要排除图像宽高比例不协调的数据(图像宽高比例低于0.5的数据)对样本数少于平均数的进行数据增强,样本数多于平均数的不进行处理。在txt中,左侧为图片路径,右侧为标签(从0开始计算)类别和类别之间的数据不均衡,利用数据增强来加强数据。为了让样本数更均衡,对数据量过多的数据进行下采样。增强方式:水平翻转,垂直翻转。label等于10个数字。原创 2024-01-17 13:56:13 · 818 阅读 · 0 评论 -
Transformer学习笔记(上)
传统的自回归翻译模型(如基于循环神经网络的模型)会一个一个地生成目标语言的单词,每个单词生成的时候都会依赖于前面已生成的单词。全连接层的计算过程可以表示为 Y = X * W + b,其中 X 是输入数据的向量,W 是权重矩阵,b 是偏置向量,Y是输出数据的向量。在自回归模型中,模型生成序列的每个元素时都依赖于前面已生成的元素,因此生成是逐步的、依次进行的。总之,全连接层是神经网络中的一种层类型,每个输入神经元与输出层的每个神经元都有连接,通过权重和偏置项进行线性组合,将输入数据映射到最终的输出空间。原创 2024-01-10 14:02:56 · 1001 阅读 · 0 评论 -
Yolov5开源代码调试
项目地址:https://github.com/ultralytics/yolov5/tree/v6.0。原创 2024-01-05 17:22:46 · 381 阅读 · 0 评论 -
P1 用reactjs和bootstrap创建页面IDE
文章目录页面IDE展示:要求:页面IDE展示:要求:希望能够达到eclipse辅助编程的功能关键字提醒,高亮1, 有类似C语言的语法结构2, 支持变量绑定3, 支持整形和布尔型数据类型4, 支持算术表达式的解析5, 一级类定义(first-class)和高阶函数(higher order functions)6, 支持闭包,这点像javascript7, 支持字符串数据类型8,支持数组型数据类型9, 支持哈希表型数据类型...原创 2022-01-28 23:14:48 · 1910 阅读 · 0 评论 -
手写编译器
假期没事想搞搞编译器,但学校课程未教过编译原理,自己只好在b站看了stanford的CS143《编译原理》,并结合相关资料,打算寒假期间自己手写一个简易的编译器网络课程链接网络教材相关资料链接...原创 2022-01-27 18:06:03 · 479 阅读 · 1 评论