自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(14)
  • 收藏
  • 关注

原创 透彻理解大模型框架:Transformer模型原理详解与机器翻译

已知神经网络权重:W_q, W_k, W_v。

2023-05-15 16:43:22 10044 2

原创 常见Fortran编程错误解释

做了个试验,把数组设小了点,改成二维,时间和高度都在外面循环,不用一次读入,这样build的时候也不报错,警告也没了,但算的时候自动就停了,显示超出范围,我把in和jn改小,改为71*21,并改为默认的单精度,还是显示超出范围,再改为71*2,就可以算出来了。NextPlot 属性: 表示坐标轴图形的更新方式,'replace' 是默认的选项,表示重新绘制,而 'add' 选项表示在原来的图形上叠印,它相当于直接使用 hold on 命令的效果。本书中在后面介绍属性值时,将把默认的属性值列在前面。

2023-12-08 11:31:21 1596

原创 基于Transformer的情感分类和机器翻译研究---学生作品_Xin Luo

与RNN不同,可以比较好地并行训练。本身是不能利用单词的顺序信息的,因此需要在输入中添加位置Embedding,否则就是一个词袋模型了。的重点是结构,其中用到的Q, K, V矩阵通过输出进行线性变换得到。中中有多个,可以捕获单词之间多种维度上的相关系数。

2023-09-19 00:21:48 528 1

原创 提名标签:基于约束Transformer的文本生成器复现

摘要本文重点研究了Seq2Seq(S2S)约束文本生成,其中文本生成器被限制在生成输出中提到特定的单词,这些单词是编码器的输入。MF模型被训练生成令牌,直到所有约束都被满足,保证高约束满足。我们的实验在通用生成任务(通用)(林et al.,2020),结束2结束数据到文本任务(E2ENLG)(Dusˇek等,2020)和小说对象字幕任务(概念)(Agrawal等,2019)显示,MF模型保持更高的约束满足和文本质量高于基线的模型和其他约束文本生成算法,在所有三个任务上都实现了最先进的性能。

2023-06-10 22:05:15 287

原创 基于注意力机制的机器翻译系统搭建实战

2、安装tensorflow,matplotlib, jieba, paddle。2、安装sklearn:pip install scikit-learn。

2023-06-06 09:53:15 397

原创 基于卷积神经网络图片风格迁移实践

1、安装python 2.7, tensorflow>=1.0,linux。3、根据四种图片风格,选择四张待迁移的图片,经过测试生成风格迁移后的图片。2、安装好ubuntu,在论文主页下载模型框架。1、安装kylin版本的Ubuntu。2、掌握图片迁移的网络架构方法。1、 掌握卷积神经网络方法。2、训练、测试神经网络。

2023-05-17 22:00:20 506

原创 Efficient Methods for Natural Language Processing: A Survey自然语言处理有效方法综述

Efficient Methods for Natural Language Processing: A Survey关于自然语言处理有效方法的一个综述,近来关于自然语言处理已经取得了非常显著的结果,特别是从缩放模型参数,训练数据。然而,仅仅使用缩放模型来改进性能意味着硬件资源消耗的扩大,包括的资源有数据,时间,存储和能耗,所有这些资源都是有限的,而且是分布不均匀。 这些关于模型有效方法研究的动机是利用较少的资源获得相同的模型结果(效果)。本文章将概括、叙述当前的在自然语言研究方面的方

2023-05-16 15:30:13 386 1

原创 基于Transformer(卷积神经网络、循环神经网络)的情感分类研究

把C:\Program Files\NVIDIA Corporation\NVSMI添加到环境变量的path中。再重新打开cmd窗口。'nvidia-smi' 不是内部或外部命令,也不是可运行的程序。注意:安装时勾选“Python开发”和“C++桌面开发”搭建虚拟环境和pytorch软件平台。下载之后就是简单的下一步直到完成。

2023-04-04 11:13:32 1882

原创 基于YOLO v5的神经网络模型外卖员佩戴头盔目标检测研究

以Yolov5s的结构为例,原始608*608*3的图像输入Focus结构,采用为例,CSP1_X结构应用于Backbone主干网络,另一种CSP2_X结构则应用于Neck中。Yolov5现在的Neck和Yolov4中一样,都采用FPN+PAN的结构,但在Yolov5刚出来时,只使用了FPN结构,后面才增加了PAN结构,此外网络中其他部分也进行了调整。在复杂场景中只需少量的样本,150轮的神经网络训练,达到较高的精度,计算机能够快速探测出场景中的帽子的位置。

2023-03-26 21:15:41 1267 1

原创 人脸检测快速实现实践

gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 转换灰色。print("发现{0}个人脸".format(len(faceRects)))cv2.imshow("photo-test", img) # 显示图像。img = cv2.imread(filepath) # 读取图片。if len(faceRects): # 大于0则检测到人脸。color = (3, 200, 99) # 定义绘制颜色。# OpenCV人脸识别分类器。""" # 左眼。

2023-03-13 15:22:45 149

原创 基于物品到向量的词嵌入神经网络协同过滤推荐系统算法研究_Item2vec: Neural Item Embedding for Collaborative Filtering

协同过滤(CF)算法都是基于项目的,因为它们分析项目项目关系,以产生项目相似性。最近,自然语言处理领域的一些工作建议使用神经嵌入算法来学习单词的潜在表示。其中,负抽样的跳跃图(SGNS),也称为Word2Vec,被证明在各种语言任务上提供了最先进的结果。在本文中,我们证明了基于项目的CF可以在相同的神经词嵌入框架中进行强制转换。受SGNS的启发,我们描述了一种我们命名为Item2Vec的方法,该方法为潜在空间中的项目产生嵌入。即使用户信息不可用,该方法也能够推断项目到项关系。我们在大规模数据集上进行

2023-03-04 09:01:04 276

原创 基于tensorflow下卷积神经网络图片风格迁移_Deep Photo Style Transfer

This paper introduces a deep-learning approach to photographicstyle transfer that handles a large variety of imagecontent while faithfully transferring the reference style. Ourapproach builds upon the recent work on painterly transferthat separates sty

2023-02-23 20:47:19 1706

原创 复现实践COLING 2022 FactMix: Using a Few Labeled In-domain Examples to Generalize to Cross-domain NER

原文链接:https://arxiv.org/abs/2208.11464代码链接:GitHub - lifan-yuan/FactMix: Code for COLING 2022 paper "FactMix: Using a Few Labeled In-domain Examples to Generalize to Cross-domain Named Entity Recognition"示例:pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。2.读入数据

2023-01-13 11:29:02 195 1

原创 卷积神经网络文本句子分类CNN-text (Yoon Kim)复现实践

卷积神经网络文本句子分类CNN-text (Yoon Kim)复现实践

2022-12-19 11:35:52 1128 2

长短期记忆神经网络,transformer模型内部结构详细介绍

transformer模型详细介绍

2023-05-09

深度学习卷积神经网络图片迁移

卷积神经网络图片迁移

2023-05-09

;python手写数字识别

手写数字识别

2023-05-09

python机器人聊天

python机器人聊天

2023-05-09

python射击好玩游戏

python射击好玩游戏

2023-05-09

python游戏猴子如何吃桃子

python游戏猴子如何吃桃子

2023-05-09

自然语言处理语料库下载,nltk下载,punk下载-NLTK所有预料库

NLTK所有预料库(修改好适用所有英文自然语言处理,transformer,bert代码有效

2023-05-02

transformer执行情感分析,CBOW,Skipgram生成词向量代码

transformer执行情感分析,CBOW,Skipgram生成词向量代码,执行cnn_sent_polarity.py

2023-05-02

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除