自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(30)
  • 收藏
  • 关注

原创 如何向BertModel增加字符

这里写自定义目录标题

2023-08-25 20:34:56 843

原创 VsCode使用技巧

打开终端!!Ctrl+`打开设置:Ctrl+逗号打开中间的Control Pallete: Ctrl+Shift+P运行部分代码:选中之后按Shift+Enter或者右键选择run selectedAlt +Click创建一个新光标并在两个光标的位置同时打字。选中一个变量名,之后Ctrl+Shift+L可以全选所有该名字出现的位置,就可以全部都替换。Ctrl+空格 提示后续可以输入的函数或方法(但搜狗输入法下会会导致中英切换)整体向上或向下移动一行:光标放那一行,Alt+up/down在上方

2022-01-24 12:29:12 570

原创 【Review】自然语言处理发展史中的里程碑总结

本次搬运Sebastian Ruder的博客A Review of the Neural History of Natural Language Processing,可以快速了解深度学习时代NLP的发展历史及其中的里程碑式工作。2001 Neural language models语言建模是指在给定前面若干个单词的情况下,预测文本下一个出现的单词。这是一个最简单的自然语言处理任务,但同时有着最具体的应用。传统方法使用n-gram模型进行语言建模,并用不同平滑方法处理未出现的n-gram。[1]第一个

2022-01-23 12:08:07 1027

原创 强化学习笔记(二)

Q-learning: 基于价值,单步更新,离线学习(采样策略不是真实的目标策略)Sarsa: 基于价值,单步更新,在线学习(走一步学一步,采样策略与目标策略相同)Policy Gradients: 基于概率,回合更新(基础版)DQNDQN: Deep Q-learning Network, 获取Q(s,a)值的方法从Q-table表格式存储检索换成神经网络计算生成。输入是state,输出是该state下每个action的Q(s, a)。经验回放 Experience Replay:在replay

2022-01-06 12:16:47 638

原创 tmux终端复用 使用指南

快捷键的使用:prefix + 快捷键默认prefix是ctrl+b按完之后单击d就是detach当前会话,不需要再ctrl了!!!!

2021-12-14 14:13:48 207

原创 强化学习笔记(一)

第五章 蒙特卡洛方法(MC)(一)MC策略评估1.MC prediction: 估计状态值First-visit MC prediction算法,用来估计每个状态值。也有every-visit,不过没有first-visit用的多-和DP相比:MC方法对每个状态值的估计是独立的,没有用到自己以前的状态,称为没有用到bootstraping2.MC estimation of action values: 估计动作值在模型不可知的情况下,估计状态动作值q(s,a)比估计状态值v(s)更有用。这是因

2021-12-12 11:36:03 424

原创 【PyTorch学习笔记】各类torch小函数

torch.cattorch.topk()1.函数形式:torch.topk(input, k, dim=None, largest=True, sorted=True, *, out=None) -> (Tensor, LongTensor)返回给定tensor的前k大元素和其下标2.参数:3.例子:>>> x = torch.arange(1., 6.)>>> xtensor([ 1., 2., 3., 4., 5.])>&g

2021-08-28 17:29:55 475

原创 【PyTorch Tutorial学习笔记】PyTorch NLP(三)

Classifying names with a char level RNN

2021-08-28 15:47:23 335

原创 【PyTorch Tutorial学习笔记】PyTorch官方教学(二)

PreliminaryTensor用法tensor初始化及属性rand_tensor = torch.rand(2,3)ones_tensor = torch.ones(2,3)zeros_tensor = torch.zeros(2,3)print(tensor.shape, tensor.dtype, tensor.device)p.s.tensor默认是创建在CPU上的,需要显式地移动到GPU。# We move our tensor to the GPU if availabl

2021-08-28 15:46:12 836

原创 【Deep Learning学习笔记】循环神经网络及其变体

开坑

2021-08-17 23:11:08 150

原创 【开坑】python处理csv相关操作 #on-working#

目录读取csv使用pandas模块使用csv模块写入csv修改某一列的值读取csv使用pandas模块使用csv模块写入csv修改某一列的值

2021-08-16 23:18:08 183

原创 【PyTorch Tutorial学习笔记】PyTorch代码模板(自用)(一)

QUICKSTART

2021-08-02 23:32:55 276

原创 【学术方法 | 如何做研究】You and Your Research by Richard Hamming

看了所里师兄推荐的You and your research,是由Richard Hamming教授的演讲整理出来的讲稿和Q&A,记录了若干我觉得重要的点1.做出great research的重要特质:Courage, Drive, Ambiguity…关于Luck: luck is for prepared mind. And it’s not all about luck.Yes, I would like to do something significant.要有勇气。好的工作环

2021-07-20 20:53:22 222

原创 【学术方法 | 文献阅读】How to Read Papers

今天搬运这篇帖子里S. Keshav老师讲到的读文章的方法。(一)单篇文章的“三遍阅读法”1.第一遍用时:5-10min目的:get general idea解释:快速阅读标题、摘要、intro、节标题、结论、参考文献,不读其他部分。了解文章的category, context, correctness, contribution, clarity。留意参考文献,并标注其中已看过的文章。第一遍阅读后决定是否要深入阅读这篇文章。(同理,写文章时,也按大部分人是one pass阅读的标准来写)

2021-07-20 13:55:44 441

原创 DocRED数据集及其baseline #on-working#

DocRED是thunlp在2019年发布的一个大规模、人工标注、通用领域的篇章级别关系抽取数据集。数据来源是wikipedia和wikidata。paper, codeDataset:人工标注数据:来自5053篇维基百科文档,共13w个实体,5w个关系远程监督数据:来自101873篇维基百科文档(10w+),共255w个实体,88w个关系1.数据处理流程:Stage 1: Distantly Supervised Annotation Generation维基百科文档的introductor

2021-06-11 19:25:02 1541 2

原创 Pycharm操作指南 #on-working#

1. deployment为灰色,无法上传远程服务器依次尝试配置服务器地址-将该地址设为默认地址-设置正确的mapping。大概率是因为没有设置默认或者mapping导致的。可以参考这篇博客。

2021-06-08 18:45:16 139 1

原创 pytorch nn.Linear的用法和理解

先贴官方文档nn.Linear是完成从in_features到out_features的线性变换。实例化完成后input的大小可以有多维,但最后一维的大小必须和in_features一致。>>> m = nn.Linear(20, 30)>>> input = torch.randn(128, 20)>>> output = m(input)>>> print(output.size())torch.Size([128,

2021-05-27 09:29:23 2265

原创 pytorch nn.LSTM及nn.LSTMCell的用法和理解

照例先贴官方文档~以下是实例化一个nn.LSTM单元时会用到的参数,例如lstm = nn.LSTM(10, 20, 2)就实例化了一个input_size=10, hidden_size=20,num_layer=2的LSTM网络,也就是输入的维度为10,隐层的神经元数目为20,总共有2个隐层。实例化好的LSTM如何使用呢?以下是输入,h0和c0都是可选的,重点是input,是一个表示输入序列特征的tensor,维度是(seq_len, batch, input_size),比如接上例,x = to

2021-05-26 21:14:21 5846 1

原创 交叉熵损失函数

可以参考这篇文章,下两张图是一个例子。也可以参考这篇文章

2021-05-21 15:28:14 177

原创 SpERT源码阅读 #on-working#

项目重要文件的目录树如下:spert│ args.py # 各种参数的设置│ config_reader.py # 读取并处理config文件│ spert.py # 程序入口│ __init__.py # 空文件,用于构成package├─bert-base-chinese│ bert_config.json│ config.json│ pytorch_model.bin│ vocab.

2021-05-21 09:49:36 1211 7

原创 python list格式的str转list

直接eval(str)我再也不会忘了…

2021-04-09 17:08:33 733

原创 pytorch nn.Embedding的用法和理解

首先来看official docs对nn.Embedding的定义:是一个lookup table,存储了固定大小的dictionary(的word embeddings)。输入是indices,来获取指定indices的word embedding向量。官方文档的示例:>>> # an Embedding module containing 10 tensors of size 3>>> embedding = nn.Embedding(10, 3)&gt

2021-03-25 18:31:39 65102 28

原创 Pytorch安装(Anaconda配置虚拟环境)(GPU版本)

torch.__version__ # 1.6.0torch.cuda.is_available() # Falsecudatoolkit:‘10.2.89’利用anaconda查看虚拟环境:conda env list关于python虚拟环境的解读时常看到有人说conda虚拟环境,这个说法其实不对,那叫python的虚拟环境。python虚拟环境可以通过virtualenv模块或者pipenv模块来创建和管理,也可以通过conda来管理。** 每个虚拟环境下都有一套python和其他需要

2020-10-16 19:24:08 5918

原创 python虚拟环境的多种操作方法+原理

虚拟环境的使用方法:参考知乎文章https://zhuanlan.zhihu.com/p/60647332常用命令:conda env list 列出系统所有的虚拟环境conda list 当前环境的已安装的包conda list -n env 指定环境安装的包conda install -n env numpy 在指定环境下安装指定包(省去-n env则是在当前环境下安装,更新用update,删除用remove)虚拟环境的原理:基本原理是改变当前SHELL的PATH或者改变python运行

2020-09-15 12:33:19 146

转载 Python出现Typeerror: ‘str’ Object Is Not Callable

出错代码:>>> x = 1.99>>>>>> str(x)Traceback (most recent call last): File "<stdin>", line 1, in <module>TypeError: 'str' object is not callable原因:之前在同一个python解释器中定义了一个叫str的变量…于是这个变量覆盖了原有的str()函数,因此解释器会认为str不是一个函数

2020-07-29 16:14:56 1976

转载 LATEX插入参考文献(两种方法)

LaTeX插入参考文献,可以使用BibTex,也可以不使用BibTex。方法一:不使用BibTeX先在文章末尾(\end {document}之前)写好需要插入的参考文献,逐一写出,例如:\begin{thebibliography}{99} \bibitem{ref1}Zheng L, Wang S, Tian L, et al., Query-adaptive late fusion for image search and person re-identification, Proceedi

2020-07-27 09:09:48 110026 16

转载 iTunes备份更改默认路径

https://blog.csdn.net/DomoWit/article/details/83186370

2020-06-13 22:23:27 379

原创 Android: Activity class {com.example.helloword/com.example.helloworld.MainActivity} does not exist.

Error: Activity class {com.example.project/com.example.projectggjk.MainActivity} does not exist.这个错误是因为我在同一文件夹曾有同名称的project,在文件夹内删掉了,但是模拟器内没有删掉,所以导致程序找不到新project的MainActivity。解决办法:Build-Clean Project重启Android Studio再次运行程序参考:https://blog.csdn.net/q

2020-05-20 15:01:43 1077

原创 vscode关闭右侧预览功能

使用vscode的时候右侧总是有代码的缩略图,在分屏的时候非常占位置。这个“缩略图”,是预览功能,叫做minimap。想要删掉,打开“File-Preferences-Settings”,搜索minimap,找到enabled选项,把对勾去掉即可。...

2020-05-06 16:03:18 1282

原创 Pytorch安装(Anaconda配置虚拟环境)(cpu版)

Pytorch安装(Anaconda配置虚拟环境)最近在学习Pytorch,一开始配好了环境,今天又突然不能用了,只好重配。之前跟着一本讲Keras和tf的书在Anaconda下配置了tensorflow的虚拟环境,这次希望能建立单独的Pytorch虚拟环境。由于我的anaconda prompt和jupyter都是tensorflow虚拟环境的(如下图,这个还不清楚是怎么回事),不知道能否用...

2020-04-18 15:14:57 7920 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除