- 博客(81)
- 收藏
- 关注
RSS订阅原创 【报错解决】opnet14.5报错：网络中的某个节点的src_stat没有具体化
我查阅大量资料并进行尝试之后发现，报错原因是：可能节点模型选错了。就是在节点模型面板中，比如选择PC时，节点模型选错了，我这里是选的ethernet_station_adv（错误的），导致节点内部的进程模块的数据线的src_stat属性为空，没有具体化，所以会报以上错误。解决办法就是换一个节点模型，我这里是换成ethernet_wkstn_adv就可以了，就可以成功运行仿真了。
2024-04-13 11:38:33
174
原创 python导入本地当前目录下的文件和父目录下的文件
对，你没有看错，就是在tokenizer的前面加一个点，无敌简单的方法，或许有时候简单的反而更有效【笑哭】【笑哭】【笑哭】import osimport sys就可以成功导入了。
2024-04-05 12:59:50
279
原创 anaconda虚拟环境安装apex0.1教程win10
我安装apex0.1的环境是：torch（gpu）1.8.0，cuda10.2，cuda8.5。
2024-04-05 10:03:37
947
原创 【anaconda报错解决】Fatal error in launcher: Unable to create process using ‘“d:\anaconda3\envs\pytorch-gp
它前面报错的"d:\anaconda3\envs\pytorch-gpu-1.2.0\python.exe"中的pytorch-gpu-1.2.0是我以及那个删除掉的虚拟环境，这报错看着就很奇怪。上网去查，解决办法都是二进制的什么操作，完全看不懂，也不敢尝试。
2024-03-29 14:52:05
365
原创 将字典写入json文件python，其中的中文变成unicode编码
json.dumps()方法将dict的数据转换为str数据，然后将str写入到文本中，但是json.dumps()方法会默认将其中unicode码以ascii编码的方式输入到string。在json.dumps()方法中加入一个参数，并把值设置为False（默认为True），即可显示中文。
2024-03-19 21:46:33
240
原创 【报错解决】main.py: error: the following arguments are required: --data_dir, --save_dir
时，报出了这一错误，
2024-03-15 15:44:12
415
原创 stanfordcorenlp创建实例对象时，一直运行，不报错也不出结果
前几天因为工作需要下载了Stanford Corenlp工具，然后创建相应的实例对象，对文本进行分词、注释等操作。单句测试的时候可以正常运行，很快就出结果，但是写到函数里，就是一直运行，不报错也不出结果，debug发现是卡在了创建对象那里。后来经过一番努力【疯狂搜索】，终于解决了~~~【哈哈哈哈哈哈】
2024-03-15 10:41:24
491
原创 python居然还有Union类型？
在Python中，Union类型是一种用于表示一个变量可以是多个不同类型之一的类型注解。它是typing模块中的一个类，可以与其他类型一起使用，以指定一个变量可以接受的多个类型。# 这里的type1、type2等代表要包含在Union类型中的类型，可以是任何合法的类型，包括内置类型、自定义类型和其它Union类型。
2024-03-13 19:40:30
374
原创 电脑上同时安装多个版本的cuda
比如，我原本安装的cuda是9.0版本的，现在我新安装的cuda是9.2版本的。当需要配置多个anaconda虚拟环境，并且其tensorflow或pytorch的版本不同时，所需的cuda的版本也不同，因此，可能会需要在电脑上同时安装多个版本的cuda。）那么，只要让新版本的（9.2版本的）cuda的这四个环境变量的位置，在旧版本（9.0）cuda的这四个环境变量的位置 之上即可。然后一路确定退出，再在cmd中输入nvcc -V，即可返回新安装的cuda的版本：9.2。
2024-03-12 17:14:51
393
原创 【pytorch】pytorch学习笔记（续5）
（1）解决方案：每一次计算的时候都检查一下w的梯度信息，如果梯度>阈值，则用当前梯度除以当前梯度的模（方向保持不变），然后再乘阈值，这样就将梯度缩放到了阈值范围内。2.考虑上下文语境信息：用一个单元把上文信息记录下来，在计算当前层的h时，不仅要考虑当前层的输入，还要考虑上一层的h。将原本的梯度=Whhk变成了梯度=四项累加的和，大大减少了梯度特别小的情况的出现概率，从而有效减轻了梯度离散。公认的一个前提：在G没有训练的时候（即刚开始的时候），pr和pg是几乎没有重叠（overlap）的。
2024-01-27 17:00:00
386
原创 【pytorch】pytorch学习笔记（续4）
前22层训练后，与后8层并列的有一个短路层，如果后8层的训练效果并不好，那就训练完前22层后走短路层，如果后8层训练得好，那前22层训练完后就走后8层。后面的层是对前面的层的一个综合，它不是对应元素相加，而是拼接，因此其channel会变得很大。由图可见，在堆叠到20层左右的时候，再增加层数，会由于层数过多，训练难度过大，而导致train的效果不好，从而导致模型的效果并不好。2.test时，可能只有一个测试案例，所以是无法取到batch的均值和方差的，所以test时使用的均值和方差是全局的均值和方差。
2024-01-27 12:30:00
898
原创 【pytorch】pytorch学习笔记（续3）
因为对损失函数最小化的时候，不仅对原本的损失函数做了最小化，还对正则项做了最小化，从而使得模型的低微变量的参数相对较大，二高维变量的参数十分接近于0，这就会造成不仅使得模型的表现最优，还使得模型的复杂度得到了降低的效果，从而实现在不影响模型表现的情况下降低模型复杂度的目的。若没有的话则什么都不做，只是记录一下。（1）如何实现：对每一个w（或者每一条边）定义一个额外的属性：probaiblity，即在前向传播中，每一条边都有一定的概率会输出为0，即把原本应输出为wx的输出为0，即把这条连接（即边）给断掉。
2024-01-26 16:15:00
524
原创 【pytorch】pytorch学习笔记（续2）
（2）如果设置了p.backward(retain_grad=True)，那么执行完该语句后再执行p.backward()就不会报错了，但如果第三次执行p.backward()而第二次p.backward()中没有设置retain_grad=True，那么第三次执行会报错。：1.X,Y=np.meshgrid(x,y):把x和y的范围传进去，就会生成两张图片，每张图片上相同位置的两个点拼在一起，就会形成一个坐标（x，y）。注意：w.norm()返回的是L2范数，w.grad.norm()返回的是。
2024-01-26 09:45:00
930
原创 【pytorch】pytorch学习笔记（续1）
上图中第19行中label.expand(4,10)，label是一个size是[10]的tensor，使用expand操作后就变成了[4,10]的tensor，expand操作当确实维度的时候可以在当前维度前面自动添加一个新维度并对其进行扩展吗？2.函数的梯度是一个向量，这个向量的方向表示这个函数在当前点的增长方向，这个向量的模即长度代表了这个函数在当前这个点增长的一个速率。常用，如概率，RGB等。12.k-th:即第k个的值：kthvalue(k,dim=1)：只能表示最小的，即k表示第k小的。
2024-01-25 20:00:00
633
原创 【pytorch】pytorch学习笔记
（2）squeeze(idx):idx为要删减的那个维度的参数，如果不给idx的话，会把所有能删减的（即：dim.size为1的维度）都删减掉。3.Tensor()生成的类型是默认的类型，即把默认的类型设置成什么类型，Tensor()生成的就是什么类型的tensor，通常会把默认的类型由float改为double，因为double类型的精度是64位，会更精确一些。dim（2）是size/shape（[2,2]）的长度，size/shape是tensor（[1,2][3,4]，两行两列的一个矩阵）的形状。
2024-01-25 09:00:00
861
原创 【报错解决】anaconda： Read timed out.
换一个源进行下载，比如使用清华源、豆瓣源等。我这里是使用百度镜像下载的，速度较快，而且也不会报错，几分钟就下载完成了。造成以上报错的原因是：网络连接出现问题，无法下载。
2024-01-24 11:02:14
719
原创 【c++】利用嵌套map创建多层树结构
首先定义一个节点类Node类，要包括children（用map容器实现），即用map结构来模拟子树，然后整棵树也用一个map结构来实现。因此，总体来说，就是用一个嵌套的map结构来实现多层树结构。以下给出每一步具体的描述 及相应的代码。定义树结构之前要先定义一个节点类Node类，要包括键、值、children等属性，并包括有参无参构造函数，此外，本文还实现了一个打印所有节点包括的键值对的函数（PrintTree函数）。Node* left;Node() {}
2024-01-14 10:30:00
1285
原创 【vs】vs编辑器的光标变粗，输入字母会把光标选中的字母覆盖掉
在vs2019编辑器中，光标突然变粗，在选中的位置输入字母会把光标选中的字母覆盖掉。
2024-01-11 20:13:44
427
原创 hugging face官网打不开，bert-large-uncased-whole-word-masking-finetuned-squad模型无法下载到本地
最近在用bert预训练模型做问答任务时，想要下载bert-large-uncased-whole-word-masking-finetuned-squad模型，但是打不开hugging face官网，下载不了该模型。这一问题困扰了我很久，但终于还是解决了 hh~
2024-01-10 07:45:00
655
原创 【hugging face无法加载预训练模型】OSError：Can‘t load config for ‘./bert-base-uncased‘. If you‘re trying
当运行以下两行代码时，明明已经将下载到本地的bert-base-uncased模型放到了当前py文件的目录下，
2024-01-09 17:30:00
1924
原创 【hugging face无法加载预训练模型】OSError：Can‘t load config for ‘./bert-base-uncased‘. If you‘re trying
当运行以下两行代码时，明明已经将下载到本地的bert-base-uncased模型放到了当前py文件的目录下，
2024-01-09 11:15:11
2452
原创 【报错解决】RuntimeError: Expected tensor for argument #1 ‘indices‘ to have one of the following scalar
直接换一个函数生成tensor，就是不再使用Tensor()函数了，而是使用torch.tensor()函数，也就不会报错了。在Tensor()函数后面加.long()转换成long类型，就不会再报错了。
2024-01-08 19:40:40
1247
原创 【报错解决】ModuleNotFoundError: No module named ‘setuptools.build_meta‘
更新以下setuptools即可。
2024-01-08 19:33:36
793
原创 【KD】知识蒸馏（knowledge distillation）简单介绍
最近学到了知识蒸馏的相关知识，来简单总结一下૮꒰ ˶• ༝ •˶꒱ა。知识蒸馏知识蒸馏，是一种模型压缩的手段。通过训练学生模仿教师的行为，将嵌入在大的教师模型中的知识迁移到小的学生模型。例如，TinyBERT(Jiao et al.,2020)通过在通用领域的大规模语料库上执行通用的蒸馏，首次得到了一个通用的蒸馏小模型，然后在微调阶段用下游任务数据执行面向特定任务的蒸馏。DynaBERT通过从全量模型到小规模的子模型的知识蒸馏，训练了一个宽度自适应和深度自适应的BERT模型。
2024-01-06 16:33:11
482
原创 【txt-＞dataframe】将txt文件中的数据读入，并转换成dataframe对象
原始数据保存在txt文件中，需要从中读入数据，并将其转换成dataframe对象，以便后续进行处理。
2024-01-04 19:30:41
630
原创 【报错解决】TypeError: __init__() got an unexpected keyword argument ‘size‘
【代码】【报错解决】TypeError: __init__() got an unexpected keyword argument ‘size‘
2024-01-03 20:17:38
740
原创 【dataframe】将dataframe中的数据保存到csv文件或txt文件中
对比以上两个代码片段，可以发现，将dataframe中的数据保存到csv文件和txt文件的主要区别在于：函数中的sep参数值的设置，保存到csv文件中sep=','；保存到txt文件中sep='\t'。
2024-01-03 20:11:37
1435
原创 【形式语言与自动机/编译原理】CFG--＞Greibach--＞NPDA（3）
本文将详细讲解《形式语言与自动机》（研究生课程）或《编译原理》（本科生课程）中的上下文无关文法（CFG）转换成Greibach范式，再转成下推自动机（NPDA）识别语言是否可以被接受的问题。此外，本文还给出了python代码的具体实现。由于内容比较多，所以为了讲清楚，分成了3篇博客，第一篇主要讲 解从上下文无关文法到Greibach范式的具体步骤和流程，并给出了相应的算法及具体的例子；第二篇主要讲解从Greibach范式到下推自动机NPDA，同样给出了相应的算法及具体的例子；
2024-01-01 09:14:10
555
原创 【形式语言与自动机/编译原理】CFG--＞Greibach--＞NPDA（2）
本文将详细讲解《形式语言与自动机》（研究生课程）或《编译原理》（本科生课程）中的上下文无关文法（CFG）转换成Greibach范式，再转成下推自动机（NPDA）识别语言是否可以被接受的问题。此外，本文还给出了python代码的具体实现。由于内容比较多，所以为了讲清楚，分成了3篇博客，第一篇主要讲 解从上下文无关文法到Greibach范式的具体步骤和流程，并给出了相应的算法及具体的例子；第二篇（即本篇）主要讲解从Greibach范式到下推自动机NPDA，同样给出了相应的算法及具体的例子；
2023-12-31 15:13:02
457
原创 【形式语言与自动机/编译原理】CFG-＞Greibach-＞NPDA（1）
本文将详细讲解《形式语言与自动机》（研究生课程）或《编译原理》（本科生课程）中的上下文无关文法（CFG）转换成Greibach范式，再转成下推自动机（NPDA）识别语言是否可以被接受的问题。此外，本文还给出了python代码的具体实现。由于内容比较多，所以为了讲清楚，分成了3篇博客，第一篇（即本篇）主要讲 解从上下文无关文法到Greibach范式的具体步骤和流程，并给出了相应的算法及具体的例子；第二篇主要讲解从Greibach范式到下推自动机NPDA，同样给出了相应的算法及具体的例子；
2023-12-31 15:12:41
404
原创 【Transformer】深入理解Transformer模型2——深入认识理解（下）
Transformer模型出自论文：《Attention is All You Need近年来，在自然语言处理领域和图像处理领域，Transformer模型都受到了极为广泛的关注，很多模型中都用到了Transformer或者是Transformer模型的变体，而且对于很多任务，使用加了Transformer的模型可以获得更好的效果，这也证明了Transformer模型的有效性。
2023-12-30 20:05:36
995
原创 【Transformer】深入理解Transformer模型2——深入认识理解（上）
Transformer模型出自论文：《Attention is All You Need近年来，在自然语言处理领域和图像处理领域，Transformer模型都受到了极为广泛的关注，很多模型中都用到了Transformer或者是Transformer模型的变体，而且对于很多任务，使用加了Transformer的模型可以获得更好的效果，这也证明了Transformer模型的有效性。
2023-12-30 19:57:19
1093
原创 【Transformer】深入理解Transformer模型1——初步认识了解
近年来，在自然语言处理领域和图像处理领域，Transformer模型都受到了极为广泛的关注，很多模型中都用到了Transformer或者是Transformer模型的变体，而且对于很多任务，使用加了Transformer的模型可以获得更好的效果，这也证明了Transformer模型的有效性。masked的作用就像是在进行解码的时候遮住了后面顺序的向量，只考虑前面已经出现的特征（因为解码的时候是一个一个输出的，在解前面特征的时候没有办法把后i按未解码的部分考虑进来，这和Encoder不一样）。
2023-12-30 19:46:29
371
原创 【BERT】深入BERT模型2——模型中的重点内容，两个任务
首先先解释以下上一篇博客中经常提到的模型的单向和双向：单向：是指生成句子中某个单词的编码表示时，只结合句子中该单词位置之前的语境，而不考虑之后的语境；双向：是指生成句子中某个单词的编码表示时，同时考虑句子中该单词位置之前和之后的语境。由此可知，Transformer的编码器（主要是多头注意力机制）天然就是双向的，因为它的输入是完整的句子，也就是说，指定某个单词，BERT已经读入了它两个方向上的所有单词。7、BERT的标准配置有两种：BERT-base和BERT-large。
2023-12-30 19:28:36
1181
原创 【BERT】深入理解BERT模型1——模型整体架构介绍
1、BERT模型基于Transformer架构实现，是一种全新的双向编码器语言模型。与ELMo、GPT等单相语言模型不同，BERT旨在构建一个双向的语言模型来更好地捕获语句间的上下文语义，使其在更多的下游任务上具有更强的泛化能力。因此，预训练完成的BERT模型被迁移到下游任务时，只需要再添加一个额外的输出层便可以进行微调，例如问答和语言推理任务，并不需要针对具体的任务进行模型架构的修改。2、为了使NLP模型能够充分利用海量廉价的无标注数据信息，预训练语言模型应运而生。
2023-12-30 19:14:19
2073
原创 【c++】遍历一棵树来获取信息，并根据这些信息用map生成另一棵树，新树的键是string类型，值是char*类型
递归遍历一棵树，将获取的信息以键值对的形式存放到c++的vector容器中，然后遍历vector容器中的键值对信息，利用map容器生成个另一棵树。具体来说，就是使用类型的向量infoVector来存储节点信息，其中第一个元素为键（类型），第二个元素为值（类型）。然后，我们创建一个容器来存储信息，并使用将信息作为键和值插入到infoMap中。然后，我们可以通过先序遍历、中序遍历或者后序遍历的方式来验证生成的树结构是否与我们的预期相符。
2023-12-30 18:54:36
419
PMR-main.zip PMR源码
2024-04-07
pip-21.1.3.tar.zip
2024-03-26
allennlp-0.8.5
2024-03-26
EasyConnect，访问高校VPN的软件，这是她的安装包，解压之后安装即可使用
2024-03-15
Zoom视频会议软件电脑版安装包 ZoomInstaller（电脑版）.exe
2024-03-14
OPNET14.5 包交换实验 官方教程（英文原文） pdf
2023-11-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人