![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
python代码有关
文章平均质量分 76
chaiiiiiiiiiiiiiiiii
专注摸鱼二十年
展开
-
torch.nn.embedding()大致使用方法
碰到了这个东西,有点不太清楚,在这里记下笔记将nn.embedding理解为学习一个词向量的表示,每一个词都会对应一个指定维度的单独的向量表示(embed_dim在GRU等模型的输入中,可以认为是input_size)。假设当前词汇表中一共有V个不同的词,则可以定义如下形式:假设当前词汇表中有4个不同的单词,则V=4import torchimport torch.nn as nnemb...原创 2020-05-05 16:27:51 · 2741 阅读 · 0 评论 -
python函数笔记总结
1.logging模块的使用from resource.util.get_logger import get_loggermain_logger=get_logger("main","data/log/{}.log".format(TrainOption.task_uuid))main_logger.info("TASK ID {}".format(TrainOption.task_uui...原创 2020-03-27 23:23:54 · 1743 阅读 · 0 评论 -
pytorch nn.GRU(),RNN详细代码
GRU,LSTM,RNN等模型网络在pytorch中的定义均在torch/nn/modules/rnn,py中其中GRU,RNN,LSTM均是继承的父类RNNBase其中关于RNNBase类的定义: def __init__(self, mode, input_size, hidden_size, num_layers=1, bias=True, ba...原创 2020-03-27 21:58:29 · 12415 阅读 · 0 评论 -
torch.nn.Module中的training属性详情,与Module.train()和Module.eval()的关系
Module类的构造函数: def __init__(self): """ Initializes internal Module state, shared by both nn.Module and ScriptModule. """ torch._C._log_api_usage_once("python.nn_modu...原创 2020-03-27 20:42:44 · 10280 阅读 · 0 评论 -
torch.nn.CrossEntropyLoss(),torch.nn.NLLLoss()函数
torch.nn.NLLLoss()nn.NLLLoss输入是一个对数概率向量和一个目标标签NLLLoss() ,即负对数似然损失函数(Negative Log Likelihood)。NLLLoss() 损失函数公式:NLLLoss=−1N∑k=1Nyk(log_softmax)NLLLoss=-\frac{1}{N}\sum_{k=1}^{N}y_k(log\_softmax)NLLL...原创 2020-03-27 18:54:30 · 1313 阅读 · 0 评论 -
pytorch .to(device)
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")model.to(device)mytensor = my_tensor.to(device)这行代码的意思是将所有最开始读取数据时的tensor变量copy一份到device所指定的GPU上去,之后的运算都在GPU上进行。这句话需要写的次数等于需...转载 2020-03-27 15:45:41 · 2345 阅读 · 0 评论 -
python函数中参数的传递
function(*arg):在python函数的定义时,可能会根据情况的不同出现传入参数个数不固定的情况,以∗*∗加上形参名的方式表示函数的参数个数不固定,可以是0个,也可以是多个。传入的参数在函数内部被存放在以形参名为标识符的tuple中。例子:def loss(self,*targets): target,history=targets[0],targets[1]def func...原创 2020-03-27 15:27:50 · 249 阅读 · 0 评论 -
python命令行交互 argparse
关于argparse包使得python可以直接从命令行读取参数的部分操作记录。对于碰到的部分操作进行记录。更加详细的内容请查看官方文档 import argparse parser = argparse.ArgumentParser() parser.add_argument("--m", choices=["1", "2", "3", "4","5"]) # choices...原创 2020-02-20 11:49:25 · 322 阅读 · 0 评论 -
pytorch中的model.train()和model.eval()
对于一些含有BatchNorm,Dropout等层的模型,在训练和验证时使用的forward在计算上不太一样。在前向训练的过程中指定当前模型是在训练还是在验证。model.train()#使用BatchNormalizetion()和Dropout()model.eval()#不使用BatchNormalization()和Dropout()官方文档链接参考链接:1.pytorc...原创 2020-01-06 16:02:24 · 3740 阅读 · 0 评论 -
pytorch中模型的保存与加载:torch.save(),torch.load()
pytorch保存模型与加载:模型的保存torch.save(net,PATH)#保存模型的整个网络,包括网络的整个结构和参数torch.save(net.state_dict,PATH)#只保存网络中的参数模型的加载分别对应上边的加载方法。model_dict=torch.load(PATH)model_dict=net.load_state_dict(torch.load(PA...原创 2020-03-25 21:11:09 · 5560 阅读 · 0 评论 -
python代码问题汇总
写在开始记录下在看python代码过程中遇到的问题汇总,和之后找到的正确的答案记录。1.python中文件路径中加大括号’{}’,表示的意思是什么???filename = "data/cache/{model}/{uuid}/{mode}-{global_step}-{metric}.txt"#这个大括号不太清楚是啥用...原创 2020-02-28 14:10:11 · 222 阅读 · 0 评论