xhsun的博客

也就是说AutoTokenizer是又一层的封装，避免了自己写attention_mask以及token_type_ids

数据处理数据处理部分见数据处理部分我们已经知道,prepare_train_batch函数返回14个变量每一个变量都是一个列表，有batch个元素id_batches[i]代表的是第i个batch中batch个问题的idinput1_batches[i]代表的是第i个batch中的batch个问题，每一个问题文本的id序列，根据这些id就可以查找对应的词向量input2_batches[i]代表的是第i个batch中的batch个问题，每一个问题文本对应的词性标注的id序列，因为要将每一个单词

NLLLossNLLLoss就是负对数似然(negative log likelihood loss)计算公式：nllloss=−∑n=1Nynlog⁡prob(xn)nllloss=-\sum_{n=1}^{N}y_n\log prob(x_n)nllloss=−n=1∑N​yn​logprob(xn​)举个例子就是：x=[0.1,0.2,-0.7]y=[0,1,0]计算过程就是：对x进行softmax转换成概率，然后对每一个值取log，再乘以标签-log(softmax(x))*y

我遇到这种情况是在使用CrossEntroyLoss()出现的计算loss时有input和target两个张量input的形状是(batch_size,num_classes)target的形状是(batch_size,)这里target里面的每一个值必须是[0,num_classes-1]出现上述的错误原因很可能是你的target中的值取到了num_classes...

这两个函数主要是用在RNN中处理变长序列的我们来看下面的例子：import torchinputs=torch.LongTensor([[1,2,0,0],[7,5,4,0],[9,0,0,0],[2,5,8,7]])inputs_length=torch.LongTensor([2,3,1,4])其中inputs是我们假设的输入数据，值是0的位置代表该位置是pad的。inputs_length是输入数据的实际长度。相当于说我们输入了4个句子，第一个句子长度为2，第二个句子长度为3，第三个句子

输入的参数列表包括:input_size 输入数据的特征维数，通常就是embedding_dim(词向量的维度)hidden_size　LSTM中隐层的维度num_layers　循环神经网络的层数bias　用不用偏置，default=Truebatch_first 这个要注意，通常我们输入的数据shape=(batch_size,seq_length,embedding_dim),而...

时间转时间戳import timestr_time="2010--03--24 20:47:31"timeStamp=int(time.mktime(time.strptime(str_time,"%Y--%m--%d %H:%M:%S")))print(timeStamp)结果是1269434851时间戳转时间字符串timeStamp=1269434851str_time=time.strftime("%Y--%m--%d %H:%M:%S", time.localtime(timeSt

RuntimeError: cuda runtime error (38) : no CUDA-capable device is detected at /pytorch/aten/src/THC/THCGeneral.cpp:50将os.environ[‘CUDA_VISIBLE_DEVICES’]赋值为’0’os.environ['CUDA_VISIBLE_DEVICES']='0'RuntimeError: Expected object of device type cuda but go

AttributeError: ‘module’ object has no attribute ‘FixedLenFeature’在tf2.x中已经变为tf.io.FixedLenFeature