- 博客(13)
- 资源 (2)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 log_softmax比softmax更好？
探讨一下在多类别分类场景，如翻译、生成、目标检测等场景下，使用log_softmax的效果优于softmax的原因。则使用softmax操作的a,b向量在损失上相差-1e-4，而使用log_softmax在损失上相差-7e-4。此时，对比一下softmax操作之后损失之差为9.42e-2，log_softmax损失之差为0.6661。即便预测概率分布很接近真实概率分布，在损失上下降也不是很明显(9.42e-2)，但使用。会有非常显著的损失下降(0.6661，约为softmax的7倍)。会加大错误类别惩罚。
2023-08-09 23:00:07
369
原创 pytorch——计算网络模型参数个数
parameters = filter(lambda p: p.requires_grad, model.parameters()) # for parameter in parameters: # print(np.prod(parameter.size()) / 1_000_000) parameters = sum([np.prod(p.size()) for p in parameters]) / 1_000_000 print('Trainable ...
2021-07-10 09:24:06
572
原创 只有一层lstm，Out of memory
事情是这样的，我的网络结构是这样的:只有一层lstm+avgpooling+linear，且linear只有一个32*4的隐藏层。网络层很小，所以肯定不是网络参数的事儿，那么问题就出现在样本上。训练数据是有标签样本每批16篇文章，无标签样本5000+，测试集是（有标签+无标签）*0.2。input并没有被torch.cuda.empty_cache()清除 。因此，在使用完网络输出结果后，直接del，这样就不会超出内存了。...
2021-05-26 21:42:45
238
原创 pytorch训练中出现的错误汇集
错误一： File "D:\anaconda3\envs\PyTorch\lib\site-packages\torch\nn\modules\rnn.py", line 559, in forward max_batch_size = input.size(0) if self.batch_first else input.size(1)IndexError: Dimension out of range (expected to be in range of [-1, 0], but .
2020-11-15 17:56:30
5394
6
原创 绩效考核（三）——layUI前端框架
LayUI框架jar包下载LayUI开发使用文档【注】如果自己写UI界面实在太慢，而且效果可能还不是特别好，和老师商量了一下，使用了这几年比较火的前端框架。我们的网站UI居然被另一个老师吐槽所丑，连带着我的老师被吐槽什么审美！[/滑稽脸]基础页面UI 我觉得没什么好讲的，给效果图和源代码就行了。如果遇到逻辑页面，我会挑着讲讲。目录登陆页面页面效果页面源代码数据库...
2019-05-08 18:40:40
1146
原创 绩效考核（二）——对表的操作
题外话： 本来这个项目确实是打算使用java web的框架的，但是后来觉得这个项目实在是比较小，没有必要使用框架，于是就用php写了。改成框架结构也可以，不是太难。还有就是现在不要取下载我的那个资源，资源我本来意思是免费下载的，但是没有发现更改积分价格的地方，那就等我全部做完了把整个项目都上传上去在下载吧，不然真的不划算。1 对voterecord 的操作1.1 vote...
2019-04-04 18:47:22
498
原创 绩效考核数据库
没有搞e-r图，码云也没搞好，先就把sql脚本贴出来。重点介绍question表问题本身有分类：单选、多选、简答举个例子：Q1: 小组讨论需要几人？A:2人 B:3人 C：4人 D：5人因此选择是有子选项的。Q1有自己的问题ID，选项也有自己的ID，所以对于每一个问题需要有两个ID,一个是questionID,另一个是parentID,parentID...
2019-03-27 18:32:03
1183
1
原创 python 实战之模仿开发QQ聊天软件（四）多用户多线程的服务器搭建
这三天时间基本上花在多线程上，但是效果好像还是不是特别好，怎么说呢，学校的老师再讲操作系统的时候我基本在睡觉，现在做这个确实比较难了。学编程最重要的是心法，所以今天的开篇先说一点这半个月来的感受吧：总的来说，自己比较急功近利吧，透支身体在做这个，因为之前是没有接触过python，也没有接触过项目开发。所以自己也是摸索着前进。一、 劳逸结合。过于求成可能适得其反! 举个例子吧，我...
2018-10-17 15:52:45
2863
2
原创 python 实战之模仿开发QQ聊天软件（三）TCP/IP服务器与客户端建设
无论是p2p还是c/s还是b/s，只要用到通讯，必然是要用到今天写的这个。python+MYSQL 在pycharm中的使用TCP/IP是网络软件最核心的部分，缺少这个你只能当做单机游戏玩。TCP/IP，只需要搞清楚udp和tcp这两个就可以了。两者的区别在于udp每次发送信息都需要发送ip和端口号，可以比作寄信，tcp只需要发送一次ip和端口号直到客户端运行结束，可以比作是打...
2018-10-13 17:40:32
3839
2
原创 python 实战之模仿开发QQ聊天软件（二）MySQL数据库的连接和使用
上一篇说道QQ登录界面GUI的模仿设计在自己的电脑上安装mysql.ctrl +shift +T,依次输入sudo suapt-get install MySQL-client-core-5.6apt-get install mysql-client-5.6apt-get install mysql-server-5.6注意：在安装的时候会让你输入一个密码，此密码...
2018-10-09 20:55:42
4649
原创 python 实战之模仿开发QQ聊天软件（一）登录GUI设计
网上找博客找了很久，大家对于PYTHON GUI的介绍都很简单，举得例子也都很基础。有个BUG卡了我2天，就是因为举得例子太简单，不能满足我的需要。这里需要说明一下，网上的例子基本不是面向对象的GUI开发，我用的是面向对象，所以在调试过程中会出现很多问题。卡我两天，然后自己解决还是蛮激动的。首先上我的界面构图阐述一下设计图， ...
2018-10-07 19:56:39
15317
8
SeqList.cpp
2019-09-12
pytorch：从dataset删除数据
2021-03-15
TA创建的收藏夹 TA关注的收藏夹
TA关注的人