深度学习
PKU_CXK
北京大学信息科学技术学院
展开
-
HMM和Viterbi算法
一、隐马尔可夫模型(Hidden Markov Model)1、简介 隐含马尔可夫模型并不是俄罗斯数学家马尔可夫发明的,而是美国数学家鲍姆提出的,隐含马尔可夫模型的训练方法(鲍姆-韦尔奇算法)也是以他名字命名的。隐含马尔可夫模型一直被认为是解决大多数自然语言处理问题最为快速、有效的方法。2、马尔可夫假设 随机过程中各个状态St的概率分布,只与它的前一个状态St-1有关,即P(S...转载 2018-09-11 16:29:55 · 739 阅读 · 0 评论 -
Dilated Convolutions
1. 扩张卷积Dilated Convolutions,翻译为扩张卷积或空洞卷积。扩张卷积与普通的卷积相比,除了卷积核的大小以外,还有一个扩张率(dilation rate)参数,主要用来表示扩张的大小。扩张卷积与普通卷积的相同点在于,卷积核的大小是一样的,在神经网络中即参数数量不变,区别在于扩张卷积具有更大的感受野。感受野是卷积核在图像上看到的大小,或者说卷积后的图像上,一个像素点对应着原图中...原创 2018-09-19 18:23:33 · 1203 阅读 · 0 评论 -
Inplace ABNSync 与 pytorch GPU多卡并行的一点坑
pytorch GPU多卡并行的一点坑说在前头1、torch.cuda()2、ninja 的问题3、libcudart.so.9.1 找不到4、os.environ["CUDA_VISIBLE_DEVICES"] 设置无效5、 Inplace ABNSync 使用中的编译相关问题6、Inplace ABNSync 同步时卡住不动说在前头众所周知,torch.nn.DataParallel(va...原创 2018-12-20 02:13:28 · 7651 阅读 · 2 评论