![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
DeepLearning
相国大人
社交网络,社会计算,机器学习
展开
-
循环神经网络理论到实践(1)
1. 导读循环神经网络是在NLP(自然语言处理)领域最常使用的神经网络结构,和卷积神经网络在图像识别领域的地位类似。之前我们用4篇博文,详细介绍了CNN,现在,在使用CNN进行各种实践之前,有必要再介绍RNN.之后再综合实践,会更好一些。原创 2017-06-06 08:50:53 · 542 阅读 · 0 评论 -
深入浅出LDA(1)
Gamma函数1 Gamma函数2 用Gamma函数来扩充定义3 Gamma函数的由来4 Gamma函数的性质原创 2017-11-01 17:04:11 · 1123 阅读 · 0 评论 -
keras深度训练2:训练分析
3. 常见问题3.1 val_loss曲线或val_acc曲线震荡不平滑原因可能如下: 学习率可能太大 batch size太小 样本分布不均匀 缺少加入正则化 数据规模较小 3.2 val_acc几乎为0一种很重要的原因是数据split的时候没有shuffleimport numpy as npindex = np.ara...原创 2018-04-09 11:57:48 · 2321 阅读 · 0 评论 -
keras深度训练1:fit和callback
1. model.fit2. callback2.1 ModelCheckpoint2.2 EarlyStopping2.3 LearningRateSchedule2.4 记录每一次epoch的训练/验证损失/准确度?2.5 TensorBoard2.5 多个回调函数用逗号隔开1. model.fitmodel.fit( s...原创 2018-04-02 20:04:33 · 13744 阅读 · 4 评论 -
keras深度训练3:服务器连接
连接实验室服务器使用步骤第1步:链接服务器XiangguoSuns-MacBook-Pro:~ xiangguosun$ ssh 实验室IP地址wow@223.3.89.104's password: 服务器密码Welcome to Ubuntu 17.10 (GNU/Linux 4.13.0-36-generic x86_64) * Documentation: htt...原创 2018-04-10 10:36:37 · 761 阅读 · 0 评论 -
Catalogue/update in 2018.09.10
Welcome! Name: Xiangguo Sun E-mail: sunxiangguodut@qq.com Welcome to my blog column: ...原创 2017-09-08 10:18:19 · 1544 阅读 · 0 评论 -
keras深度训练4:GPU设置
4.1 keras指定运行时显卡及限制GPU用量https://blog.csdn.net/A632189007/article/details/77978058#!/usr/bin/env python# encoding: utf-8"""@version: python3.6@author: Xiangguo Sun@contact: sunxiangguo@seu....原创 2018-04-12 10:56:30 · 44608 阅读 · 6 评论 -
keras深度训练5: 断点训练
关于过拟合 https://blog.csdn.net/mrgiovanni/article/details/52167016从断点处开始训练https://machinelearningmastery.com/check-point-deep-learning-models-keras/Keras 模型的保存与加载 http://yangguang2009.github.io/2...原创 2018-04-12 10:57:07 · 4921 阅读 · 0 评论 -
keras深度训练6: 激活函数和损失函数的选择
使用ReLU作为激活函数还有必要用交叉熵计算损失函数吗?https://blog.csdn.net/u010976453/article/details/78488279原创 2018-04-12 16:50:07 · 4701 阅读 · 0 评论 -
keras深度训练7: constant val_acc
Keras: acc and val_acc are constant over 300 epochs, is this normal?https://stats.stackexchange.com/questions/259418/keras-acc-and-val-acc-are-constant-over-300-epochs-is-this-normalIt seems that ...原创 2018-04-13 10:23:59 · 3979 阅读 · 0 评论 -
论文研读1
论文研读文献24[24] B. Perozzi, R. Al-Rfou, and S. Skiena. DeepWalk: Online learning of social representations. In KDD, 2014. 1.问题的引入文章的初衷,普通 的机器学习方法适合于小规模样本的训练,对于规模巨大的样本集来说,并不意味着性能一定同步上升。考虑到在概率图模型中,我们可以根据网络图原创 2017-05-19 14:14:12 · 2302 阅读 · 0 评论 -
卷积神经网络CNN理论到实践(6)
1.导读本节我们的目标是,在上一篇博文的基础上,我们再来实现几个复杂一点的CNN模型。为下一篇CNN做文本分类打下基础。2.例子1:inception模型inception模型来自谷歌的一篇论文Going Deeper with Convolutions.具体来讲,这里的卷积网络模型可以用下面的图表示: #!/usr/bin/env python# encoding: utf-8"""@ver原创 2017-06-07 09:46:09 · 1620 阅读 · 0 评论 -
深度学习之自编码器和多层神经网络
深度学习之自编码器和多层神经网络 参考文献 《deep learning》 《tensorflow实战》 http://ufldl.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B原创 2017-03-29 21:45:41 · 3203 阅读 · 0 评论 -
卷积神经网络CNN理论到实践(8)
1.导读实践2.原创 2017-06-07 12:55:16 · 1067 阅读 · 3 评论 -
卷积神经网络CNN理论到实践
系列博文目录(实时更新)卷积神经网络CNN理论到实践(1) 摘要: 首先介绍卷积的概念,然后我们解释在神经网络中使用卷积的原因:sparse interactions,parameter sharing和equivariant representations. 卷积神经网络CNN理论到实践(2) 摘要: 首先介绍池化的概念,其中我们还会探讨池化的作用(平移不变,减轻网络负担,处理变长输入)。原创 2017-06-12 11:32:33 · 1884 阅读 · 0 评论 -
卷积神经网络CNN理论到实践(3)
导读各种类型的卷积神经网络1 convolution in neural network2 zero padding3 unshared convolution4 tiled convolution总结写这篇博文用了很多时间和精力,如果这篇博文对你有帮助,希望您可以打赏给博主相国大人。哪怕只捐1毛钱,也是一种心意。通过这样的方式,也可以培养整个行业的知识产权意识。我可以和您建立更多的联系原创 2017-06-01 11:13:51 · 7359 阅读 · 2 评论 -
卷积神经网络CNN理论到实践(7)
1. 导读本节博文,我们将使用CNN来做文本分类。这篇博文暂时不会有实际的代码,我们先从理论上对NLP-CNN做一个介绍,并梳理和总结相关文献。实践工作留待下一篇博文介绍。 本篇博文的主要参考文献为: http://www.wildml.com/2015/12/implementing-a-cnn-for-text-classification-in-tensorflow/2.NLP-CNN基本原创 2017-06-07 09:55:47 · 2321 阅读 · 0 评论 -
卷积神经网络CNN理论到实践(2)
1. 导读在上一篇博文《卷积神经网络CNN理论到实践(1)》中,我们首先介绍卷积的概念,然后解释在神经网络中使用卷积的原因:sparse interactions,parameter sharing和equivariant representations.接下来,我们将要介绍的内容是: 1. 池化 2. 一些在神经网络中常用的卷积函数 3. 如何在数据集上使用不同维度的卷积 4. 使得原创 2017-05-31 18:24:30 · 6570 阅读 · 0 评论 -
training deep learning model
page11-20 page21-30 page31-40 page41-50 page51-60 page61-70原创 2017-10-30 08:43:13 · 816 阅读 · 0 评论 -
卷积神经网络CNN理论到实践(4)
在本篇博文中,我们将详细探讨卷积与矩阵乘法的关系。在此基础上,我们会介绍反卷积操作。原创 2017-06-01 20:53:32 · 6132 阅读 · 1 评论 -
卷积神经网络CNN理论到实践(5)
还没写完。。。 [TOC]1. 导读前面我们用了4篇博文,详细介绍了CNN的基本理论。从这一篇开始,我们将逐渐走向实战。在本篇博文中,我们首先下来介绍一下,最经典的CNN网络,LeNet5。可以说,它是很多现代CNN的雏形。即便是现在,使用这个模型也可以处理一大批基本问题。我们会先从原理上,做一个介绍,然后使用python进行编程实现。如果有精力,再用它做个试验。2. LeNet53. 一个简单C原创 2017-06-02 15:33:21 · 2122 阅读 · 1 评论 -
SkipGram, CBOW,Hierarchical Softmax,Negative Sampling
正在赶稿子原创 2018-05-14 21:25:55 · 412 阅读 · 0 评论