![](https://img-blog.csdnimg.cn/2021082522195779.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
Deeplearning4j实战系列
文章平均质量分 96
Deeplearning4j/DL4j框架在NLP/CV等领域的实战内容
wangongxi
会点Java,会点大数据,会点算法的程序员
展开
-
Deeplearning4j 实战 (13-2):基于Embedding+CNN的文本分类实现
本文使用Embedding+CNN结构进行文本分类的工作,在之前实现TextCNN博客的基础上,内嵌Embedding层,实现端到端的建模。交叉验证结果接近于TextCNN论文给到的指标。原创 2022-10-17 13:43:43 · 1473 阅读 · 1 评论 -
Deeplearning4j 实战 (21):Bert简介及NLP问题应用
在上一篇博客中,我们介绍了attention机制的基本原理以及如何基于Deeplearning4j中内置的attention layer对文本之类的序列数据进行建模的过程。这篇博客在上一篇的基础上,介绍下2019年Google的研究成果,同样也是和attention机制有关的Bert模型。在Google的论文中介绍,Bert模型在GLUE数据集上都达到的当时的历史最佳。当然后续改进的一些工作也逐步的在指标上超越了Bert,其中就有国内百度公司的工作ERNIE,但Bert构建NLP语言模型的方式方法还是非常值原创 2020-06-12 16:59:58 · 2058 阅读 · 2 评论 -
Deeplearning4j 实战 (20):Attention机制在文本分类中的应用
在之前的文章中,我们介绍过如何基于LSTM来进行情感识别的任务。从本质上来说,LSTM可以用于提取整段文本的语义信息,然后对最后一个LSTM Cell输出的结果进行业务层面的分类建模即可。在工业界的实际尝试中,尤其对于短文本,这种建模方式本身可以作为baseline甚至可以经过精心的调优达到生产环境的精度要求。但是RNN结构有其自身的一些缺点。比如,长距离依赖导致头部的信息丢失,容易在BPTT算法执行的时候发生梯度的弥散等问题。当然一些改进的RNN结构,包括上面提到的LSTM和GRU等等可以缓解此类问题,但原创 2020-05-20 09:27:58 · 2589 阅读 · 0 评论 -
Deeplearning4j 实战 (19):基于胶囊网络(Capsule Network)的手写体数字识别
CapsNet(Capsule Network)最早是在2017年由G.Hinton教授及其团队提出的。之后,几乎以每年一更新的频率推出优化版本。CapsNet引起人们的关注的原因主要在于Hinton教授对于在机器视觉领域大放异彩的卷积神经网络(CNN)的运行机制和原理有不同看法,并表示CNN存在明显不同于人类大脑感知机制的缺陷。以图像为例,Hinton教授认为CNN无法感知局部特征之间存在的相对...原创 2020-03-28 21:50:01 · 2185 阅读 · 1 评论 -
Deeplearning4j 实战 (18):基于DQN的强化学习在自定义迷宫游戏问题中的建模
在之前写的博客系列中,我们已经有谈到关于强化学习的相关内容。具体来讲,当时是基于RL4j并结合OpenAI提供的Gym这个开源的强化学习工具来训练了一个可以玩Cartpole游戏的DQN模型。由于Cartpole问题中的建模要素都是由Gym来提供的,因此除非debug源码,否则是无法了解这个问题涉及的action space以及state space。进一步,如果想结合自身的业务来使用强化学习模型...原创 2019-12-18 15:21:48 · 3172 阅读 · 13 评论 -
Deeplearning4j 实战 (17):基于SameDiff自动微分工具的CNN建模
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com...原创 2019-11-30 16:46:01 · 743 阅读 · 2 评论 -
Deeplearning4j 实战 (16):FastText在监督学习和无监督学习中的应用
在Deeplearning4j 1.0.0-beta5的版本中NLP模块开始支持FastText模型。在这之前的版本中,已经支持的embedding算法有Word2Vec、Glove、Doc2Vec以及Graph Embedding。这些模块的使用在我的GitChat CSDN达人课中有详细讲解,有需要的开发人员可以参考。FastText是Word2Vec的作者Tomas Mikolov在Fac...原创 2019-11-03 18:44:18 · 2866 阅读 · 0 评论 -
Deeplearning4j 实战 (15):SameDiff自动微分工具可视化
在上一篇的博客中,我们介绍了如何利用Deeplearning4j/ND4j提供的自动微分工具SameDiff来实现线性回归模型。SameDiff的建模类似1.x版本的Tensorflow,是基于张量的OP操作来进行的。基于OP的建模并不像基于Layer那样对神经网络进行分层,甚至开发人员可以抛弃网络层次的概念只关注对张量进行各种计算变换即可。但当神经网络的结构逐渐复杂之后,这种方式可能更容易出错,...原创 2019-10-23 19:37:14 · 837 阅读 · 0 评论 -
Deeplearning4j 实战 (14):基于SameDiff自动微分工具的线性回归建模
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2019-09-26 23:52:31 · 1088 阅读 · 0 评论 -
Deeplearning4j 实战 (13):基于TextCNN的文本分类实现
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2019-04-19 22:13:44 · 4111 阅读 · 6 评论 -
Eclipse Deeplearning4j GitChat达人课介绍
作者:万宫玺随着机器学习、深度学习为主要代表的人工智能技术的逐渐成熟,越来越多的 AI 产品得到了真正的落地。无论是以语音识别和自然语言处理为基础的个人助理软件,还是以人脸识别为基础的刷脸付费系统,这些都是 AI 技术在现实生活中的实际应用。应当说 AI 正在走进千家万户,来到你我的身边。另一方面,从研发角度来讲,AI 产品的落地并不是一件容易的事情:AI 技术数学理论要求高,数理统计、神...转载 2018-12-19 12:00:24 · 523 阅读 · 0 评论 -
Deeplearning4j 实战 (12):Mnist替代数据集Fashion Mnist在CNN上的实验及结果
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-11-08 09:45:23 · 6496 阅读 · 10 评论 -
Deeplearning4j 实战 (11):基于Nd4j的线性回归模型的实现
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-10-17 19:55:53 · 4557 阅读 · 0 评论 -
Deeplearning4j 实战(2):Deeplearning4j 手写体数字识别Spark实现
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-01-19 16:31:30 · 8166 阅读 · 40 评论 -
Deeplearning4j 实战(4):Deep AutoEncoder进行Mnist压缩的Spark实现
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-02-20 09:43:42 · 4365 阅读 · 1 评论 -
Deeplearning4j 实战(3):简介Nd4j中JavaCPP技术的应用
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-02-10 20:36:34 · 6562 阅读 · 8 评论 -
Deeplearning4j 实战(5):基于多层感知机的Mnist压缩以及在Spark实现
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-02-25 23:17:25 · 3042 阅读 · 3 评论 -
Deeplearning4j 实战(6):基于LSTM的文本情感识别及其Spark实现
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-03-10 23:44:58 · 15505 阅读 · 18 评论 -
DeepLearning4j实战(7):手写体数字识别GPU实现与性能比较
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-05-15 21:28:26 · 6012 阅读 · 1 评论 -
Deeplearning4j 实战(8) : Keras为媒介导入Tensorflow/Theano等其他深度学习库的模型
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-06-03 22:05:11 · 4961 阅读 · 13 评论 -
Deeplearning4j 实战 (9):强化学习 -- Cartpole任务的训练和效果测试
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-07-12 00:39:06 · 10636 阅读 · 3 评论 -
Deeplearning4j 实战 (10):迁移学习--ImageNet比赛预训练网络VGG16分类花卉图片
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-07-14 18:03:32 · 6567 阅读 · 5 评论 -
Deeplearning4j源码研习(1): BP算法原理及源码实现
Eclipse Deeplearning4j GitChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/e...原创 2017-08-18 01:05:47 · 1845 阅读 · 1 评论 -
Deeplearning4j 实战(1):Deeplearning4j 手写体数字识别
Eclipse Deeplearning4j GiChat课程:https://gitbook.cn/gitchat/column/5bfb6741ae0e5f436e35cd9fEclipse Deeplearning4j 系列博客:https://blog.csdn.net/wangongxiEclipse Deeplearning4j Github:https://github.com/ec...原创 2017-01-16 20:01:36 · 16781 阅读 · 12 评论