深度学习
文章平均质量分 83
Doit_行之
这个作者很懒,什么都没留下…
展开
-
深度学习知识整理(待写)
深度学习知识整理(待写)1、数学基础2、机器学习3、深度学习经典算法4、最新深度学习研究5、自然语言处理原创 2020-01-25 12:50:50 · 388 阅读 · 0 评论 -
《Universal Language Model Fine-tuning for Text Classification》翻译
用于文本分类的通用语言模型微调翻译自《Universal Language Model Fine-tuning for Text Classification》Jeremy Howard* fast.ai | University of San Francisco | j@fast.aiSebastian Ruder* Insight Centre, NUI Galway...原创 2019-01-04 16:09:16 · 1660 阅读 · 0 评论 -
tensorflow2.0教程- Keras 快速入门
tensorflow.keras 快速入门完整tensorflow2.0教程代码请看tensorflow2,0:中文教程tensorflow2_tutorials_chinese(欢迎star)Keras 是一个用于构建和训练深度学习模型的高阶 API。它可用于快速设计原型、高级研究和生产。 keras的3个优点:方便用户使用、模块化和可组合、易于扩展1.导入tf.kerastens...原创 2019-03-10 12:53:56 · 65603 阅读 · 10 评论 -
文本分类论文
文本分类论文后面有时间会更新比较完整的整理版,感兴趣的可以关注。原创 2019-03-18 12:29:42 · 1094 阅读 · 3 评论 -
读论文:Deep Neural Networks with Multitask Learning
读论文:A Unified Architecture for Natural Language Processing: Deep Neural Networks with Multitask Learning使用一个卷积神经网络,对输入的句子做:词性标注,词块分割(chunks),命名实体识别,词语相似度以及语言模型等任务。背景:很多系统缺乏统一的框架来进行深度语义任务,这些系统有三大缺点:...原创 2019-03-26 15:12:59 · 983 阅读 · 0 评论 -
keras_contrib 安装
keras_contrib 安装keras_contrib是keras的一个高级网络实现模块,里面包含了用keras实现的CRF等高级网络层和相关算法。问题:ModuleNotFoundError: No module named ‘keras_contrib’解决:安装keras_contribpip install git+https://www.github.com/keras-t...原创 2019-04-18 21:07:31 · 16631 阅读 · 5 评论 -
001-TensorFlow 2.0 教程-Transformer
TensorFlow 2.0 教程-TransformerTensorflow 2.0 教程持续更新 :https://blog.csdn.net/qq_31456593/article/details/88606284本教程主要由tensorflow2.0官方教程的个人学习复现笔记整理而来,并借鉴了一些keras构造神经网络的方法,中文讲解,方便喜欢阅读中文教程的朋友,tensorflow官...原创 2019-05-07 16:32:34 · 8844 阅读 · 2 评论 -
深度学习入门书籍和资源
深度学习入门书籍和资源今天为大家提供一些机器学习和深度学习的入门书籍和资源。秉着贪多嚼不烂的原则,我各自介绍3本机器学习和3本深度学习的书籍(只选最好的),以及NLP和CV各自的经典课程。机器学习:1、Christopher Bishop教授的《Pattern Recognition and Machine Learning》https://book.douban.com/subject/...原创 2019-05-11 10:34:41 · 4127 阅读 · 1 评论 -
神经网络基础知识收集
神经网络基础知识收集更新中(1)神经网络:人工神经网络(Artificial Neural Network,ANN)是指一系列受生物学和神经学启发的数学模型。这些模型主要是通过对人脑的神经元网络进行抽象,构建人工神经元,并按照一定拓扑结构来建立人工神经元之间的连接,来模拟生物神经网络。在人工智能领域,人工神经网络也常常简称为神经网络(Neural Network,NN)或神经模型(Neura...原创 2019-05-12 10:00:22 · 486 阅读 · 0 评论 -
最新语言表示学习方法XLNet,在20项任务上超越BERT
最新语言表示学习方法XLNet,在20项任务上超越BERT摘要:凭借对双向上下文进行建模的能力,与基于自回归语言建模的预训练方法相比,基于BERT的基于自动编码的预训练实现了更好的性能。然而,依赖于对输入使用掩码,BERT忽略了屏蔽位置之间的依赖性,并且受到预训练 - 微调差异的影响。根据这些优点和缺点,我们提出了XLNet,一种广义自回归预训练方法,它(1)通过最大化分解阶的所有排列的预期可能...原创 2019-06-20 12:56:03 · 3186 阅读 · 0 评论 -
Tensorflow2.0教程-自定义层
Tensorflow2.0教程-自定义层最全Tensorflow 2.0 入门教程持续更新:https://blog.csdn.net/qq_31456593/article/details/88606284完整tensorflow2.0教程代码请看https://github.com/czy36mengfei/tensorflow2_tutorials_chinese (欢迎star)本...原创 2019-07-07 22:56:26 · 11226 阅读 · 3 评论 -
TensorFlow2.0教程-自动求导
TensorFlow2.0教程-自动求导愿文地址:https://doit-space.blog.csdn.net/article/details/95040756最全Tensorflow 2.0 入门教程持续更新:https://blog.csdn.net/qq_31456593/article/details/88606284完整tensorflow2.0教程代码请看 https://...原创 2019-07-07 23:03:58 · 2961 阅读 · 1 评论 -
TensorFlow2.0教程-使用低级api训练(非tf.keras)
TensorFlow2.0教程-使用低级api训练网络(基础)原文地址:https://doit-space.blog.csdn.net/article/details/95040756最全Tensorflow 2.0 入门教程持续更新:https://blog.csdn.net/qq_31456593/article/details/88606284完整tensorflow2.0教程代码...原创 2019-07-07 23:10:23 · 6097 阅读 · 1 评论 -
TensorFlow2.0教程-自定义训练实战(非tf.keras)
TensorFlow2教程-自定义训练实战愿文地址:https://doit-space.blog.csdn.net/article/details/95040756最全Tensorflow 2.0 入门教程持续更新:https://blog.csdn.net/qq_31456593/article/details/88606284完整tensorflow2.0教程代码请看 https:/...原创 2019-07-07 23:23:11 · 6547 阅读 · 2 评论 -
TensorFlow2.0教程-使用tf.function和AutoGraph提高代码性能
TensorFlow2教程-TF fuction和AutoGraph要获得最佳性能并使模型可在任何地方部署,请使用tf.function从程序中构建图。 因为有AutoGraph,可以使用tf.function构建高效性能的Python代码,但仍有一些陷阱需要警惕。今天我们就来介绍一下tensorflow2.0中的TF fuction和AutoGraph原创 2019-07-07 23:35:04 · 11504 阅读 · 0 评论 -
全卷积神经神经网络-深度学习笔记
全卷积网络FCN是深度学习运用于图像语义分割的代表作,是一种端到端的图像分割方法,可以做到像素级别的预测,直接得出label map,输出分割结果。原创 2017-09-29 22:28:44 · 3068 阅读 · 3 评论 -
读论文《Auto-Encoding Variational Bayes》
这篇论文将变分贝叶斯和神经网络结合起来,用神经网络学习变分推导的参数,以得到后验推理p(z|x)的似然,并获得了一个效果不错的生成模型-变分自编码器原创 2017-08-31 11:15:27 · 18632 阅读 · 6 评论 -
机器学习&深度学习算法及代码实现
最近在学机器学习,学习过程中收获颇多,在此留下学习记录,希望与同道中人相互学习交流机器学习简介1、机器学习运用学习算法,利用所给的数据进训练,生成相应的模型。在面对新情况时,根据模型,给出正确的判断。2、学习的定义针对经验E (experience) 和一系列的任务 T (tasks) 和一定表现的衡量 P,如果随之经验E的积累,针对定义好的任务T可以提高表现P,就说计算机具有学习能力。原创 2017-04-05 20:38:50 · 22746 阅读 · 2 评论 -
神经网络学习笔记
神经网络学习笔记感知器感知器学习神经元,电位超过阖值触发,是神经元的简易数学模型。 传统计算机0、1表示,基于电位模数转换,与神经元类似。计算机基于0,1可实现人脑部分功能,是否就基于此。 根据电位阖值来区分不同状态是否是一个智能的基本物理原则。 智能最低端是应激反应,应激反应是否就是来自于电位阖值。 所有智能体的最本质能力是否就是应激反应,或者说是–决策。 高级智能由低级决策决定,是否可原创 2017-05-29 10:32:27 · 1492 阅读 · 0 评论 -
机器学习&深度学习入门学习资料大全(二)
机器学习&深度学习入门学习资料(二)转载 2017-05-29 11:06:53 · 1154 阅读 · 0 评论 -
机器学习&深度学习入门学习资料大全(一)
机器学习&深度学习入门学习资料大全(一)转载 2017-05-29 11:12:53 · 7146 阅读 · 1 评论 -
生成对抗网络介绍与原理分析
生成对抗网络介绍与原理分析简介生成对抗网络就是利用生成模型G和判别模型D的的相互博弈,提升生成模型的生成能力和判别模型的判别能力,直至生成模型所生成的与原始数据难以分辨。原理 判别模型D:不断优化D,使其输入真实数据x时输出1,输入生成数据G(z)时输出0. 生成模型G:不断优化G,使其生成的数据被判断为真(输出1).公式 最大化D:D(X)->1,D(G(z))->0,log内趋近于1,整个原创 2017-05-10 15:06:08 · 2177 阅读 · 0 评论 -
CNN卷积神经网络全面生动解读-深度学习笔记
卷积神经网络就是由卷积层、池化层、全连接层构成的具有局部感知和权值共享能力的深层神经网络原创 2017-07-25 16:28:31 · 12631 阅读 · 2 评论 -
读论文《A Neural Probabilistic Language Model》
introduce本文算是训练语言模型的经典之作,Bengio将神经网络引入语言模型的训练中,并得到了词嵌入这个副产物。词嵌入对后面深度学习在自然语言处理方面有很大的贡献,也是获取词的语义特征的有效方法。原创 2017-08-22 16:44:01 · 2261 阅读 · 0 评论 -
经典词嵌入与神经网络语言模型的对比研究
本文将对NNLM,C&W模型,RNNLM,CBOW模型,Skip-gram模型等经典神经网络语言模型进行介绍,对比分析这些模型的结构和特点,并对神经网络语言模型的构造方法进行讨论。原创 2017-08-24 21:04:55 · 10090 阅读 · 0 评论 -
读论文《Natural Language Processing (Almost) from Scratch》
本文也是神经网络语言模型和词嵌入的经典论文,本文与之前的《A Neural Probabilistic Language Model》模型的不同在于,本文的核心目标是训练好的word embedding以完成词性标注 (POS)、短语识别(CHUNK)、命名实体识别原创 2017-08-23 13:34:47 · 7054 阅读 · 2 评论 -
读论文《The perceptron: A probabilistic model for information storage and organization in the brain》
这篇论文是神经网络的开山之作,在论文中Rosenblatt提出了感知机(perceptron),为后来对人工神经网络的研究奠定了基础。原创 2017-08-27 15:43:12 · 6153 阅读 · 3 评论 -
读论文《Efficient Estimation of Word Representations in Vector Space》
词的分布式表示(又称词嵌入,word embedding)因为这篇文章开始大火,原来的word embedding只是神经网络语言模型的副产物,而该论文的主要的目标是训练具有语义特征的word embedding。原创 2017-08-23 23:13:44 · 2359 阅读 · 0 评论 -
读论文《Distributed Representations of Words and Phrases and their Compositionality》
这篇论文是对《Efficient Estimation of Word Representations in Vector Space》的补充,介绍了使用Skip-gram模型和Hierarchical Softmax训练模式的训练方法。并补充了Negative Sampling的训练模式替代Negative Sampling,获得更快的训练效果。原创 2017-08-24 00:35:43 · 3900 阅读 · 1 评论 -
读论文《Recurrent neural network based language model 》
本文将循环神经网络RNN引入了神经网络语言模型,用RNN对历史信息的存储代替以n为窗口的上下文。作者将语言模型中的隐藏层作为状态存储单元,以当前单词的词嵌入和上一状态的叠加作为输入,输出对下一个单词的预测。原创 2017-08-24 12:51:25 · 2883 阅读 · 0 评论 -
深度学习概述-神经网络与深度学习学习笔记(一)
最近在学习复旦邱锡鹏老师的《神经网络与深度学习》,并对书中推荐的论文进行了阅读。感觉这本书对深度学习讲解得很好,即有全面严谨的讲述,也有高屋建瓴的理解。 本文的行文结构是按邱老师的书籍结构来的,并结合自己的理解总结了书籍中的相关要点,想要对神经网络和深度学习有更好了解的,推荐大家看邱老师写的《神经网络与深度学习》。原创 2017-08-27 21:42:54 · 5652 阅读 · 0 评论 -
读论文《Convolutional Neural Networks for Sentence Classification》
这篇论文把卷积神经网络用到了句子分类中,算是把卷积神经网络的应用范围扩大到了nlp领域。作者将句子中的词用word embedding代表,从上到下排列构成了一个矩阵。这个矩阵就相对于句子的语义特征图。然后就可以对这个语义特征图进行卷积。原创 2017-08-29 00:28:50 · 1598 阅读 · 0 评论 -
感知器-从零开始学深度学习
感知机-从零开始学深度学习未来将是人工智能和大数据的时代,是各行各业使用人工智能在云上处理大数据的时代,深度学习将是新时代的一大利器,在此我将从零开始记录深度学习的学习历程。 我希望在学习过程中做到以下几点: 了解各种神经网络设计原理。 掌握各种深度学习算法的python编程实现。 运用深度学习解决实际问题。 让我们开始踏上深度度学习的征程。一、感知机原型 想要原创 2017-05-07 16:46:06 · 4610 阅读 · 3 评论