![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 93
wangyao_bupt
这个作者很懒,什么都没留下…
展开
-
Python实现神经网络Part 3: 多层全连接神经网络
本文将描述如何用Python实现多层全连接神经网络。本系列第一篇和第二篇都是以一个神经元为基本单位用Python实现功能并对前向计算和误差反向传播做实验分析。但是在实际的使用中,单个神经元是无法作为“深度神经网络”使用的,为了实现深度学习,网络除了输入层和输出层,至少要包含若干隐层。因原创 2017-03-26 10:11:28 · 6990 阅读 · 2 评论 -
[TensorFlow]生成对抗网络(GAN)介绍与实践
本文简要介绍了生成对抗网络(GAN)的原理,接下来通过tensorflow开发程序实现生成对抗网络(GAN),并且通过实现的GAN完成对等差数列的生成和识别。通过对设计思路和实现方案的介绍,本文可以辅助读者理解GAN的工作原理,并掌握实现方法。有了这样的基础,在面对工作中实际问题时可以将GAN纳入考虑,选择最合适的算法。原创 2017-05-30 10:46:55 · 1538 阅读 · 1 评论 -
TensorFlow中RNN网络的实现和关键参数选择
主旨TensorFlow提供了方便的API用于快速搭建和实现RNN网络。但是在实际工作中,这些API的关键参数选择令人迷惑,在没有时间详细阅读Tensorflow引用论文和源代码的条件下,仅仅靠网络上找到的样例代码决定某些参数的选择是危险且低效的。为了解决这个问题,同时不陷入过于复杂的论文和TensorFlow源代码分析,本文通过受控实验的方式,设计出一个虽然简单但是能反映出RNN基本规律的训练和测原创 2017-05-06 17:28:16 · 3114 阅读 · 0 评论 -
[TensorFlow]使用Tensorboard实现神经网络可视化
可视化是深度学习神经网络开发、调试、应用中极为重要的手段。Tensorboard是Tensorflow提供的一个可视化工具,本文通过实际代码实验的方式说明使用TensorBoard实现记录变量,实现可视化调试的目的。原创 2017-04-22 11:50:15 · 14704 阅读 · 1 评论 -
可视化展示神经网络是如何将分类正确率提升的
主旨这篇从可视化的角度形象说明神经网络到底如何提升分类正确率,不会涉及数学推导和模型原理,目的在于帮助读者建立神经网络对数据处理的形象化概念。备注这篇最初发表于我的知乎专栏:程序员深度学习笔记,结合知乎发表后到现在这两天的思考,在原文基础上有删改,并加入了更多的插图。这篇文章的数据和程序涉及到我目前进行的工作,因此无法提供参考代码和数据。问题背景N个64维向量,其标签分为两类,记为类别1和类别2,类原创 2017-04-30 16:00:30 · 4367 阅读 · 2 评论 -
Python实现神经网络Part 2: 训练单个神经元找到最优解
解决本系列第一篇:实现forward和BP算法的神经元提描述的第一个“待解决问题”:训练没有找到最优解 在解决上述问题中,涉及到了随机初始化神经元参数,Adam Optimization寻优方法原创 2017-03-04 15:05:55 · 3051 阅读 · 0 评论 -
[TensorFlow]理解Tensorboard Graph
主旨在TensorFlow中每开发一个模型,都可以使用可视化调试工具TensorBoard得到这个session的Graph,这张图的结构和内容都不同于机器学习教材上介绍的典型神经网络结构图。本文试图通过代码实验理解Graph的含义,用以指导日常调试。代码和运行环境代码:https://github.com/wangyaobupt/TF_Graph singleNerualNode.py 运行环原创 2017-04-08 15:35:20 · 13836 阅读 · 1 评论 -
Python实现神经网络Part 1: 实现forward和BP算法的神经元
主旨和本系列目录《Python实现神经网络》是一个文章系列,目的在于:通过实际编写程序,加深对神经网络所涉及的各类算法的理解。动机描述详见“本系列动机”部分。截止目前本系列已完成部分目录如下Python实现神经网络Part 1: 实现forward和BP算法的神经元 (本文)Python实现神经网络Part 2: 训练单个神经元找到最优解Python实现神经网络Part 3: 多层全连接神经网原创 2017-03-04 10:57:46 · 6619 阅读 · 0 评论 -
实现神经网络番外:利用Excel实现神经网络和BP算法
本文通过电子表格展示如何基于具体数据计算神经网络的输出值和如何根据BP算法计算损失函数对每个参数的梯度,实现网络训练功能。原创 2017-03-27 18:57:39 · 12508 阅读 · 4 评论 -
深度学习中噪声标签的影响和识别
问题导入在机器学习领域中,常见的一类工作是使用带标签数据训练神经网络实现分类、回归或其他目的,这种训练模型学习规律的方法一般称之为监督学习。在监督学习中,训练数据所对应的标签质量对于学习效果至关重要。如果学习时使用的标签数据都是错误的,那么不可能训练出有效的预测模型。同时,深度学习使用的神经网络往往结构复杂,为了得到良好的学习效果,对于带标签的训练数据的数量也有较高要求,即常被提到的大数据或海量数据原创 2017-08-22 20:22:24 · 19205 阅读 · 2 评论