yepeng2007fei的博客

转载自https://baijiahao.baidu.com/s?id=1651219987457222196&wfr=spider&for=pcTransformer 是 Google 的团队在 2017 年提出的一种 NLP 经典模型，现在比较火热的 Bert 也是基于 Transformer。Transformer 模型使用了 Self-Attention 机制，不采用 RNN 的顺序结构，使得模型可以并行化训练，而且能够拥有全局信息。1. Transformer 结构首先

Hinton“深度学习之父”和“神经网络先驱”，新论文Capsule将推翻自己积累了30年的学术成果时Hinton“深度学习之父”和“神经网络先驱”，新论文Capsule将推翻自己积累了30年的学术成果时在论文中，Capsule被Hinton大神定义为这样一组神经元：其活动向量所表示的是特定实体类型的实例化参数。他的实验表明，鉴别式训练的多层Capsule系统，在MNIST手写数据集上表现出目前最先进的性能，并且在识别高度重叠数字的效果要远好于CNN。该论文无疑将是今年12月初NIPS大会的重头

原文链接：https://blog.csdn.net/weixin_38481963/article/details/109920512在卷积神经网络中我们通常需要输入 in_channels 和 out_channels ，即输入通道数和输出通道数，它们代表什么意思呢？本文将给出一个形象的理解。对于通道的理解可以参考下面的这篇文章：【CNN】理解卷积神经网络中的通道 channel这里我稍微总结一下核心观点：对于最初输入图片样本的通道数 in_channels 取决于图片的类型，如果是

背景介绍在常见的卷积神经网络中，采样几乎无处不在，以前是max_pooling，现在是strided卷积。以vgg网络为例，里面使用到了相当多的max_pooling输入侧在左面（下面是有padding的，上面是无padding的），可以看到网络中用到了很多2x2的pooling同样，在做语义分割或者目标检测的时候，我们用到了相当多的上采样，或者转置卷积典型的fcn结构，注意红色区分的decovolution以前，我们在分类网络的最后几层使用fc，后来fc被证明参数量太大泛化

转载自https://zhuanlan.zhihu.com/p/42706477在VGG中，卷积网络达到了19层，在GoogLeNet中，网络史无前例的达到了22层。那么，网络的精度会随着网络的层数增多而增多吗？在深度学习中，网络层数增多一般会伴着下面几个问题计算资源的消耗 模型容易过拟合 梯度消失/梯度爆炸问题的产生问题1可以通过GPU集群来解决，对于一个企业资源并不是很大的问题；问题2的过拟合通过采集海量数据，并配合Dropout正则化等方法也可以有效避免；问题3通过Batch Norma

开启新手tensorflow学习之旅，未来我会持续分享tensorflow深度学习从0开始系列，这里是tensorflow深度学习从0开始系列——第五天，因为内容较多，我做成了pdf，本来是分享在csdn下载资源里面，但是现在csdn的下载被指向了广告，我也很无奈，qq群Python数据分析&机器学习636866908或者群R语言＆大数据分析456726635里面也有分享，大家可以去群里讨论下载，以下是第五天学习目录：...

开启新手tensorflow学习之旅，未来我会持续分享tensorflow深度学习从0开始系列，这里是tensorflow深度学习从0开始系列——第四天，因为内容较多，我做成了pdf，本来是分享在csdn下载资源里面，但是现在csdn的下载被指向了广告，我也很无奈，qq群Python数据分析&机器学习636866908或者群R语言＆大数据分析456726635里面也有分享，大家可以去群里讨论下载，以下是第四天学习目录：...

开启新手tensorflow学习之旅，未来我会持续分享tensorflow深度学习从0开始系列，这里是tensorflow深度学习从0开始系列——第三天，因为内容较多，我做成了ppt，分享在https://download.csdn.net/download/yepeng2007fei/11449489，群Python & Spark大数据分析636866908或者群R语言＆大数据分析45...

开启新手tensorflow学习之旅，未来我会持续分享tensorflow深度学习从0开始系列，这里是tensorflow深度学习从0开始系列——第二天，因为内容较多，我做成了ppt，分享在https://download.csdn.net/download/yepeng2007fei/11431946，群Python & Spark大数据分析636866908或者群R语言＆大数据分析45...

开启新手tensorflow学习之旅，未来我会持续分享tensorflow深度学习从0开始系列，这里是tensorflow深度学习从0开始系列——第一天，因为内容较多，我做成了ppt，分享在https://download.csdn.net/download/yepeng2007fei/11431941，群Python & Spark大数据分析636866908或者群R语言＆大数据分析45...

转载自https://www.analyticsvidhya.com/blog/2017/06/transfer-learning-the-art-of-fine-tuning-a-pre-trained-model/IntroductionNeural networks are a different breed of models compared to the supervised ...

转载自https://www.cnblogs.com/highway-9/p/5628852.html概述最近在学习《深入应用C++11-代码与优化与工程级应用》，我的gcc版本是gcc-4.8.5是支持C++11的，但是我在作者的github上看了一些C++例子，其中有些是C++14的语法，我的gcc版本并不支持，之前安装了ubuntu16.04LTS，该系统的gcc版本是5.3.1这个...

转载自http://blog.csdn.net/hola_f/article/details/70482300最近要学习神经网络相关的内容，所以需要安装TensorFlow。不得不说，安装TensorFlow的感受就像是大一刚入学学习C语言时，安装vs时一样，问题一大堆，工具都装不好，还学啥呀。好在，就在昨晚，终于装好了。下面是步骤。1.安装Anaconda这是

1. MNIST下载去官网http://yann.lecun.com/exdb/mnist/ 下载4个文件：训练图像集/训练标签集/测试图像集/测试标签集在tensorflow example mnist的目录下面新建MNIST_data文件夹，然后把下载的4个MNIST数据集复制进去。例如我电脑上的路径如下：C:\Users\Administrator\Anaconda3\envs\tensor...

转载自https://blog.csdn.net/lvsehaiyang1993/article/details/81132242目录：目录：常见问题如何引用Keras？如何使Keras调用GPU？如何在多张GPU卡上使用Keras？数据并行设备并行“batch”, “epoch”和”sample”都是啥意思？？如何保存Keras模型？为什么训练误差比测试误差高很多？如何...

转载自：https://zhuanlan.zhihu.com/p/55856680Google 前段时间开源了他们的 BERT --BidirectionalEncoderRepresentations fromTransformers 模型，使用多头注意力和位置嵌入，替换不易并行的循环神经网络，一举打破自然语言处理领域11个不同问题的最好记录。这个模型的开源，直接将自然语言处理推动到了一个...

转载自https://zhuanlan.zhihu.com/p/29201491文本多分类首先我们来看下数据集长什么样子吧 :P Let‘s get started!我们使用pandas来加载数据，数据集来自http://IGN.com，收集了过去20年各大游戏厂商发布的游戏数据，如发布日期，发布平台，游戏评价等变量，这里有一篇关于这个数据集很不错的分析教程Kaggle。而我们现在...

转载自https://blog.csdn.net/sinat_22336563/article/details/71216291。整个推导过程首先一定对网络的结构有清醒的认知，所有变量的下角标都能一一对应到网络结构上；然后就是链式求导了。一、CNN公式推导1、前向传播假设CNN共三层，第一层为输入层，第二层为隐藏层，第三层为输出层。定义：第一层与第二层之间的参数为WihWih,...

转载自https://blog.csdn.net/accumulate_zhang/article/details/78577364。参考博客：http://www.jianshu.com/p/9dc9f41f0b29希望大家在阅读下面文字的时候，已经读完上面的文章了，因为下面的文字是根据上面文章来写的。首先，深度学习模型已经在各种研究领域中取得了很大的发展，主要说一下自己就CNN和R...

转载自https://blog.csdn.net/qq_32444825/article/details/81285721。Jmeter教程 简单的压力测试Jmeter并发数 测试Jmeter是一个非常好用的压力测试工具。 Jmeter用来做轻量级的压力测试，非常合适，只需要十几分钟，就能把压力测试需要的脚本写好。阅读目录什么是压力测试 做压力测试的常用工具 做压力测试...

转载http://blog.csdn.net/sinat_26917383/article/details/53762185“素质云博客”MxNet有了亚马逊站台之后，声势大涨，加之接口多样化，又支持R语言所以一定要学一下。而且作为R语言的fans，为啥咱们R语言就不能上深度学习嘞~——————————————————————————————一、