Machine Learning with Peppa

分享机器学习,数学,统计和编程干货

排序:
默认
按更新时间
按访问量

2013-2018卷积神经网络中十个最重要的概念与创新

本文作者Professor ho,原文载于其知乎主页 一、卷积只能在同一组进行吗?– Group convolution  Group convolution 分组卷积,最早在AlexNet中出现,由于当时的硬件资源有限,训练AlexNet时卷积操作不能全部放在同一个GPU处理,因此作者把fea...

2018-11-12 22:41:34

阅读数:37

评论数:0

[R时间序列]ARMA模型如何分辨拖尾与截尾

定义 截尾是指时间序列的自相关函数(ACF)或偏自相关函数(PACF)在某阶后均为0的性质(比如AR的PACF);拖尾是ACF或PACF并不在某阶后均为0的性质(比如AR的ACF)。对于AR和MA模型,其判断方法有所差异: p阶自回归模型 AR(P)  AR(p)模型的偏自相关函数PACF在p...

2018-10-24 18:09:55

阅读数:475

评论数:0

[NLP自然语言处理]谷歌BERT模型深度解析

BERT模型代码已经发布,可以在我的github: NLP-BERT--Python3.6-pytorch 中下载,请记得start哦 目录 一、前言 二、如何理解BERT模型 三、BERT模型解析       论文的核心:详解BERT模型架构       关键创新:预训练任务 ...

2018-10-15 17:49:18

阅读数:6566

评论数:4

DLL load failed: 找不到指定模块\Failed to load the native TensorFlow runtime解决方法

完整报错信息如下: Traceback (most recent call last): File "C:\Users\toy\AppData\Local\Programs\Python\Python35\lib\site-packages\tensorflow\python...

2018-10-13 22:04:48

阅读数:360

评论数:0

详解tf.nn.bias_add和tf.add、tf.add_n的区别

tf.add(x,y,name=None) x:a tensor musut be one of                           the following types: half, float32, float64, uint8, int8, int16, int32, i...

2018-10-13 15:20:35

阅读数:32

评论数:0

TensorFlow中global_step的直观理解

global_step在滑动平均、优化器、指数衰减学习率等方面都有用到,这个变量的实际意义非常好理解:代表全局步数,比如在多少步该进行什么操作,现在神经网络训练到多少轮等等,类似于一个钟表。 根据代码可以发现global_step的初始化值是0: global_step=tf.Varia...

2018-09-28 16:38:36

阅读数:55

评论数:0

详解tf.Session()和tf.InteractiveSession()的区别

他们之间的区别就是后者加载自身作为默认的Session。tensor.eval()和operation.run()可以直接使用 下面这三个是等价的: sess = tf.InteractiveSession() sess = tf.Session() with sess.as_default...

2018-09-28 16:36:56

阅读数:69

评论数:0

实战Tensorflow之滑动平均模型

本篇文章参考《Tensorflow实战Google深度学习框架》一书 目的 在Tensorflow的教程里面,使用梯度下降算法训练神经网络时,都会提到一个使模型更加健壮的策略,即滑动平均模型。本文基于最近一段时间的学习,记录一下自己的理解。 基本思想 在使用梯度下降算法训练模型时,每次更新...

2018-09-26 21:31:42

阅读数:90

评论数:0

手把手教你在Linux上安装CUDA9.0(以及如何避开所有的坑)

前言:         本篇文章是基于安装CUDA 9.0以及Ubuntu的经验写,CUDA9.0目前支持Ubuntu16.04和Ubuntu17.04两个版本,如下图所示(最下面的安装方式我们选择第一个,即runfile方式):       大家可以先将CUDA文件下载下来,但是最好不要急...

2018-09-24 16:24:06

阅读数:368

评论数:1

调度算法的定义与使用价值

互联网应用和现代数据中心 云计算已经火了很多年了,早已开始惠及我们每一个人。今天火热的大数据、机器学习、人工智能、以及你们看到的几乎所有的大规模的互联网应用(淘宝、天猫、优酷等),都是运行在云上的。而支撑云的,是大型云计算服务商部署在世界各地的多个数据中心,每个数据中心都有大量的物理服务器。为了...

2018-09-08 17:15:56

阅读数:50

评论数:0

P2P(Peer to Peer)网络的原理

最近在研究P2P技术,奈何相关资料不多,自己琢磨了一下,分享一下学习P2P的一些原理, 以及如何打造一个P2P聊天应用。 这里指的P2P是指peer to peer, 点对点的技术, 每个客户端都是服务端,没有中心服务器,不是websocket针对某个connection推送消息。 技术要点 ...

2018-09-08 17:14:29

阅读数:192

评论数:0

常用数学符号大学(包含罗马字符)

大写 小写 英文注音 国际音标注音 中文注音 Α α alpha alfa 阿耳法 ...

2018-08-28 11:16:10

阅读数:280

评论数:0

word2vec的应用场景

在社交网络中的推荐 前东家工作的时候,有一个个性化推荐的场景,给当前用户推荐他可能关注的『大V』。对一个新用户,此题基本无解,如果在已知用户关注了几个『大V』之后,相当于知道了当前用户的一些关注偏好,根据此偏好给他推荐和他关注过大V相似的大V,就是一个很不错的推荐策略。所以,如果可以求出来任何两...

2018-08-28 00:13:58

阅读数:74

评论数:0

什么是次梯度(次导数)

1.导数(Derivative)的定义 在说次梯度之前,需要先简单介绍一下导数的概念与定义。导数(英语:Derivative)是微积分学中重要的基础概念。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。导数的本质是通过极限的概念对函数进行局部的线性逼近。  对于一般的函数f(x)f(x...

2018-08-20 21:08:18

阅读数:324

评论数:0

TensorFlow 最新版安装教程

1.准备好Anaconda环境 tensorflow是属于很高层的应用。高层应用的一个比较大的麻烦就是需要依赖的底层的东西很多,如果底层依赖没有弄好的话,高层应用是没法玩转的。  在极客学院有关tensorflow的教程中,提到了这样几种安装方式:Pip, Docker, Virtualenv,...

2018-08-17 21:10:43

阅读数:100

评论数:0

一个有趣的说法:多层神经网络的致命问题与过拟合

Bengio在Learning Deep Architectures for AI 一书中举了一个有趣的例子。他说:最近有人表示,他们用传统的深度神经网络把训练error降到了0,也没有用你的那个什么破Pre-Training嘛! 然后Bengio自己试了一下,发现确实可以,但是是建立在把接近输...

2018-08-14 19:17:02

阅读数:60

评论数:0

深度学习之稀疏编码算法

如果我们把输出必须和输入相等的限制放松,同时利用线性代数中基的概念,即O = a1*Φ1 + a2*Φ2+….+ an*Φn, Φi是基,ai是系数,我们可以得到这样一个优化问题:Min |I – O| 其中I表示输入,O表示输出。通过求解这个最优化式子,我们可以求得系数ai和基Φi,这些系数和...

2018-08-14 19:05:15

阅读数:70

评论数:0

深度学习中的“卷积”与数学中的“卷积”有何不同

深度学习中的卷积 当提到神经网络中的卷积时,我们通常是指由多个并行卷积组成的运算。(因为单个核只能特区一种类型的特征,我们usually希望可以在多个位置提取多个特征) 输入也不仅仅是实值的网格,而是由一系列观测数据的向量构成的网格。 我们有的时候会希望跳出核中的一些位置来降低计算的开销(相...

2018-08-13 19:40:37

阅读数:232

评论数:0

Scala正则表达式替换

在之前的博文《Scala正则表达式》我简单地介绍了如何在Scala中使用正则表达式来匹配一些我们需要的内容。本篇文章将接着此文继续简单介绍如何使用Scala来匹配出我们需要的字符串,然后使用某种规则来替换匹配出来的字符串。 如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关...

2018-08-12 20:57:02

阅读数:85

评论数:0

Coursera-Deep learning深度学习作业代码

这个月开始刷NG老师的深度学习课程,代码和练习都放在: 我的github 对于作业有问题的同学,欢迎参考,但是希望不要直接复制粘贴

2018-08-11 16:31:41

阅读数:125

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭