自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Steve Wang's blog

点滴积累,点滴成长。

  • 博客(16)
  • 问答 (2)
  • 收藏
  • 关注

原创 梯度消失和梯度爆炸

整理并翻译自吴恩达深度学习视频:https://mooc.study.163.com/learn/2001281003?tid=2001391036#/learn/content?type=detail&id=2001702118梯度消失和梯度爆炸yhat=wLwL−1wL−2...w3w2w1xy^{hat}=w^{L}w^{L-1}w^{L-2}...w^{3}w^{2}w...

2018-11-29 16:11:46 339

原创 Dropout含义及其实现(反向随机失活)

Implementing Dropout(Inverted dropout)我们用layer = 3来表述。取keep_prob = 0.8.意味着有80%的概率某个神经元会被保留,20%概率会被消去。d3 = np.random.rand(a3.shape[0], a3.shape[1]) < keep.prob所有小于keep.prob的都置为0,其余置1.a3 = np.m...

2018-11-28 19:42:23 2431 1

原创 为什么正则化可以防止过拟合?

为什么正则化可以防止过拟合?整理并翻译自吴恩达深度系列视频教程https://mooc.study.163.com/learn/2001281003?tid=2001391036#/learn/content?type=detail&id=2001702116&cid=2001693033博主本人的观点将以楷体展示,请留意这点。加上正则化项之后的损失函数J(w[l]...

2018-11-28 16:40:52 3536

原创 Deep Neural Network for Image Classification: Application - 吴恩达深度学习视频第一课四周作业 assignment4_2

来自吴恩达深度学习视频作业四 assignment4_2如果直接看代码对你来说有困难, 请移步: https://blog.csdn.net/u013733326/article/details/79767169import timeimport numpy as npimport h5pyimport matplotlib.pyplot as pltimport scipyfr...

2018-11-27 20:28:00 451

原创 Building your Deep Neural Network: Step by Step - 吴恩达深度学习视频第一课第四周作业 assignment4_1

来自吴恩达深度学习视频 4-1如果直接看代码对你来说有困难,请移步: https://blog.csdn.net/u013733326/article/details/79767169import numpy as npimport h5pyimport matplotlib.pyplot as pltfrom testCases_v2 import *from dnn_utils...

2018-11-27 19:38:12 687

原创 numpy.random.rand()和numpy.random.randn()的区别

numpy.random.rand()和numpy.random.randn()的区别手动搭建深度网络时,我们一般使用numpy.random.randn()来初始化参数。那么numpy.random.randn()和numpy.random.rand()有什么区别呢?import numpy as npa = np.random.rand(4, 1)b = np.random.rand...

2018-11-27 16:50:03 2004

原创 Planar data classification with one hidden layer - 吴恩达深度学习视频第一课第三周作业

如果直接看代码对你来说有困难: 参考 https://blog.csdn.net/u013733326/article/details/79702148完成时间 2018年11月26日 19:48:44 没有任何报错# Package importsimport numpy as npimport matplotlib.pyplot as pltfrom testCases impo...

2018-11-26 20:07:12 247

原创 神经网络的参数和超参数

整理并翻译自吴恩达深度学习视频: https://mooc.study.163.com/learn/2001281002?tid=2001392029#/learn/content?type=detail&id=2001702026神经网络的参数和超参数参数(parameter)W[1],b[1],W[2],b[2],W[3],b[3]...W^{[1]}, b^{[1]}, ...

2018-11-26 10:17:10 3761

原创 从零开始实现Logistic Regression,最简单的单元深度神经网络。

来自吴恩达深度学习视频,第二周编程作业,有详细注释。# Logistic Regression with a Neural Network mindset# Initializing parameters# Calculating the cost function and its gradient# Using an optimization algorithm (gradient...

2018-11-24 20:59:20 598

原创 Why we need activation function?

整理自吴恩达深度学习课程 https://mooc.study.163.com/learn/2001281002?tid=2001392029#/learn/content?type=detail&id=2001702018&cid=2001694026Why we need activation function ?Deep networks with many many...

2018-11-24 17:05:08 390

原创 三种激活函数以及它们的优缺点

三种激活函数以及它们的优缺点sigmoidsigmoidsigmoid最基本的激活函数,logistics regression以及讲解深度神经网络的时候作为简单例子,但实际上很少使用。原因如下:当z非常大或者非常小的时候,a的斜率变得越来越接近0,这会使得梯度下降算法变得极为缓慢。但sigmoidsigmoidsigmoid非常适合作为二元分类网络输出层的激活函数,因为在该应用场景下...

2018-11-24 11:15:12 3820

原创 图片数据扁平化的方法

A image in computer is represent in as matrix(height, width, 3)For convenience, you should now reshape images of shape (num_px, num_px, 3) in a numpy-array of shape (num_px ∗ num_px ∗ 3, 1). Here...

2018-11-21 19:53:06 1439

原创 矩阵/向量的范数

来自吴恩达 深度学习 第二周作业第一部分# GRADED FUNCTION: normalizeRowsimport numpy as npdef normalizeRows(x): """ Implement a function that normalizes each row of the matrix x (to have unit length). ...

2018-11-21 15:51:33 1415

原创 Logistic Regression cost function and Maximum likehood estimate

Logistic Regression cost functionThe original form is y^, here we simplified by using y’ because of the latex grammar.Ify=1:p(y∣x)=y′If y = 1: p(y|x) = y'Ify=1:p(y∣x)=y′Ify=0:p(y∣x)=1−y...

2018-11-21 11:41:11 355

原创 Dynamic Programming中的 Bellman-Ford算法

Shortest Paths with negative weightsDynamic ProgrammingPseudocode// Shortest paths with negative edgesShortest-Path(G, t) { foreach node v ∈ V M[0, v] <- infinity ...

2018-11-20 16:36:00 569

原创 Kosaraju算法

SCCSCC = strong connected component.即强连通分量。In the mathematical theory of directed graphs, a graph is said to be strongly connected or diconnected if every vertex is reachable from every other vert...

2018-11-20 16:25:11 1216

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除