ws_6868-CSDN博客

原创 Gradient Descent(梯度下降法)

默认你已经了解了导数，偏导，梯度和方向导数的概念直观理解比如我们在一座大山上的某处位置，这时候突然阴云密布，我们想要快速的下山，但是我们不知道怎么下山，于是决定走一步算一步，可是怎么走一步算一步呢？有种方法是这样我们先环顾下四周（360度）看一下哪里山坡最陡，然后向最陡峭的地方走一步，一致重复这个过程，按照这个方法一直到走到最低点（这个最低点事局部最优，因为按照这种方法我们是...

2019-01-31 14:08:13 398

转载为什么梯度反方向是函数值局部下降最快的方向（方向导数与梯度）

（本文转自于知乎https://zhuanlan.zhihu.com/p/24913912）导数导数的几何意义可能很多人都比较熟悉: 当函数定义域和取值都在实数域中的时候，导数可以表示函数曲线上的切线斜率。除了切线的斜率，导数还表示函数在该点的变化率。几何意义直白的来说，导数代表了在自变量变化趋于无穷小的时候，函数值的变化与自变量变化的比值代表了导数，几何意义有该点的切线...

2019-01-27 13:26:56 1039 1

原创链式求导法则

本文只总结了多元复合函数的链式求导法则（一元的更简单就不写了）直接结合一个例子结合复合结构图来说这个问题Z = F(U,V,W) U = U(y)V = V(x,y)W = W(x)下面是它的复合结构图有了复合结构图就很容易看出 Z 由 U、V、W 决定，U由y决定，V由x, y决定，W由x决定。例如求Z对x的偏导有句经典的话就是求导就是走路，有几条...

2019-01-26 13:13:54 11345

原创函数极限

函数极限的定义几何意义函数极限的性质极限存在的充分必要条件：左、右极限都存在且相等。无穷小与无穷大极限运算法则定理一：有限个无穷小的和是无穷小定理二：有界函数与无穷小的乘积是无穷小推论一：常数与无穷小的乘积是无穷小推论二：有限个无穷小的乘积是无穷小...

2019-01-09 01:06:47 438

原创袋鼠过河（python版）

题目来自于牛客网题目描述一只袋鼠要从河这边跳到河对岸，河很宽，但是河中间打了很多桩子，每隔一米就有一个，每个桩子上都有一个弹簧，袋鼠跳到弹簧上就可以跳的更远。每个弹簧力量不同，用一个数字代表它的力量，如果弹簧力量为5，就代表袋鼠下一跳最多能够跳5米，如果为0，就会陷进去无法继续跳跃。河流一共N米宽，袋鼠初始位置就在第一个弹簧上面，要跳到最后一个弹簧之后就算过河了，给定每个弹簧的力量，求袋鼠...

2019-01-08 22:30:07 305

原创随机变量及其分布

随机变量定义：假设随机试验的样本空间为S={e}. X = X(e) 是定义在样本空间S上的实值单值函数，称X=X(e)为随机变量。其中e为样本点。例子离散型随机变量及其规律离散型随机变量：随机变量的全部可能取到的值是有限多个或者可列无限多个。（0-1）分布例如，婴儿的性别登记，产品质量是否合格等。伯努利分布、二项分布泊松分布随机变量...

2019-01-08 00:33:16 1516

原创概率论的基本概念

参考于《概率论与数理统计》第四版，浙江大学。随机现象个别的实验结果呈现不确定性，在大量重复试验中其结果又具有统计规律性。随机试验概念：对随机现象的观察和试验。一般用E来表示。特点 1. 可以在相同条件下重复地进行试验。2. 每次实验的可能结果不止一个，并且能事先明确试验的所有可能结果。3. 实验之前不能确定实验结果。例如样本空间、随机事件样本空...

2019-01-07 21:58:17 629

首先，结合手写数字分类来说说什么是训练集（traning set），目标向量（target vector），训练（traning）,学习（learning），测试集(test set)，泛化(generalization)，预处理(pre-processed)，特征抽取(feature extraction)。例：现在有个手写数字识别的例子,如下图所示。每个数字对应一个28*28像素的图片，在...

2019-01-04 19:21:25 672 1

原创 Data: Values, types and expressions and Variables

Values and TypesEvery value has a typeValue (data) types in python:- Integers (type int)- Floating-point numbers (type float) - Strings (type str)- Truth values (type bool)- …and so on.Types d...

2018-11-02 19:59:10 277

原创 Python(Functional abstraction)

Libraries, modules, namespacesLibrary is a generic term for a collection of (useful) functions, data structures, etc.In python, libraries are called modules.Importing a module, eg:import mathim...

2018-11-02 18:45:40 806

ws_6868的博客