![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
神经网络
Sxyinn
这个作者很懒,什么都没留下…
展开
-
Neural Network 5 优化器
神经网络参数优化器引导参数优化的方法,1.SGD没有momentumWt+1=Wt−lr ∗ ∂loss∂WtW_{t+1}=W_t-lr\;\ast\;\frac{\partial loss}{\partial W_t}Wt+1=Wt−lr∗∂Wt∂loss2.SGDM含有momentum,在SGD基础上增加一阶动量β 一般取值0.9mt=β⋅mt−1+(1−β)...原创 2020-04-26 10:23:41 · 145 阅读 · 0 评论 -
Neural Network 4 神经网络基本概念
1.基础语法tf.where() 条件语句真/ 假tf.where(条件语句,真返回A,假返回B)np.random.RandomState.rand()返回一个[0,1)间的随机数import numpy as nprdm = np.random.RandomState()a = rdm.rand(3,4)print(a)[[0.18780617 0.01291...原创 2020-04-25 16:06:58 · 118 阅读 · 0 评论 -
Neural Network 3 鸢尾花神经网络搭建
1.主代码#导入所需模块import tensorflow as tffrom sklearn import datasetsfrom matplotlib import pyplot as pltimport numpy as np#导入数据x_data = datasets.load_iris().datay_data = datasets.load_iris().targ...原创 2020-04-24 16:17:32 · 137 阅读 · 0 评论 -
Neural Network 2 基础知识
Tensorflow 2.0的语法规则和之前有一些差异,多注意1 张量 tensor2 数据类型tf.int , tf.floattf.booltf.constant([True , False])tf.string3.创造一个张量使用convert_to_tensorimport tensorflow as tfimport numpy as np#change ...原创 2020-04-21 18:04:09 · 125 阅读 · 0 评论 -
Neural Network 1 导读
神经网络最重要的参数output = input * weights + biasloss function:预测值和标准答案的差距目的:想要找到一组参数w和b,使得损失函数最小梯度:函数对各参数求偏导后的向量所以梯度下降就是寻找损失函数的最小值,得到最优参数学习率:梯度下降速度反向传播 : 从后向前,逐层求损失函数对每层神经元参数偏导数,迭代更新所有参数wt+l = wt ...原创 2020-04-20 17:34:33 · 93 阅读 · 0 评论