守钱-CSDN博客

原创深度学习笔记(本文不讲技术细节,持续更新)

目录: 网络架构, 激活函数, 网络模型, 数据集, 损失函数, 输出函数常见的激活函数Sigmoid输出范围为[0,1]幂运算且求导涉及除法梯度消失输出非0均值Tanh输出范围为[-1,1]幂运算且求导涉及除法梯度消失输出为0均值ReLU输出范围为[0,x]运算简单权重失活(weight dead)输出非0均值Leaky ReLU输出范围...

2019-05-07 22:51:24 124

原创深度学习-何如计算误差(图片有问题,后期修复)

前言误差计算是深度学习中的核心,非常重要!!! 关于误差计算,有如下概念:损失函数(Loss Function) : 定义在单个样本上的, 算的是一个样本的误差代价函数(Cost Function) : 定义在整个训练集上的, 是所有样本误差的平均, 也就是损失函数的平均目标函数(Object Function): 最终优化的函数.等于经验风险+结构风险(也就是Cost Funct...

2019-04-01 18:25:04 2768

原创深度学习之激活函数详解

激活函数是什么?激活函数, 即Activation Function, 有时候也称作激励函数. 提到激活函数,就不得不先说一下神经网络.神经网络中最基本的成分是神经元(neuron)模型, 每个神经元与其他神经元相连.如果某神经元的电位超过了一个'阈值'(threshold), 那么它就会被激活, 即'兴奋'起来.当它'兴奋'时就会向相连的神经元发送化学物质，从而改变这些神经元内的电位....

2019-04-01 18:08:17 1054

原创大数据-Hadoop-MR

MR介绍MapReduce 是 Google 推广的一个简单的编程模型，它对以高度并行和可扩展的方式处理大数据集很有用。 MapReduce 的灵感来源于函数式编程，用户可将他们的计算表达为 map 和 reduce 函数，将数据作为键值对来处理。 Hadoop 提供了一个高级 API 来在各种语言中实现自定义的 map 和 reduce 函数。Hadoop 基础架构负责处理分布式处理的所...

2018-11-27 14:14:21 424

原创大数据-Hadoop-HDFS

这篇文章是为了记录学习中的关键点,不是教程~~1. 一致性 HDFS应用需要一个“一次写入多次读取”的文件访问模型。一个文件经过创建、写入和关闭之后就不需要改变. 这一假设简化了数据一致性问题, 并且使高吞吐量的数据访问成为可能. 重点: HDFS不能修改2. 架构相比官方的图,这张图更好 HDFS 采用Master/Slave的架构来存储数据，这...

2018-11-27 13:54:48 192