![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
人工智能之深度学习
aidh123
聚焦科技,开心生活。
展开
-
如何处理数据不平衡问题?
0 引言我们在处理实际业务时,经常会遇到训练数据中不同类别样本比例差距过大的情况。例如银行贷款业务欺诈问题,我们要清楚银行贷款业务主要识别的就是具有一定风险的贷款客户,而实际样本中,大多数都是及时偿还的正样本,只有少数是未偿还的负样本,如果我们不做任何预处理,模型很可能因为正样本数量多,而把很多风险客户识别成正常客户,造成损失。所以首先要明确具体业务的根本要求。下面是我总结的解决办法,有什么问题...原创 2019-03-04 22:43:51 · 1833 阅读 · 1 评论 -
神经网络中激活函数的总结
激活函数出现的原因1、遇到线性不可分的数据。神经网络也找不到一条合适的直线。2、如何解决尝试单层感知机。尝试多层感知机化简后发现仍然是一个线性分类器。3、激活函数的作用在隐藏层和输出层之间加入一个激活函数,sigmoid。多层感知器激活函数就是在神经元上加一个壳,为神经元带来非线性因素,提升模型的表达能力。第一步计算线性变化,第二步计算非线性变换。激活函数大...原创 2019-03-05 22:37:42 · 816 阅读 · 0 评论 -
10分钟快速理解反向传播算法
一. 反向传播算法1. BP算法自然语言描述 概念:梯度下降是利用损失函数的梯度,来决定最终的下降方向。反向传播算法是计算复杂梯度的方式。数学原理就是链式法则。 梯度向量中每一项,不光告诉我们每个参数增加还是缩小。并且指出了每个参数的“性价比” 我们从单样本训练进行观察。 输入的特征为784个,两层隐藏层,输出层为类别,10个节点。输出的目标为识别为2,我们看到输出层的激活值...原创 2019-03-08 15:21:35 · 1160 阅读 · 0 评论 -
从0到1理解神经网络结构(上)
从0到1理解神经网络结构(上)一、 前言下图为经典的神经网络,主要有三层,第一层为输入层,第二层为隐藏层,第三层为输出层。图1 神经网络结构图需要着重记住几点:在设计神经网络时,输入层与输出层节点是固定的,隐藏层可以随意指定。箭头方向代表模型预测过程中的流向。神经网络中最重要的是神经元之间的连线,连线对应的是不同的权重,也是神经网络预测的目标。将权重调整到最佳的状态,使网络的预测效...原创 2019-03-06 19:53:19 · 1840 阅读 · 0 评论 -
反向传播算法之数学原理
反向传播算法之数学原理一. 数学原理 反向传播从数学的角度考虑,就是利用了链式法则求导,其中的梯度下降算法也是微分学的一个知识点。以一层神经元为例。 输出层的激活值 a^(L) ,L表示输出层,前一层的激活值为a^(L-1)。 单一训练样本,已知训练值为y。计算损失函数。 整体的流程是 • 先使用前一个激活值和权重 w 以及偏置 b 计算出 z • 再将 z ...原创 2019-03-09 18:54:30 · 1478 阅读 · 0 评论 -
从0到1理解神经网络结构(下)
从0到1理解神经网络结构(下)从0到1理解神经网络结构(上):https://blog.csdn.net/weixin_40192195/article/details/88252340 模型训练目的是找到最优的参数可以和最真实的模型逼近,具体的训练方式,首先给所有的参数赋予随机的值,然后通过随机生成的值和输入的特征进行运算,得到预测的训练目标yp,真是的目标是y,那么他们之间就存在一个损...原创 2019-03-07 17:08:32 · 309 阅读 · 0 评论