![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
xinxing_Star
这个作者很懒,什么都没留下…
展开
-
数据爬取demo
#!/usr/bin/env python# -*- encoding: utf-8 -*-# Created on 2016-06-07 07:40:58# Project: dazhongdianpingfrom pyspider.libs.base_handler import *from bs4 import BeautifulSoupfrom pymongo import MongoClientimport base64import reid = 0count = 0.原创 2020-06-07 11:04:46 · 920 阅读 · 0 评论 -
梯度下降算法非常详细的解释赶快看看
介绍如果说在机器学习领域有哪个优化算法最广为认知,用途最广,非梯度下降算法莫属。梯度下降算法是一种非常经典的求极小值的算法,比如在线性回归里我们可以用最小二乘法去解析最优解,但是其中会涉及到对矩阵求逆,由于多重共线性问题的存在是很让人难受的,无论进行L1正则化的Lasso回归还是L2正则化的岭回归,其实并不让人满意,因为它们的产生是为了修复此漏洞,而不是为了提升模型效果,甚至使模型效果下降。但是换一种思路,比如用梯度下降算法去优化线性回归的损失函数,完全就可以不用考虑多重共线性带来的问题。其实不仅是线性原创 2020-06-04 10:14:12 · 541 阅读 · 0 评论 -
数据结构——链表
一、链表的定义1.和数组一样,链表也是一种线性表。2.从内存结构来看,链表的内存结构是不连续的内存空间,是将一组零散的内存块串联起来,从而进行数据存储的数据结构。3.链表中的每一个内存块被称为节点Node。节点除了存储数据外,还需记录链上下一个节点的地址,即后继指针next。详细定义: 链表是一种物理存储单元上非连续、非顺序的存储结构,数据元素的逻辑顺序是通过链表中的指针链接次序实现的。链表由一系列结点(链表中每一个元素称为结点)组成,结点可以在运行时动态生成。每个结点包括两个部分:.原创 2020-06-03 10:07:36 · 363 阅读 · 0 评论 -
常用函数的倒数和微分
原创 2020-06-02 10:33:19 · 1430 阅读 · 0 评论 -
梯度消失、爆炸原因以及解决办法
本文主要深入介绍深度学习中的梯度消失和梯度爆炸的问题以及解决方案。本文分为三部分,第一部分主要直观的介绍深度学习中为什么使用梯度更新,第二部分主要介绍深度学习中梯度消失及爆炸的原因,第三部分对提出梯度消失及爆炸的解决方案。有基础的同鞋可以跳着阅读。其中,梯度消失爆炸的解决方案主要包括以下几个部分。- 预训练加微调- 梯度剪切、权重正则(针对梯度爆炸)- 使用不同的激活函数- 使用batchnorm- 使用残差结构- 使用LSTM网络第一部分:为什么要使用梯度更新规则在介绍梯度.原创 2020-06-01 10:51:38 · 348 阅读 · 0 评论