机器学习
爱学习的虫子
大家共同进步
展开
-
SVM的常见核函数及其选取
核函数的数学要求核函数有严格的数学要求,所以设计一个核函数是很困难的。K(x,z)是正定核的充要条件是:K(x,z)对应的Gram矩阵实半正定矩阵。Gram矩阵:矩阵对应点的内积。KTK, KKT半正定矩阵:设A是实对称矩阵。如果对任意的实非零列矩阵X有XTAX≥0,就称A为半正定矩阵。当检验一个K是否为正定核函数,要对任意有限输入集{xi…}验证K对应的Gram矩阵实是否为半正定矩阵。...原创 2020-02-16 22:30:36 · 1709 阅读 · 0 评论 -
深度学习
转载自https://www.jianshu.com/p/6c08f4ceab4cPart I 深度学习基础本书1-4章将带你了解一些基本概念:什么是深度学习,它可以用来做什么以及它如何工作。此外,还将让你熟悉使用深度学习解决数据问题的典型工作流程。如果你还没怎么了解深度学习,你需要明确的从part I开始读取,然后再去阅读part 2的实际应用。1、什么是深度学习本章...转载 2019-03-25 16:53:18 · 2667 阅读 · 0 评论 -
深度学习
转载:https://www.jianshu.com/p/ba51e470b736理解深度学习需要熟悉许多简单的数学概念:张量、张量运算、微分、梯度下降等等。我们在这一章的目标将是建立你对这些概念的直觉,而不是过于技术性。特别地,我们将避开数学符号,对于那些没有任何数学背景的人来说,数学符号可能会令人不快,而且严格地说,数学符号对于很好地解释事情并非必需的。为了增加张量和梯度下降的上下文,...转载 2019-03-25 20:41:55 · 1550 阅读 · 1 评论 -
深度学习
转载自:https://www.jianshu.com/p/f1332c58ca86本章旨在让你开始使用神经网络来解决实际问题。您将巩固从第2章的第一个实际示例中获得的知识,并将所学知识应用于三个新问题,涉及到神经网络的三个最常见的用例:二分类、多分类和标量回归。在这一章中,我们将更深入地了解我们在第二章中介绍的神经网络的核心组件:层、网络、目标函数和优化器。我们将向您简要介绍Keras,...转载 2019-03-26 21:57:07 · 475 阅读 · 0 评论 -
深度学习
1.过拟合模型复杂而训练样本不足,过度训练,会导致过度拟合。训练数据集上的代价表现是越来越好的,测试集上的代价越来越差。训练数据上的分类准确率一直在提升接近 100%,而测试准确率仅仅能够达到 82.27%。网络几乎是在单纯记忆训练集合,而没有对数字本质进行理解能够泛化到测试数据集上。避免过拟合的方法:early stopping,L1、L2正则化,dropout, 人为扩展...转载 2019-03-27 16:23:57 · 100 阅读 · 0 评论 -
softmax学习
softmax函数详解转载自:https://www.cnblogs.com/alexanderkun/p/8098781.html答案来自专栏:机器学习算法与自然语言处理详解softmax函数以及相关求导过程这几天学习了一下softmax激活函数,以及它的梯度求导过程,整理一下便于分享和交流。softmax函数softmax用于多分类过程中,它将多个神经元的输出,映射到(...转载 2019-03-27 16:40:11 · 194 阅读 · 0 评论 -
深度学习——优化器算法Optimizer详解(BGD、SGD、MBGD、Momentum、NAG、Adagrad、Adadelta、RMSprop、Adam)
转载自:https://www.cnblogs.com/guoyaohua/p/8542554.html在机器学习、深度学习中使用的优化算法除了常见的梯度下降,还有 Adadelta,Adagrad,RMSProp 等几种优化器,都是什么呢,又该怎么选择呢?在 Sebastian Ruder 的这篇论文中给出了常用优化器的比较,今天来学习一下:https://arxiv.org/pdf/1...转载 2019-03-27 21:41:51 · 250 阅读 · 0 评论 -
理解LSTM
作者:wangduo出处:http://www.cnblogs.com/wangduo/Recurrent Neural Networks人类并不是每时每刻都从一片空白的大脑开始他们的思考。在你阅读这篇文章时候,你都是基于自己已经拥有的对先前所见词的理解来推断当前词的真实含义。我们不会将所有的东西都全部丢弃,然后用空白的大脑进行思考。我们的思想拥有持久性。传统的神经网络并不能做到这点...转载 2019-03-28 10:06:55 · 178 阅读 · 0 评论