必须要会的知识点

最新推荐文章于 2020-09-10 10:34:00 发布
最新推荐文章于 2020-09-10 10:34:00 发布
阅读量126 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/andyjkt/article/details/107441910
版权

机器学习

SVM原理及推导

推导
知识点
CSDN

逻辑回归原理及推导

推导
CSDN

逻辑回归与SVM的异同

CSDN

XGBOOST和GDBT的区别

优缺点
区别
CSDN

评价指标，AUC

知乎
CSDN

代价函数，目标函数，损失函数的区别

知乎
CSDN

CV

优化器的区别

知乎
CSDN

CNN为什么能提取特征

知乎
一个图像矩阵经过一个卷积核的卷积操作后，得到了另一个矩阵，这个矩阵叫做特征映射（feature map）。每一个卷积核都可以提取特定的特征，不同的卷积核提取不同的特征，举个例子，现在我们输入一张人脸的图像，使用某一卷积核提取到眼睛的特征，用另一个卷积核提取嘴巴的特征等等。而特征映射就是某张图像经过卷积运算得到的特征值矩阵。
卷积核放在神经网络里，就代表对应的权重（weight)
卷积核和图像进行点乘（dot product), 就代表卷积核里的权重单独对相应位置的Pixel进行作用
虽说我们称为卷积，实际上是位置一一对应的点乘，不是真正意义的卷积
至于为什么要把点乘完所有结果加起来，实际上就是把所有作用效果叠加起来
就好比前面提到的RGB图片，红绿蓝分量叠加起来产生了一张真正意义的RGB图

专注于计算机视觉的AndyJiang
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
离散数学知识点总结
11-05
离散数学知识点总结
CNN入门讲解：卷积层是如何提取特征的？
热门推荐
bobo_jiang的博客
01-16 5万+
各位看官老爷们 好久不见 这里是波波给大家带来的CNN卷积神经网络入门讲解 每周我将给大家带来绝对原创，脑洞大开，幽默风趣的深度学习知识点入门讲解 希望大家多多支持，多多关注 本人微信公众号：follow_bobo 知乎账号：蒋竺波 对了，本期我们的赞助商是 让你爱情事业双丰收的 最近一直忙于工作和看《猎场》 所以没时间更新，
计算机网络知识点总结，知识点，思维导图
04-20
可编辑版本，xmind文件，
python知识点xmind文件
11-29
内容全面，你可以放心下载
JAVA知识点总结.pdf
07-27
关于java语言设计理念 抽象类与接口的区别是什么 java为什么不支持多继承 java里的枚举实现机制是什么 java中的内部类 关于类Collections,Arrays,Objects java里的方法重载 ...关于java里的main方法
深度学习之L1 loss和L2 loss的区别
AndyJ的学习之旅
05-08 2万+
L1 loss和L2 loss的区别？ L1 loss: L2 loss: smooth L1 loss: l1 loss在零点不平滑，用的较少。一般来说，l1正则会制造稀疏的特征，大部分无用的特征的权重会被置为0。 （适合回归任务，简单的模型，由于神经网络通常解决复杂问题，很少使用。） smooth l1 loss修改零点不平滑问题，L1-smooth比l2 loss对异常值的鲁棒...
机器学习之评价指标AUC的意义
AndyJ的学习之旅
09-09 5494
参考 概要 在互联网的排序业务中，比如搜索、推荐、广告等，AUC（Area under the Curve of ROC）是一个非常常见的评估指标。 AUC的理解 一般有两大类解释，一种是基于ROC线下面积，需要理解混淆矩阵，包括精确率、召回率、F1 值、ROC等指标的含义。另外一种是基于概率的解释，模型的排序能力。 AUC的排序特性 对比accuracy、precision等指标，AUC指标本身和模型预测score绝对值无关，只关注排序效果，因此特别适合排序业务。 为何与模型预测score值无关为何是很好
机器学习之Xgboost详解
AndyJ的学习之旅
07-27 4577
xgboost推导 xgboost面试题上 xgboost面试题下
深度学习之联邦学习
AndyJ的学习之旅
09-10 3440
什么是联邦学习 联邦学习（federated learning）能够让AI算法借助位于不同站点的数据中获得经验。 该方法能够让多个组织协作开发模型，而且不需要彼此之间直接共享敏感的数据 在多次训练迭代过程中，共享模型所覆盖的数据范围会比任何一个组织内部拥有的数据都要大得多。 联邦学习如何工作 难点： 不仅仅是数据量的问题，数据集还需要极高的多样化。但是考虑到隐私性，这些数据一般无法共享。 解决办法： 联邦学习摒弃了将数据集中到某个位置进行训练的方法，取而代之的是将模型分散到各个不同的站点进行迭代训练。 例如
机器学习之支持向量机,SVM与LR(逻辑回归)的区别?
AndyJ的学习之旅
05-09 2519
什么是支持向量机,SVM与LR的区别? 支持向量机为一个二分类模型,它的基本模型定义为特征空间上的间隔最大的线性分类器。而它的学习策略为最大化分类间隔,最终可转化为凸二次规划问题求解。 LR是参数模型,SVM为非参数模型。LR采用的损失函数为logisticalloss,而SVM采用的是hingeloss。在学习分类器的时候,SVM只考虑与分类最相关的少数支持向量点。LR的模型相对简单,在进行大规模线性分类时比较方便。 SVM可以用于解决二分类或者多分类问题，此处以二分类为例。SVM的目标是寻找一个最优化超
机器学习之AUC评测指标
AndyJ的学习之旅
07-28 1366
参考
机器学习之如何选取特征(特征工程)
AndyJ的学习之旅
09-09 1312
特征工程 特征工程的意义是找一个更好的空间去重构表达，把原始的数据对象映射到这个空间去表达，更便于你的应用。比如分类应用，最好是找到线性可分的空间嘛。 不止是神经网络可以代替人工找特征，理论上越是复杂的模型本身就是在代替人工找特征，只不过复杂模型的有效训练又成了难题。 深层神经网络（就是层数特别多）就是一种通用的复杂的模型，而深度学习很大程度上解决了它的训练问题。 当你用一个N层的网络去学习人脸分类时，看上图最左边，最下面的就是接近输入端的层学到的特征，长相是不是很像Gabor滤波~~这部分的表达粒度比较
机器学习之常用的分类模型评价指标
AndyJ的学习之旅
07-22 1201
1.1 精确率和召回率 精确率和召回率主要用于二分类问题（从其公式推导也可看出），结合混淆矩阵有： 精确率P和召回率R的定义为： 上述计算公式中的Positive与Negative是预测标签，True与false代表预测正误； 要注意，精确率和召回率是二分类指标，不适用多分类，由此得到P-R曲线以及ROC曲线均是二分类评估指标（因为其横纵轴指标均为二分类混淆矩阵计算得到），而准确率适用于多分类评估。（可以将多分类问题转换为二分类问题进行求解，将关注的类化为一类，其他所有类化为一类） 理想情况下，精确率和
深度学习之常用损失函数
AndyJ的学习之旅
07-28 1059
参考
机器学习之LightGBM
AndyJ的学习之旅
08-05 884
本文参考以下链接，如有侵权，联系删除 参考文献 LightGBM简介 GBDT (Gradient Boosting Decision Tree) 是机器学习中一个长盛不衰的模型，其主要思想是利用弱分类器（决策树）迭代训练以得到最优模型，该模型具有训练效果好、不易过拟合等优点。GBDT不仅在工业界应用广泛，通常被用于多分类、点击率预测、搜索排序等任务；在各种数据挖掘竞赛中也是致命武器，据统计Kaggle上的比赛有一半以上的冠军方案都是基于GBDT。而LightGBM（Light Gradient Boost
机器学习之逻辑回归（logistics regression）原理推导和决策边界
AndyJ的学习之旅
07-22 718
提要：逻辑回归虽然名字里面有回归，但是主要用来解决分类问题。 线性回归（Linear Regression） 线性回归的表达式： f(x)=wT+bf(x)=w^T+bf(x)=wT+b 线性回归对于给定的输入xxx ，输出的是一个数值 y ，因此它是一个解决回归问题的模型。 为了消除掉后面的常数项b，我们可以令 x′=[1x]Tx'=[1\quad x]^Tx′=[1x]T，同时 w′=[bw]Tw'=[b \quad w]^Tw′=[bw]T ，也就是说给x多加一项而且值恒为1，这样b就到了w里面去了，
机器学习之LDA线性判别分析
AndyJ的学习之旅
08-10 670
思想总结 线性判别分析( Linear Discriminant Analysis , LDA )是一种经典的降维方法。和主成分分析 PCA 不 考虑样本类别输出的无监督降维技术不同, LDA 是一种监督学习的降维技术,数据集的每个样本有类别输出。 LDA 分类思想简单总结如下: 多维空间中,数据处理分类问题较为复杂, LDA 算法将多维空间中的数据投影到一条直线上,将 d 维数据转化成 1 维数据进行处理。 对于训练数据,设法将多维数据投影到一条直线上,同类数据的投影点尽可能接近,异类数据点尽 可能远离
机器学习之梯度下降法求最值
AndyJ的学习之旅
07-28 639
梯度下降法求最值 import numpy as np def f(x): return x**2 def h(x): return 2*x x = 2 #初始点（初始横坐标） step = 0.8#（步长） f_change = f(x) f_current = f(x) count = 0#迭代次数 while f_change>1e-10:#停止迭代的条件，差值小于10^-10的时候停止迭代 x = x-step*h(x)#更新x tmp = f(x)
Linux操作系统基础知识点总结汇总
在Linux操作系统的基础知识点总结中，涵盖了Linux基础命令操作、VIM基本操作、文件归档与解压缩、重定向与管道操作、文件的查找与搜索、RPM安装软件、yum 软件仓库、用户管理、组账号管理、以及在Linux下搭建ftp...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值