机器学习/深度学习 算法集合

原创 2018年04月16日 09:56:29

这里随记 机器学习/深度学习 相关算法,全部源自网络,并整合在这里,以期后面学习和整理。

LDA

监督学习类,线性判别分析(Linear Discriminant Analysis)

  • 主要目的

    降维度,减轻计算负担

  • 主要思想

    投影(降维度后)

    • 类内方差最小
    • 类外方差最大
  • 主要数学基础

    瑞利商
    广义瑞利商

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

PCA

非监督学习类,主成分分析(Principal components analysis)

  • 主要目的

降维度,减轻计算负担

  • 主要思想
  • 样本到投影直线(或者超平面)的距离足够近
  • 样本到投影直线(或者超平面)尽可能分开

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

最小二乘法

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

Gradient Descent

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

牛顿方法

此处输入图片的描述
此处输入图片的描述

同时可以参考一下知乎提问:最优化问题中,牛顿法为什么比梯度下降法求解需要的迭代次数更少?,其中最爱麦丽素的回答。

最大似然到EM

文章来源zouxy09的专栏

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

关于数学推导,可以进一步看原文。

另外EM(期望最大算法)的应用还包括GMM高斯混合模型,K-means聚类算法,HMM隐马尔可夫模型等)

GMM 高斯混合模型

高斯混合模型–GMM(Gaussian Mixture Model)

K-means 聚类算法

深入浅出K-Means算法
算法杂货铺——k均值聚类(K-means)

HMM 隐马尔可夫模型

一文搞懂HMM(隐马尔可夫模型)

BackPropagation (神经网络基础-反向传播)

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

此处输入图片的描述

核函数

这里取核函数的直观理解,来自知乎回答:

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

此处输入图片的描述
此处输入图片的描述
此处输入图片的描述

贝叶斯的通俗理解

朴素贝叶斯分类算法

贝叶斯网络模型

卷积神经网络各层分析

零基础入门深度学习系列文章

决策树和随机森林

GTB-梯度提升(gradient boosting)算法

主题模型(LDA) 亦可参考

集成学习原理小结

Word2Vec

集成学习Boosting&Bagging区别

xgboost入门

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/Linux1s1s/article/details/79956748

数据挖掘、机器学习、深度学习、推荐算法的联系与差别总结

数据挖掘,机器学习,深度学习,推荐算法的联系与区别
  • shanshanhi
  • shanshanhi
  • 2016-12-22 15:39:32
  • 4467

讲给小白——程序、算法、机器学习、深度学习

什么是程序(Program)计算机程序,是指为了得到某种结果而可以由计算机(等具有信息处理能力的装置)执行的代码化指令序列(或者可以被自动转换成代码化指令序列的符号化指令序列或者符号化语句序列)。通俗...
  • sdlypyzq
  • sdlypyzq
  • 2016-07-01 23:35:07
  • 12533

机器学习&深度学习算法及代码实现

最近在学机器学习,学习过程中收获颇多,在此留下学习记录,希望与同道中人相互学习交流机器学习简介1、机器学习运用学习算法,利用所给的数据进训练,生成相应的模型。在面对新情况时,根据模型,给出正确的判断。...
  • qq_31456593
  • qq_31456593
  • 2017-04-05 20:38:50
  • 6869

相比于深度学习,传统的机器学习算法难道就此没落了吗,还有必要去学习吗?

应 CSDN 运营朋友之邀写了一篇观点文章,作为一个刚刚入门的小硕,虽然不才,但厚着脸皮,发表一下自己浅薄的看法。...
  • u010167269
  • u010167269
  • 2016-09-24 10:53:19
  • 19067

机器学习、深度学习、和AI算法可以在网络安全中做什么?

本文作者:Alexander Polyakov,ERPScan的首席技术官和联合创始人、EAS-SEC总裁,SAP网络安全传播者。现在已经出现了相当多的文章涉及机器学习及其保护我们免遭网络攻击的能力。...
  • yidunmarket
  • yidunmarket
  • 2018-03-29 19:40:02
  • 101

python 机器学习算法实现 深度学习笔记

点击打开链接
  • sinat_36458870
  • sinat_36458870
  • 2017-04-21 10:33:18
  • 2892

机器学习算法~异常检测

异常检测(Anomaly Detection) 训练好模型之后,我的模型几乎是玩美的 可是如果我要用这个模型的时候,我输入模型的数据是有异常的 那么这时候模型怎么处理新的异常数据,? 所以啊,当我们训...
  • sinat_36458870
  • sinat_36458870
  • 2017-05-29 13:45:11
  • 904

机器学习PPT

  • 2018年01月23日 09:51
  • 40.81MB
  • 下载

机器学习总结(十一):深度学习算法(CNN,SAE,等)及常见问题总结

(1)CNN 层级结构:输入层->卷积层->激励层->卷积层->激励层。。。 数据输入层(数据预处理):三种方法:去均值(即0均值化,CNN常用,训练集所有像素值减去均值,把输入数据各个维度中...
  • cppjava_
  • cppjava_
  • 2017-05-06 10:54:48
  • 2493

一张图看懂AI、机器学习和深度学习的区别

AI(人工智能)是未来,是科幻小说,是我们日常生活的一部分。所有论断都是正确的,只是要看你所谈到的AI到底是什么。   例如,当谷歌DeepMind开发的AlphaGo程序打败韩国职业围棋高手Lee...
  • dukai392
  • dukai392
  • 2017-04-20 16:54:23
  • 18451
收藏助手
不良信息举报
您举报文章:机器学习/深度学习 算法集合
举报原因:
原因补充:

(最多只允许输入30个字)