徐亦达教授在github公布了他的历年机器学习相关课件、视频,黄海广博士协助徐亦达老师对课件目录进行翻译和整理,并提供下载。
徐亦达老师简介
徐亦达,现任悉尼科技大学教授,UTS全球数据技术中心机器学习和数据分析实验室主任。主要研究方向是机器学习,数据分析和计算机视觉。他在国际重要期刊与会议发表数篇高影响因子论文;编写了大量的数理统计、概率和机器学习教材。
徐亦达老师的课件的目录
前言
笔记的视频演示
最近的研究讲义
噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化
一、基础知识
1.概率论与数理统计基础
贝叶斯模型
概率估计
统计属性
2.概率模型
E-M算法
状态空间模型(动态模型)
3.高级概率模型
贝叶斯非参数(BNP)及其推导基础
贝叶斯非参数(BNP)扩展
行列式点过程
4.推导课件
变分推导
随机矩阵
蒙特卡洛简介
马尔可夫链蒙特卡洛
粒子滤波器(序列蒙特卡洛)
二、深度学习
优化方法
神经网络
卷积神经网络:从基础到最近的研究
词表示和近似Softmax
深度自然语言处理
深度增强学习
受限玻尔兹曼机
三、数据科学
30分钟介绍人工智能和机器学习
回归方法
推荐系统
降维
数据分析简介和相关的jupyternotebook
四、致谢
徐亦达老师的课件的内容简介及相关文件
前言
笔记的视频演示
简介:
徐亦达老师在2015年用中文录制了这些课件中约20%的内容 (备注:课件为全英文),大家可以在YouTube、哔哩哔哩 以及优酷观看和下载。
YouTube:
https://www.youtube.com/channel/UConITmGn5PFr0hxTI2tWD4Q
哔哩哔哩:
https://space.bilibili.com/327617676
优酷:
http://i.youku.com/i/UMzIzNDgxNTg5Ng
最近的研究讲义
2018年7月在创新工厂和北大合办的DeeCamp的课件(当概率遇到神经网络)
简介:
主题包括:EM算法和矩阵胶囊网络;行列式点过程和神经网络压缩; 卡尔曼滤波器和LSTM; 模型估计和二分类问题关系。
文件:DeeCamp2018_Xu_final.pptx
噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化
简介:
噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化以及自然梯度的详细说明。
文件:selected_probability.pdf
一、基础知识
1.概率论与数理统计基础
贝叶斯模型
简介:
贝叶斯模型的修订包括贝叶斯预测模型,条件期望。
文件:bayesian.pdf
概率估计
简介:一些有用的分布,共轭,MLE,MAP,指数族和自然参数。
文件:probability.pdf
统计属性
简介:有用的统计属性可以帮助我们证明事物,包括切比雪夫和马尔科夫不等式。
文件:statistics.pdf
2.概率模型
E-M算法
简介:E-M的收敛证明,E-M到高斯混合模型的例子。
文件:em.pdf,gmm_demo.m,kmeans_demo.m
优酷链接:http://v.youku.com/v_show/id_XMTM1MjY1MDU5Mg
状态空间模型(动态模型)
简介:
详细解释了卡尔曼滤波器和隐马尔可夫模型。
文件:
dynamic_model.pdf,kalman_demo.m
优酷链接:
隐马尔可夫模型:http://v.youku.com/v_show/id_XMTM1MzQ1NDk5Ng
卡尔曼滤波:http://v.youku.com/v_show/id_XMTM2ODU1MzMzMg
3.高级概率模型
贝叶斯非参数(BNP)及其推导基础
简介:
Dircihlet Process(DP),中国餐厅流程见解。
文件:
non_parametrics.pdf ,dirichlet_process.m, chinese_restaurant_process.ipynb
优酷链接:
http://v.youku.com/v_show/id_XMTM3NDY0MDkxNg
贝叶斯非参数(BNP)扩展
简介:
分层DP,HDP-HMM,印度自助餐过程(IBP)。
文件:non_parametrics_extensions.pdf
行列式点过程
简介:
解释DPP的边际分布,L-ensemble,其抽样策略,我们在时变DPP中的工作细节。
文件:dpp.pdf
4.推导课件
变分推导
简介:
解释变分贝叶斯非指数和指数族分布加上随机变分推导。
文件:
variational.pdf ,vbnormalgamma.m
优酷链接:
http://v.youku.com/v_show/id_XMTM1Njc5NzkxNg
随机矩阵
简介:
随机矩阵,幂方法收敛定理,详细平衡和PageRank算法。
文件:stochastic_matrices.pdf
蒙特卡洛简介
简介:
逆CDF,消除,自适应消除,重要性采样。
文件:
introduction_monte_carlo.pdf ,adaptiverejectionsampling.m,hybrid_gmm.m
马尔可夫链蒙特卡洛
简介:
M-H, Gibbs, SliceSampling,Elliptical Slice sampling, Swendesen-Wang, demonstrate collapsed GibbsusingLDA
文件:
markov_chain_monte_carlo.pdf,ldagibbsexample.m ,test_autocorrelation.m, gibbs.m
优酷链接:
http://v.youku.com/v_show/id_XMTM1NjAyNDYyNA
粒子滤波器(序列蒙特卡洛)
简介:
连续蒙特卡罗方法,冷凝滤波算法,辅助粒子滤波器。
文件:particle_filter.pdf
优酷链接:
http://v.youku.com/v_show/id_XMTM3MTE1Mjk2OA
二、深度学习
优化方法
简介:
常用的优化方法。不仅限于深度学习。
文件:optimization.pdf
神经网络
简介:
基本神经网络和多层感知器。
文件:neural_networks.pdf
卷积神经网络:从基础到最近的研究
简介:
卷积神经网络的详细解释,各种损失函数,中心损失函数,对比损失函数,残差网络,YOLO,SSD。
文件:cnn_beyond.pdf
词表示和近似Softmax
简介:
Word2Vec, skip-gram, GloVe, 噪声对比估计,负采样,Gumbel-max技巧。
文件:
word_vector.pdf
深度自然语言处理
简介:
RNN,LSTM,具有注意力机制的Seq2Seq,集束搜索,RNN,LSTM,具有注意力机制的Seq2Seq,集束搜索,Attention is all you need,卷积Seq2Seq,指针网络。
文件:deep_nlp.pdf
深度增强学习
简介:
强化学习的基础知识,马尔可夫决策过程,贝尔曼方程,并进入深度Q学习(正在建设中)
文件:dqn.pdf
受限玻尔兹曼机
简介:
受限玻尔兹曼机(RBM)的基础知识
文件:rbm_gan.pdf
三、数据科学
30分钟介绍人工智能和机器学习
简介:
用30分钟来介绍人工智能和机器学习。(感谢徐亦达老师的博士生常皓东进行协助编辑)
文件:30_min_AI.pptx
回归方法
简介:
分类:Logistic回归和Softmax分类;回归:线性回归,多项式回归,混合效果模型。
文件:regression.pdf, costFunction.m,soft_max.m
推荐系统
简介:
协同过滤,分解机,非负矩阵分解,乘法更新规则。
文件:recommendation.pdf
降维
简介:
典型的PCA和 t-SNE。
文件:dimension_reduction.pdf
数据分析简介和相关的jupyternotebook
简介:
机器学习和数据科学的三个视角。监督与无监督学习,分类准确性。
文件:AI_and_machine_learning.pdf
四、致谢
特别感谢徐亦达老师的博士生团队的协助一起校队课件,还有讨论以及对课件提出了许多非常宝贵的意见。其中(不完全的)包括了,常皓东,姜帅,黄皖鸣,邓辰,梁轩。特别感谢黄海广博士协助徐亦达老师将课件目录翻译成中文。
如果你想加入徐亦达老师的机器学习博士生团队或有兴趣实习, 请通过电子邮件:YiDa.Xu@uts.edu.au与徐亦达老师联系。
参考
徐亦达老师课件的github:
https://github.com/roboticcam/machine-learning-notes
完整讲义下载请回复“徐亦达”查看
也可以直接用百度云下载:
链接:https://pan.baidu.com/s/1SidOblKEJNEzSnVCuAWHhg
提取码:uq4h
往期精彩回顾
适合初学者入门人工智能的路线及资料下载机器学习及深度学习笔记等资料打印机器学习在线手册深度学习笔记专辑《统计学习方法》的代码复现专辑
AI基础下载机器学习的数学基础专辑获取一折本站知识星球优惠券,复制链接直接打开:https://t.zsxq.com/662nyZF本站qq群1003271085。加入微信群请扫码进群(如果是博士或者准备读博士请说明):