机器学习入门
文章平均质量分 69
台湾李宏毅机器学习笔记, 我认为的课程风格风趣幽默而又非常负责,既能融入Pokemon等有趣的applications,也会用十几张PPT来细致地推导公式算法,非常推荐以此入门!
holeung
东南大学
展开
-
Logistic Regression with a Neural Network mindset 参考答案
Logistic Regression with a Neural Network mindsetWelcome to your first (required) programming assignment! You will build a logistic regression classifier to recognize cats. This assignment will step y原创 2017-09-14 09:50:46 · 4520 阅读 · 0 评论 -
机器学习该怎么入门?
源自刚在知乎回答的一个问题:回答如下:我们的情况很相似, 本科大二,学有余力,关注新风向,想做些better than average的事情。 我也像大多数人一样,知乎上拜读了N篇高票答案,印象笔记里收藏了N篇五花八门的文章,github中star了N个仓库,TensorFlow跑个例子就自认为已经懂机器学习了。 好在,我的学习并没有到此为止,我决定脚踏实地找一门课程来学习。那么问题就来了,选原创 2017-08-24 10:59:59 · 5529 阅读 · 0 评论 -
[机器学习入门] 经典台大李宏毅机器学习课程从这里开始
TOPIC CONTENTS BLOG PDF VIDEO 【1】Learning Map(学习导图) blog pdf video 【2】Regression:Case Study ;回归:案例研究 blog pdf video 【3】Gradient Descent ;梯度下降 blog pdf video 【4原创 2017-08-21 23:01:26 · 84657 阅读 · 26 评论 -
[机器学习入门] 李宏毅机器学习课程回顾 + 接下来的学习声明
李宏毅机器学习回顾 从五月二十日发布第一篇《 [机器学习入门] 李宏毅机器学习笔记-1 (Learning Map 课程导览图) 》开始,到八月四日《 [机器学习入门] 李宏毅机器学习笔记-37 (Deep Reinforcement Learning;深度增强学习入门) 》,学习了30小时的李宏毅机器学习课程,并在此留下了几笔学习痕迹。由于很多内容要往复几遍才能听懂,外加记录总结,总共的学习时原创 2017-08-21 10:42:10 · 4128 阅读 · 3 评论 -
[机器学习入门] 李宏毅机器学习笔记-37 (Deep Reinforcement Learning;深度增强学习入门)
[机器学习入门] 李宏毅机器学习笔记-37(Deep Reinforcement Learning;深度增强学习入门) PDF VIDEODeep Reinforcement Learning 深度增强学习是一套很复杂的方法,在这里只了解皮毛。Scenario of Reinforcement Learning 有个傻傻的机器人小白(Agent)去闯荡世界(Environment),原创 2017-08-04 21:44:31 · 3752 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-36(Ensemble part 2;集成方法 part 2)
[机器学习入门] 李宏毅机器学习笔记-35(Ensemble;集成方法) PDF VIDEO 上接part 1EnsembleEnsemble BoostingAdaBoost Algorithm for AdaBoost 上面 空白处为+1或-1,由下式决定。 于是: 我们要把这些classifier通通aggregate集合起来,怎么集合呢? 对 smaller e原创 2017-08-03 23:42:53 · 1366 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-35(Ensemble part 1;集成方法 part 1)
[机器学习入门] 李宏毅机器学习笔记-35(Ensemble;集成方法) PDF VIDEOEnsemble 俗称打群架,想要得到很好的performance,基本都要用这一手。 You already developed some algorithms and codes.Lazy to modify them.Ensemble: improving your machine wi原创 2017-08-02 23:27:05 · 2854 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-34 (Recurrent Neural Network part 3;循环神经网络 part 3)
[机器学习入门] 李宏毅机器学习笔记-34 (Recurrent Neural Network part 3;循环神经网络 part 3) PDF VIDEO 上接part 2RNNBeyond Sequence 那么这种sequence to sequence 的方法还可以用于Syntactic parsing 句法分析上,得到树桩结构。 而它表达的方式就是通过括号来标记的,虽然原创 2017-07-30 20:11:01 · 2069 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2)
[机器学习入门] 李宏毅机器学习笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2) PDF VIDEORNNLearning Target cost就是每一个时间点的output与reference的cross entropy的合,就是minimize的对象。 有了这个lost后,training要怎么做呢? 不幸的是,RNN原创 2017-07-30 14:41:54 · 2520 阅读 · 1 评论 -
[机器学习入门] 李宏毅机器学习笔记-32 (Recurrent Neural Network part 1;循环神经网络 part 1)
[机器学习入门] 李宏毅机器学习笔记-32 (Recurrent Neural Network part 1;循环神经网络 part 1) PDF VIDEORecurrent Neural NetworkExample Application slot 安装、放入、沟槽、插入…… 哇好多意思啊。 Slot Filling 就相当把关键字提溜出来放到相应的凹槽内,强迫症患者真舒服。原创 2017-07-29 21:04:27 · 3044 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)
[机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3) PDF VIDEO 上接 part 1Sequence Labeling ProblemOutline 怎样把Structured Perceptron/SVM用到Sequence Labeling Problem呢?Structu原创 2017-07-29 17:15:36 · 1876 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-30 (Sequence Labeling Problem part 2 ;结构化预测-序列标记 part 2)
[机器学习入门] 李宏毅机器学习笔记-30 (Sequence Labeling Problem part 2 ;结构化预测-序列标记 part 2) PDF VIDEO 上接 part 1Sequence Labeling ProblemOutlineCRF CRF同样也要描述P(x,y),P与图中式子成正比。P(x,y) for CRF CRF与HMM其实并没有那么不同,它原创 2017-07-29 11:28:15 · 1223 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-29 (Sequence Labeling Problem part 1;结构化预测-序列标记 part 1)
[机器学习入门] 李宏毅机器学习笔记-29(Sequence Labeling Problem part 1;结构化预测 part 1) PDF VIDEOSequence LabelingExample TaskPOS tagging 词性标注,必须要考虑整个句子的information,所以光靠查表是无法解决的。OutlineHidden Markov Model (HMM) 隐原创 2017-07-27 23:18:46 · 3495 阅读 · 1 评论 -
[机器学习入门] 李宏毅机器学习笔记-28 (Structured SVM part 3 ;结构化支持向量机 part 3)
[机器学习入门] 李宏毅机器学习笔记-28(Structured SVM part 3 ;结构化支持向量机 part 3) PDF VIDEOStructured SVM 接上篇Multi-class and binary SVM 有三个问题,让我们来一一解决它们。 Multi-class SVMProblem 1Problem 2Problem 3 Example B原创 2017-07-26 20:08:13 · 2703 阅读 · 1 评论 -
[机器学习入门] 李宏毅机器学习笔记-27(Structured SVM part 2;结构化支持向量机 part 2)
[机器学习入门] 李宏毅机器学习入门-27(Structured SVM part 2;结构化支持向量机 part 2) PDF VIDEOStructure SVM 接上篇Regularization 番外篇: 当我坐在杭州梦想小镇的咖啡厅学习到此处时,一位中年大叔说很喜欢我的形象希望给我拍照,我一愣心想这大叔真是有眼光啊,咱这形象终于得到了艺术圈的认可,没想到大叔满面春光地原创 2017-07-22 14:02:26 · 4765 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-26(Structured Support Vector Machine part 1;结构化支持向量机part 1)
[机器学习入门] 李宏毅机器学习笔记-26(Structured Support Vector Machine part1 ;机构化支持向量机part 1) PDF VIDEO 首先回顾一下Structured Learning要解决什么问题? Example Task Object Detection: We must solve the three problems: 那么现在让原创 2017-07-21 20:39:23 · 1994 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型)
[机器学习入门] 李宏毅机器学习笔记-25(Sturctured Linear Model;结构化预测-线性模型) PDF VIDEOStructured Linear ModelProblem 1ϕ1(x,y)\phi_1(x,y)ϕ2(x,y)\phi_2(x,y) ϕ3(x,y)\phi_3(x,y) 代表一个value. 也就是说 x,y在具有特征一时的强度是ϕ1(x,y)\phi_原创 2017-07-10 21:22:49 · 1077 阅读 · 2 评论 -
[机器学习入门] 李宏毅机器学习笔记-24(introduction of Structured Learning;结构化学习介绍)
[机器学习入门] 李宏毅机器学习笔记-24(introduction of Structured Learning;结构化学习介绍) PDF VIDEOintroduction of Structured Learning 到目前为止,不管是做SVM还是Deep Learning,input 和 output 都只是向量,而实际上我们真正面对的问题,要比向量更复杂,因此我们需要一个f,来计原创 2017-07-08 21:34:54 · 2183 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-23(Support Vector Machine;支持向量机)
[机器学习入门] 李宏毅机器学习笔记-23(Support Vector Machine;支持向量机) PDF VIDEOSupport Vector Machine OutlineHinge LossBinary Classification 分为三步。 δ不可微分,所以变化一下。step 2 :Loss function 红色这条线就是Square Loss的表现,与原创 2017-07-08 21:14:26 · 3562 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-22(Transfer Learning part 2;迁移学习 part 2)
[机器学习入门] 李宏毅机器学习笔记-22(Transfer Learning part 2;迁移学习 part 2) PDF VIDEO 接part 1第四象限 Target data unlabelled,Source Data labelledZero-shot learning 今天想要辨识草泥马,但是source data中没有一只草泥马! Representing原创 2017-07-07 00:41:34 · 1742 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-21(Transfer Learning part 1 ; 迁移学习 part 1)
[机器学习入门] 李宏毅机器学习笔记-21(Transfer Learning part 1 ; 迁移学习 part 1) PDF VIDEOTransfer Learning 利用与task没有直接相关的data 什么叫没有直接相关呢? 比如:whyExample in real life 从漫画家的法则,来理解研究生法则Overview 分成四个象限:下面将以象原创 2017-07-05 14:44:54 · 2644 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-20 (Deep Generative Model-part 3:深度生成模型-part 3)
[机器学习入门] 李宏毅机器学习笔记-20 (Deep Generative Model-part 3:深度生成模型-part 3) PDF VIDEO 上接part 2,VAE从来没有去学习产生一张看起来能以假乱真的image,它所学到的是:它想要产生一张image,跟database的image越接近越好。它不知道的是,我们在衡量它产生的image和database种image的相似度原创 2017-06-26 13:53:56 · 1647 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-19 (Deep Generative Model-part 2:深度生成模型-part 2)
[机器学习入门] 李宏毅机器学习笔记-19 (Deep Generative Model-part 2:深度生成模型-part 2) PDF VIDEOWhy VAE? 用VAE,从code space上去sample一个code,能得到一个比较好的image,而auto encoder可能得不到。 将code加上了noise,而variance决定了noise的大小,variance是原创 2017-06-25 23:58:44 · 1912 阅读 · 3 评论 -
[机器学习入门] 李宏毅机器学习笔记-18 (Deep Generative Model-part 1:深度生成模型-part 1)
[机器学习入门] 李宏毅机器学习笔记-18 (Deep Generative Model-part 1:深度生成模型-part 1) PDF VIDEOCreation 据说在费曼死后,人们在他生前的黑板上拍到如图画片,在左上角有道:What i cannot create ,I do not understand. Generative models,就是在做创造的事情。Imag原创 2017-06-22 19:58:34 · 5814 阅读 · 0 评论 -
[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)
[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器) PDF VIEDOAuto-encoder 什么是-encoder呢? NN Encoder & NN Decoder 要一起训练。Starting from PCA the auto-encoder can be dee原创 2017-06-21 16:51:10 · 2368 阅读 · 0 评论 -
[机器学习入门] 李弘毅机器学习笔记-16 (Unsupervised Learning: Neighbor Embedding;无监督学习:邻域嵌套)
[机器学习入门] 李弘毅机器学习笔记-16 (Unsupervised Learning: Neighbor Embedding;无监督学习:邻域嵌套) PDF VIDEOManifold Learning 我们要做的是非线性的降维,data是分布在低维空间里面,只是被扭曲到了高维空间。 比如地球的表面是一个二维平面,但是被塞到一个三维空间中。 Manifold就是把S型摊平原创 2017-06-18 22:52:37 · 1805 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-15 (Unsupervised Learning: Word Embedding;无监督学习:词嵌入)
[机器学习入门] 李宏毅机器学习笔记-15 (Unsupervised Learning: Word Embedding;无监督学习:词嵌入) PDF VIDEOWord Embedding Word Embedding 是前面讲到的dimension reduction一个很好的应用。 1-of-N Encoding,是把所有的word用一个向量表示,每个向量都不一样,我们没办法原创 2017-06-16 20:24:09 · 3282 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-14 (Unsupervised Learning: Linear Dimension Reduction;无监督学习:线性降维)
[机器学习入门] 李宏毅机器学习笔记-14 (Unsupervised Learning: Linear Dimension Reduction;线性降维) PDF VIDEOUnsupervised Learning 把Unsupervised Learning分为两大类: 化繁为简:有很多种input,进行抽象化处理,只有input没有output 无中生有:随机给一原创 2017-06-15 23:24:51 · 3142 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习)
[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习) PDF VIDEOIntroductionWhy semi-supervised learning helps?Semi-supervised Learning for Generative ModelSupervised Generative Model VS Semi-super原创 2017-06-14 20:09:43 · 7749 阅读 · 2 评论 -
[机器学习入门] 李宏毅机器学习笔记-12 (Why Deep Learning? ; 为什么是深度学习?)
[机器学习入门] 李宏毅机器学习笔记-12 (Why Deep Learning? ; 深度学习解析) PDF VIDEODeeper is Better?Fat + Short v.s. Thin + TallModularizationDeep learning Modularization把本来复杂的问题变简单,即使training data没那么也能有较好的performance原创 2017-06-13 22:49:58 · 4041 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-11(Convolutional Neural Network;卷积神经网络)
[机器学习入门] 李宏毅机器学习笔记-11(Convolutional Neural Network;卷积神经网络) PDF VIDEOWhy CNN for Image? CNN 经常作用于图像识别。Some patterns are much smaller than the whole imageThe same patterns appear in different regi原创 2017-06-13 16:58:20 · 6271 阅读 · 2 评论 -
[机器学习入门] 李宏毅机器学习笔记-10 (Tips for Deep Learning;深度学习小贴士)
[机器学习入门] 李宏毅机器学习笔记-10 (Tips for Deep Learning;深度学习小贴士) PDF VIDEORecipe of Deep Learning 在 training data上的performance不好Deeper usually does not imply betterVanishing Gradient Problem ReLU(Rectifi原创 2017-06-06 23:00:49 · 6842 阅读 · 1 评论 -
[机器学习入门] 李宏毅机器学习笔记-9 (“Hello world” of deep learning;初探深度学习)
[机器学习入门] 李宏毅机器学习笔记-9 (“Hello world” of deep learning;初探深度学习) PDF VIDEOKeras Example Application - Handwriting Digit RecognitionStep 1 : define a set of functionStep 2 : goodness of functionStep 3原创 2017-06-06 17:57:31 · 4598 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法)
[机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法) PDF VIDEO 当我们要用gradient descent来train一个neural network,要怎么做?Gradient Descent backpropagation就是Gradient Descent。Chain Rule(连锁法) Backpropagation主要用到原创 2017-06-06 00:35:36 · 4319 阅读 · 0 评论 -
[机器学习入门] 李弘毅机器学习笔记-7 (Brief Introduction of Deep Learning;深度学习简介)
[机器学习入门] 李弘毅机器学习笔记-7 (Brief Introduction of Deep Learning;深度学习简介) PDF VIDEOUps and downs of Deep LearningThree Steps for Deep LearningStep 1: Neural NetworkFully Connect Feedforward Network De原创 2017-06-05 19:32:17 · 5855 阅读 · 0 评论 -
[机器学习入门] 李宏毅机器学习笔记-6 (Classification: Logistic Regression;逻辑回归)
[机器学习] 李宏毅机器学习笔记-6 (Classification: Logistic Regression;Logistic回归) PDF VIDEOThree stepsStep 1: Function SetStep 2: Goodness of a FunctionStep 3: Find the best functionLogistic Regression VS Linear原创 2017-06-05 12:52:55 · 5143 阅读 · 3 评论 -
[机器学习入门] 李宏毅机器学习笔记-5(Classification- Probabilistic Generative Model;分类:概率生成模型)
[机器学习] 李宏毅机器学习笔记-5(Classification: Probabilistic Generative Model;分类:概率生成模型)ClassificationHow to do ClassificationIdeal Alternatives Gaussian Distribution Probability from Class 那么怎样找到这个Gaussion f原创 2017-06-04 12:25:52 · 6832 阅读 · 4 评论 -
[机器学习入门] 李宏毅机器学习笔记-4(Where does the error come from ;误差分析)
[机器学习入门] 李宏毅机器学习-4(Where does the error come from? ;误差分析) PDF VIDEOReviewEstimatorBias and Variance of EstimatorVarianceBias Bias v.s. VarianceWhat to do with large bias?What to do with large vari原创 2017-06-01 19:18:08 · 3949 阅读 · 4 评论 -
[机器学习入门] 李宏毅机器学习笔记-3 (Gradient Descent ;梯度下降)
[机器学习入门] 李宏毅机器学习笔记-3 (Gradient Descent ;梯度下降) PDF VIEDOReview 梯度下降的三个小贴士Tip 1 Tuning your learning rates最流行也是最简单的做法就是:在每一轮都通过一些因子来减小learning rate。 最开始时,我们距离最低点很远,所以我们用较大的步长。经过几轮后,我们接近了最低点,所以我们减原创 2017-06-01 12:50:11 · 7825 阅读 · 7 评论 -
[机器学习入门] 李宏毅机器学习笔记-2 (Regression:Case Study ;回归:案例研究)
[机器学习入门] 李宏毅机器学习笔记-2 (Regression:Case Study ;回归:案例研究) PDF VIDEORegression-pokemons正如我们在笔记一中提到的,Regression可以做很多事情。比如 Stock Market Forecast、Self-driving Car、Recommendation等等,但是李老师用有趣的案例——预测宝可梦( pokem原创 2017-05-22 00:54:45 · 11854 阅读 · 11 评论