Understanding Machine Learning 阅读系列-Chap.0

本篇是Understanding Machine Learning阅读笔记系列的第一篇。

前言

机器学习(Machine Learning)是自动检测数据中有意义的模式的过程,这个词近年来火爆,但是在过去的几十年中,很多机器学习算法已经得到落地应用,通常面对数据量庞大,而所需任务是从这些数据中提取信息的场景。如搜索引擎(庞大知识库中抽取包含特定结果的网页)、反垃圾营销系统(大量邮件、通知中检测特定种类的垃圾语句)等、相机为了更智能的进行对焦,所应用的人脸(眼)检测算法(大量物体中找到所需要的特定形状),信用卡交易反欺诈(大量交易信息中特定交易模式)。

这些应用的特点

问题是复杂的且模式难以用简单逻辑检测到的,人类程序员难以或者无法提供明确、详细的问题解决方法或指南说明来为传统计算机程序编程。以具有智能的人类为例,我们习得的技能大多是从经验中学得的,而不是遵循一些设定好的指令。

本书目的一:介绍ML的基础概念,包括什么是机器学习,如果量化资源,学习成功的可能性,我们如何判断学习过程成功了还是失败了;

本书目的二: 介绍ML中的关键算法,除了介绍一些成功的算法外,还会介绍学习技巧。此外,由于在数据爆炸的时代,计算时间成为主要瓶颈,本书还有对大规模应用的提及。

本书分为4部分:

1. 对ML的基础问题给出初步解答;2. 介绍多种学习算法;3. 前两部分以PAC为主,第三部分将延展到更广范围的算法;4. 包含对先进的理论的介绍。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
1 Introduction 19 1.1 What Is Learning? 19 1.2 When Do We Need Machine Learning? 21 1.3 Types of Learning 22 1.4 Relations to Other Fields 24 1.5 How to Read This Book 25 1.5.1 Possible Course Plans Based on This Book 26 1.6 Notation 27 Part I Foundations 31 2 A Gentle Start 33 2.1 A Formal Model { The Statistical Learning Framework 33 2.2 Empirical Risk Minimization 35 2.2.1 Something May Go Wrong { Overtting 35 2.3 Empirical Risk Minimization with Inductive Bias 36 2.3.1 Finite Hypothesis Classes 37 2.4 Exercises 41 3 A Formal Learning Model 43 3.1 PAC Learning 43 3.2 A More General Learning Model 44 3.2.1 Releasing the Realizability Assumption { Agnostic PAC Learning 45 3.2.2 The Scope of Learning Problems Modeled 47 3.3 Summary 49 3.4 Bibliographic Remarks 50 3.5 Exercises 50 4 Learning via Uniform Convergence 54 4.1 Uniform Convergence Is Sucient for Learnability 54 4.2 Finite Classes Are Agnostic PAC Learnable 55 Understanding Machine Learning, c 2014 by Shai Shalev-Shwartz and Shai Ben-David Published 2014 by Cambridge University Press. Personal use only. Not for distribution. Do not post. Please link to http://www.cs.huji.ac.il/~shais/UnderstandingMachineLearning x Contents 4.3 Summary 58 4.4 Bibliographic Remarks 58 4.5 Exercises 58 5 The Bias-Complexity Tradeo 60 5.1 The No-Free-Lunch Theorem 61 5.1.1 No-Free-Lunch and Prior Knowledge 63 5.2 Error Decomposition 64 5.3 Summary 65 5.4 Bibliographic Remarks 66 5.5 Exercises 66 6 The VC-Dimension 67 6.1 Innite-Size Classes Can Be Learnable 67 6.2 The VC-Dimension 68 6.3 Examples 70 6.3.1 Threshold Functions 70 6.3.2 Intervals 71 6.3.3 Axis Aligned Rectangles 71 6.3.4 Finite Classes 72 6.3.5 VC-Dimension and the Number of Parameters 72 6.4 The Fundamental Theorem of PAC learning 72 6.5 Proof of Theorem 6.7 73 6.5.1 Sauer's Lemma and the Growth Function 73 6.5.2 Uniform Convergence for Classes of Small Eective Size 75 6.6 Summary 78 6.7 Bibliographic remarks 78 6.8 Exercises 78 7 Nonuniform Learnability 83 7.1
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值