机器学习

机器学习（一）

前言

由于毕设的原因，开始学习机器学习方面的相关知识。但对于一个之前对此毫无接触的人来说，大量的数学公式实在是使人望而却步。于是根据前辈的经验，今天开始学习吴恩达老师的网课。老师的课程语言简洁，通俗易懂，为了便于以后的学习，开始在此书写笔记，希望自己能学有所成，不辜负这段时光。

在开始正式学习前，先了解一下机器学习在日常生活中的应用。在使用Google或Bing等搜索引擎时，Google或微软使用学习算法学习给网页排序（网页搜索 web search）；在使用Facebook或苹果的相片分类功能时，能识别出朋友的相片（相片标记 photo tagging），也是机器学习；在阅读邮件时，垃圾邮件过滤器过滤大量的垃圾邮件（反垃圾邮件 email anti-spam），也是机器学习；应用于数据挖掘（database mining），比如网页点击数据（Web click data），医疗记录（medical records）等等；不能手动编写程序，自动驾驶飞机（Autonomous helicopter），手写识别（handwritting recognition），自然语言处理（Natural Language Processing），计算机视觉（Computer Vision）；私人定制（Self-customizing programs），比如app的相关推送。（为何我要写这一段，因为我在复试英文面试中遇到了相关的问题，问AI在日常生活的应用）

正文

定义

首先，我们要解释一下什么是机器学习。下面是我最喜欢的一个定义：
A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E.( provided by Tom Mitchell)
其中的关键字为Task（任务），Peformance Measure（性能度量）和Expericience（经验）。我们使用T，P和E分别来简单表示它们。我的理解就是：通过学习E，在P的度量下，完成T。我们的目标是充分利用E，使得在P的评价下，来更好地完成T。

机器学习的主要任务：

• 回归问题（regression）：连续
• 分类问题（classifing）：不连续

机器学习的算法分类

下面介绍一下机器学习算法的大致分类：

两类常用算法：

• 监督学习（supervised）：

• 无监督学习（unsupervised）：聚类算法（clusering，比如根据新闻内容将其分为不同的专题）

其他：强化学习（reinforcement learning），推荐系统（recommender systems）