机器学习(1.11)

机器学习——简介（一）

• 简介Introduction
• 模型和损失函数Model and Cost Function
• 参数学习Parameter Learning

---

简介

定义

机器学习是一门人工智能的科学，该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能；
机器学习是对能通过经验自动改进的计算机算法的研究；
机器学习是用数据或者以往的经验，以此优化计算机程序的性能标准。
— [维基百科]

Field of study that gives computers the ability to learn without being explicitly programmed —Arthur Samuel(1959) 第一个定义机器学习的人

分类

监督学习（Supervised Learning）
非监督学习（Unsupervised Learning）
其他：增强学习（Reinforcement Learning），推荐系统（Recommender Systems）

算法

常用的机器学习算法有:

• 构造间隔理论分布：聚类分析和模式识别

  • 人工神经网络
  • 决策树
  • 感知机
  • 支持向量机
  • 集成学习AdaBoost
  • 降维与度量学习
  • 聚类
  • 贝叶斯分类器

• 构造条件概率：回归分析和统计分类

  • 高斯回归
  • 线性判断分析
  • 最近邻
  • 径向基函数核

• 通过再生模型构造概率密度函数：

  • 最大期望算法
  • 概率图模型：包括贝叶斯网和Markov随机场

• 近似推断技术：

  • 马尔科夫链
  • 蒙特卡罗方法
  • 变分法