深度学习:算法到实战笔记01
什么是人工智能
人工智能:使一部机器像人一样进行感知、认知、决策、执行的人工程序或系统
人工智能发展阶段
目前正处于高速发展期
人工智能的三个层面
第一层面:计算智能 能存储会计算
第二层面:感知智能 能听会说、能看会认
第三层面:认知智能 概念、意识、观念都是认知智能的表现
人工智能>机器学习>深度学习
机器学习的定义
计算机系统能够利用经验提高自身的性质
机器学习本质是一个基于经验数据的函数估计问题
提取重要模式、趋势,并理解数据,即从数据中学习
机器学习:怎么学
模型
对要学习问题映射的假设(问题建模,确定假设空间)
策略
从假设空间中学习/选择最优模型的准则(确定目标函数)
算法
根据目标函数求解最优模型的具体计算方法(求解模型参数)
模型分类
数据标记
监督学习模型 半监督学习模型
无监督学习模型 强化学习模型
监督学习的样本具有标记(输出目标),从学习标记分界面(输入-输出的映射函数),适用于预测数据标记。
无监督学习的样本没有标记,从数据中学习模式,适用于描述数据。
半监督学习部分数据标记已知,是监督学习和无监督学习的混合
强化学习使用未标记的数据,但可以知道离目标越来越近还是越来越远(奖励反馈)
数据分布
参数模型
对数据分布进行假设。待求解的数据模式/映射可以用一组有限且固定数目的参数进行刻画。
有时候数据没有提供足够信息来事先假设分布、或者问题本身没有明显的分布特性。就可以使用非参数模型。
非参数模型
不对数据分布进行假设,数据的所有统计特性都来源于数据本身。
建模对象
生成模型
对输入X和输出Y的 联合分布P(X,Y) 建模
先从数据中学习联合概率分布P(X,Y)
然后利用贝叶斯公式求P(Y|X)=P(X,Y)/ΣP(X,Yi)
判别模型
对已知输入X条件下输出Y的 条件分布P(Y|X) 建模
直接学习P(Y|X)