机器学习导论

机器学习通过以往数据和实例训练学习系统，优化参数使得更智能
密度估计，分类和回归的参数方法 非参数方法 多元方法
维度归约（向前向后选择）处理属性
聚类分析处理实例   图形压缩
主动学习自动生成实例
决策树是一种实现分治策略的层次数据结构 非参数学习方法 用于分类和回归
构造分类树P132

学习线性判别式 支持向量机 费希尔线性判别式 感知器
多层感知器是一种人工神经网络结构 非参数估计器 用于分类和回归 后向传播算法

时间延迟神经网络 递归网络
、
混合专家模型，协同专家模型，竞争专家模型
层次混合专家模型
监督有输入输出，半监督只有输入
机器学习只能由计算机完成因为数据量巨大和人工分析成本高
朴素贝叶斯假设输入变量独立 贝叶斯网络基于条件概率
隐马尔科夫模型
分类算法评估 McNemar检验 K-折交叉确认配对t检验 5x2交叉确认配对t检验 5x2交叉确认配对F检验  方差分析
学习器（学习系统）是一个制定决策的只能主题
组合多学习器：投票法 装袋 纠错输出码 提升

增强学习

数据挖掘是机器学习在大数据的应用，
机器学习：维度规约（属性），分类、聚类、回归实例，构建学习器训练数据使得参数趋于某个期望标准