学习笔记：规则学习（待完善）

这篇笔记，主要是机器学习第15章的学习笔记。涉及很多概念，后面复习时，来补全文章，主要是概念结构。

规则学习：是从训练数据中学习出一组能用于对未见示列进行判别的规则。

@@1. 规则头  ===> 规则体

@@2.规则集合 ，冲突，冲突消解

解决冲突的策略：投票法，排序法（带序规则学习），元规则

@@3.按语言表达能力可以分为：命题规则 和一阶规则。

命题规则： 原子命题和逻辑连接词构成的简单陈述句。

@@4.逐条归纳（序贯覆盖）

@@5.剪枝优化

预剪枝，后剪枝（REP） ===> CN2算法 ===>RIPPER算法

@@6.FOIL 一阶规则学习算法

@@7.ILP 归纳逻辑程序设计

最小一般泛化，逆归结

逆归结的四种操作：吸收，辨识，内构，互构

@@8.统计关系学习

概率关系模型，贝叶斯逻辑程序，马尔科夫逻辑网等。