【本文为自己的人工智能基础课笔记】
- 确定性推理方法
1.推理
推理:就是从初识证据出发,按照某种策略从已有事实和知识推出结论的过程
逻辑基础分类:
演绎推理:从一般性知识推出适合于某一具体情况的结论,即由一般到个别的推理过程(三段论式)
归纳推理:从足够多的事例中归纳出一般性结论的推理过程,是一个由个别到一般的推理过程(完全归纳推理/必然性推理、不完全归纳推理/非必然归纳推理)
缺省推理:也叫默认推理,在知识不完全的情况下假设某些条件已经具备
…
2.自然演绎推理
一阶谓词逻辑:即一阶谓词逻辑下的推理真假(=>),其中需要注意一下置换与合一
(这里的推理都是学过的内容,一步一步推出真值)
3.归结演绎推理
归结演绎推理是一种基于鲁滨逊归结原理的机器推理技术,是一种逻辑“反证法”
即要证明p->q,证明p^非q不可满足即可(假设结论为假,加入公式集,子句集归结)
范式:谓词公式的标准形式,分为前束范式(所有量词均非否定的出现在公式的最前面)和skolem范式(前束范式中存在消去所有的存在量词)
在这里有一个地方:谓词逻辑的归结,即将两个公式取出部分组合,使得能够满足一个而不是满足两者;得到的新的公式叫做二元归结式,由于对于有相同变元的公式,不符合谓词逻辑归结定义要求,将变元替换成新的不同的即可。
- 不确定性推理方法
- 不确定性推理:从一种不确定的初始证据出发,通过运用不确定性知识,最终推出具有一定不确定性但却又合理的结论或者思维过程
- 概率推理:为每个事件赋概率,观察各个概率的分布
概念:概率、概率分布、归一化、联合概率分布、边缘分布、条件概率
概率推理,贝叶斯规则:p(x,y) = p(x|y)p(y) = p(y|x)p(x) -> p(x|y) = p(y|x)p(x) / p(y)
- 贝叶斯网络
贝叶斯网络是一个有向无环图,由代表变量节点的有向边构成。节点代表随机变量,节点间的有向边代表了节点间的相互关系(父->子),用条件概率表达变量之间的依赖关系(没有父节点的用先验概率进行信息表达)
- 条件独立性:p(x,y) = p(x) * p(y)
有效迹:对于一个贝叶斯网络中的一条迹,X1\X2\X3\..\Xn和观测变量子集Z,当X1和Xn取值能够相互影响时,称路径是有效的
条件独立与有效迹:当X1\X2\X3\..\Xn不是有效迹时,称X1、Xn相互独立
d-分离:若图G在给定Z条件下,节点X和Y之间不存在任何有效迹,则X与Y分离
定理1:若概率图G满足X、Y分离,则X与Y条件独立
定理2: 父节点已知,其与所有非后代节点满足分离
- 贝叶斯网络推理:
因果推断:顺着箭头方向推断
证据推断:逆着箭头方向推断
交叉因果:双向箭头推断
步骤: 1.将各个表联合,求出概率分布
2.对目标变量边缘化
3.删除无关变量
4.枚举/采样*
- 智能搜索技术
- 智能搜索:指可以利用搜索过程得到的中间信息来引导搜索向最优方向发展的算法
- 启发式搜索:使用估价函数,估计节点的重要性,决定需要拓展的节点(有效)
- 博弈树的启发式搜索:MAX与MIN节点,双方对弈使用的估价函数不同
- 蒙特卡洛树搜索
MCTS,一种用于某种决策过程中的启发式搜索算法,且在搜索空间巨大的游戏中有有效
过程:选择(选择能够最大化UCB上线置信区间的节点),拓展(根据结果创建一个或多个子节点),仿真(在某个节点使用随机策略进行游戏),反向传播*使用随机搜索的结果更新整个搜索树)
最后: 机器学习技术
1. 深度学习是机器学习的更进一步
寻找的函数类型:回归(函数输出是一个数值)、分类(函数输出是正确类别)
分类:监督学习(有标注数据)、无监督学习(无标注数据)
步骤:目标函数->数据集准备->训练函数(损失函数)->求参数最优值
- 感知机
学习策略:随机梯度下降法
- 机器学习/深度学习模型
文本分类方法:KNN(训练复杂度低,实现简单,计算量大,样本不均匀时对稀有类别不准确)
聚类方法:K-Means(非层次聚类)
CNN:卷积神经网络