人工智能学习：CS188

人工智能学习：CS188

搜索

搜索问题：
状态、后继函数、始态和目标测试

启发式搜索（有信息搜索）：辅助信息、评价函数fn（选择后继节点）、启发函数hn（两点间距离）
贪婪：fn=hn
A*：fn=gn+hn 到达费用=从n到目标的估算费用+通过n到达目标的总估算费用
A*->启发函数具有可容性和一致性

局部搜索Local Search：
优点：内存占用少；在无限大空间内能找到解

爬山搜索算法

变形：随机爬山法、首选爬山法、随机重启爬山法

模拟退火算法
阈值最低

遗传算法

应用：手势识别、道路网综合模型

蚁群优化算法 Ant Colony Optimization
费洛蒙嗅迹

TSP问题
应用：进度安排、车辆路径、分派、物理设备量尺、图像处理边缘检测、分类、数据挖掘

粒子群优化 Particle Swarm Optimization
规则：1. 避免相撞 2. 保持与相邻鸟相同速度 3. 靠近相邻鸟

群智能算法的特点：有着极为特殊的联系
蚁群算法是局部搜索算法？不是
粒子群算法的局限：
算法局部搜索能力较差，搜索精度不够高；算法不能绝对保证搜索到全局最优解；算法搜索性能对参数具有一定的依赖性；PSO算法是一种概率算法，算法理论不完善，缺乏独特性，理论成果偏少

对抗搜索

博弈论

零和博弈、非零和博弈
囚徒困境

最小最大搜索

：找出失败的最大可能性中的最小值的算法

优点：简单有效，可返回最优结果
缺点：搜索树大则无法在有效时间返回结果

MAXMIN算法可以用来解决找出失败的最大可能性中的最小值的算法
深度优先
如何解决多人博弈：只适合完美信息双人对抗性博弈

Alpha-beta剪枝搜索

：在MINIMAX算法中剪枝
采用Alpha-beta剪枝后，我们可不必构造和搜索最大深度D内的所有节点，在构造过程中，如果发现当前格局再往下不能找到更好的解，我们就停止在这个格局及以下的搜索，也就是剪枝

目的：用于裁剪搜索树中没有意义的不需要搜索的树枝，以提高运算速度
特性：提高效率 节点顺序 不影响最终结果
多人博弈？可以 向量？

期望最大Exceptimax搜索树

最大期望效用Utility
期望、效用（描述智能体偏好）

蒙特卡洛树搜索 Monte-Carlo Tree Search

利用与探索
在游戏博弈树上的有机协调（平衡）
利用：保证在过去决策中得到最佳回报
探索：寄希望在未来能够得到更大回报

上线置信区间UCB Upper Confidence Bound（平衡方法）

四个步骤

选择最具潜力的后续节点

扩展一个不是终止节点，随机创建一个未访问节点，选择该节点作为后续子节点
从后续节点出发，对游戏模拟
用模拟结果反向传播导致这个结果的每个节点获胜次数与访问次数

蒙特卡洛树搜索算法UCT （Upper Confidence Bounds on Trees）

蒙特卡洛树搜索通过蒙特卡洛模拟来估计该节点的价值，而不是用一个评估函数。
优点：它结合了随机模拟的一般性和树搜索的准确性
利用与探索策略中C函数如何确定？

知识表示

知识的类型：

数据Data：表现为事实、信号、或者符号
信息 Information：对数据赋予含义而生成
知识 Knowledge：对信息进行加工而确立
智慧 Wisdom；作出决定和判断的经验

知识的特性：

相对正确性
不确定性:随机性、模糊性、不完全性、经验性引起的不确定性
可表示性
可利用性

知识表示：

研究用机器表示知识的可行性、有效性的一般方法，可以看作是将知识符号化并输入到计算机的过程和方法。
知识表示在智能系统的建造中起到关键的作用。可以说正是以适当的方法表示了知识，才导致智能系统展示出了智能行为。

显性与隐性知识：

Explicit knowledge 显性知识
可以表示为形式语言，包括语法陈述、数学表达式、等等。可以快捷转化成其它形式。可以容易地用计算机语言、决策树和规则等表示。
Tacit knowledge 隐性知识
个人的经验和无形的因素、如观点、等等。难以用形式化语言来表示。神经网络提供了表示隐形知识的方法。

知识的类型

Static knowledge 静态知识：不太可能改变
Dynamic knowledge 动态知识：记录在数据库中
Surface knowledge 表层知识：通过经验积累
Deep knowledge 深层知识：理论／证明／问题细节
Procedural knowledge 过程性知识：描述如何解决问题
Declarative knowledge 陈述性知识：描述已知的问题是什么
Meta-knowledge 元知识：描述知识的知识
Heuristic knowledge 启发式知识：引导推理过程的经验法则

知识库KB和知识库系统KBS

知识库被用于存储复杂的结构和非结构化知识。它由一套语句组成，每个语句都是由一种被称为知识表示语言来表示的，从而表示关于世界的某些断言
知识库系统(KBS) 由知识库和推理引擎组成，其中，知识库表示关于世界的事实，推理引擎则可以基于这些事实进行推理。

知识工程(KE)

KE指的是构建、维护和使用知识库系统中所关联的所有技术、科学和社会的方方面面

基于知识的工程(KBE)

KBE是将基于知识的系统技术用于制造设计和生产领域

KB或KBE本质上是在知识模型基础之上的工程，它采用知识表示来表征设计过程的产品
。KB或KBE最初的应用是专家系统。

知识表示概述

What?
关注于设计计算机表示来采集关于世界的知识，可用于解决复杂的问题。与过程性代码相比，使复杂的软件容易定义和维护，可用于专家系统。
Why?
传统的过程性代码并非是解决复杂问题的最好形式。

知识表示的核心问题

Primitive 原语
Meta-representation 元表示
Incompleteness 不完备性
Universals vs. Facts 共性与事实
Expressive adequacy 表现的充分性
Reasoning efficiency 推理的有效性

典型的知识表示方法

贝叶斯网络
一阶逻辑
基于Frame的系统
本体
产生式系统
脚本

语义网络

什么是语义网络
表示概念间语义关系的网络
一种由节点和弧组成的有向或无向图，其中，节点：表示概念，弧：概念间的语义关系

语义网络的基本概念

是基于认知的，被组织成为一个分类层次结构。
语义网络被采用的情形是当某种知识可以很好地化解为一组彼此相关的概念时。
它难以驾驭大型领域，并且不能很好地表现性能或者元知识。
某些特性也不易表达

• Q1：知识表示要解决的问题是什么？
解决复杂问题

• Q2：建立语义网络的工具是什么？
有向图、无向图？

• Q3：语义网络表达的利弊是什么？
主要优点：
结构性：把事物的属性以及事物间的各种语义联系显式地表示出来，是一种结构化的知识表示方法。在这种方法中，下层结点可以继承、新增、变异上层结点的属性。
联想性：本来是作为人类联想记忆模型提出来的，它着重强调事物间的语义联系，体现了人类的联想思维过程。
自索引性：把各接点之间的联系以明确、简洁的方式表示出来，通过与某一结点连结的弧可以很容易的找出与该结点有关的信息，而不必查找整个知识库。这种自索引能力有效的避免搜索时所遇到的组合爆炸问题。
自然性：这种带有标识的有向图，可比较直观地把知识表示出来，符合人们表达事物间关系的习惯，并且与自然语言语义网络之间的转换也比较容易实现。

主要缺点：
非严格性：没有象谓词那样严格的形式表示体系，一个给定语义网络的含义完全依赖于处理程序对它所进行的解释，通过语义网络所实现的推理能保证其正确性。
复杂性：语义网络表示知识的手段是多种多样的，这虽然对其表示带来了灵活性，但同时也组合爆炸问题和不充分性。

逻辑表示

过程性方法：C、Java、Python
陈述性方法：命题逻辑、一阶逻辑、时序逻辑

五种逻辑

命题逻辑：事实 真/假/未知
一阶逻辑：事实、对象、关系 真/假/未知
时序逻辑：事实、对象、关系、时间 真/假/未知
概率论： 事实 可信度
模糊逻辑：事实具有真实性 已有区间值

命题逻辑

命题演算，使用逻辑连接词，用于处理简单的陈述性命题。
一阶逻辑
一阶谓词演算，此外，还使用限量词、等量词、以及谓词（通常与集合相关联）。

一阶逻辑的形式规则
该形式规则定义：项、公式
该形式规则可以用于书写项和公式的形式文法。
形式规则通常是上下文无关的

项
变量、常数、函数
公式
谓词符号、等量、否定、二元连接、限量

Prolog语言
起源于一阶逻辑
是一种逻辑编程语言，是陈述性的

基于贝叶斯网络的推理

概率模型

概率模型是在随机变量集合上的联合分布

事件（Events）
是对智能体无法确定的世界状态的一个完整的详细描述。

边缘分布
去掉某些变量

条件概率

条件分布
给定部分变量值的情况下，其他变量的概率分布

正则化方法/归一化

概率推理: 由已知的概率求得所需要的概率

链式法则

Bayes法则

此公式有什么用?
– 可以在已知逆条件分布的情况下，计算条件分布
– 通常，求一种条件分布很难，而另一种却很容易
– 该公式是后面将见到的许多实际应用系统的基础 (如. ASR-自动语音识别, MT-机器翻译)

概率图模型

目标：如何对一个联合概率分布有效表示
贝叶斯网: 总图景
使用简单、局部（条件概率）分布来描述复杂联合概率分布（模型）的技术
有向无环图：结点、弧
Bayes网 = Topology (graph) + 局部条件概率

朴素贝叶斯分类

朴素贝叶斯分类是贝叶斯分类中最简单，也是常 见的一种分类方法
第一阶段——准备工作阶段，确定特征属性，形成训练样本集合
第二阶段——分类器训练阶段，生成分类器
第三阶段——应用阶段

Bayes网络中的枚举推理
操作1:点积

操作2:对变量求和

马尔科夫模型

Markov模型： 链式结构的贝叶斯网
每个结点都具有完全相同的分布
给定时刻X的值称为状态
EXAMPLE：
一维的随机漫步
N-Gram是一种基于统计语言模型的算法

马尔可夫过程的四个条件
第一，系统中有有限多个状态。比如“认真”和“溜号”，就是两个状态。
第二，状态之间切换的概率是固定的。比如从认真到溜号的概率永远都是 10%， 保持不变。
第三，系统要具有遍历性，也就是从任何一个状态出发，都能找到一条路线，切 换到任何一个其他的状态。
第四，其中没有循环的情况，不能说几个状态形成闭环，把其他状态排斥在外。

Hidden Markov Models(HMM)隐马尔可夫模型

思考

1、数据分析、机器学习、深度学习、人工智能的关系和区别是什么？

2、和AI相关的学科包括哪些

3、数学是AI的基础体现在哪三个方面
逻辑学
布尔逻辑、一阶逻辑、理论
计算
Computable可计算的、tractability易处理性、NP-completeness NP完全性
概率
统计学、贝叶斯规则
4、大脑的认知过程包括哪几个方面

5、AI学科的发展经历了哪几个主要阶段

杭州、北京、深圳

6、AI的发展为什么会出现两次冰冻期（winter）？又是从哪里找到的突破？
人工智能研究遇到困难，如机器翻译，中断了大部分机器翻译项目的资助；提出了“知识工程”概念，推动了知识为中心的研究，进入知识工程时代，知识表示与推理取得了突破；市场崩溃，取消了新的AI经费；深蓝战胜了卫冕国际象棋冠军，标志着AI在博弈中的成功应用

7、当前的机器，例如超越人的围棋水平的AlphaGo，是否真的具有智能？其能力的本质是什么？
人工智能的本质人工智能是相对于人的智能而言的。正是由于意识是一种特殊的物质运动形式，所以根据控制论理论，运用功能模拟的方法，制造电脑模拟人脑的部分功能，把人的部分智能活动机械化，叫人工智能。人工智能的本质是对人思维的信息过程的模拟，是人的智能的物化。尽管人工智能可以模拟人脑的某些活动，甚至在某些方面超过人脑的功能，但人工智能不会成为人类智能而取代人的意识。
人工智能是无意识的机械的、物理的过程。

感谢阅读