粗糙集
粗糙集理论及其应用
摘 要 在很多实际系统中均不同程度地存在着不确定性因素, 采集到的数据常常包含着噪声,不精确甚至不完整. 粗糙集理论是继概率论,模糊集,证据理论之后的又一个处理不确定性的数学工具. 作为一种较新的软计算方法, 粗糙集近年来越来越受到重视, 其有效性已在许多科学与工程领域的成功应用中得到证实, 是当前国际上人工智能理论及其应用领域中的研究热点之一.
本文介绍了粗糙集理论的基本概念,特点及有关应用.
关键词 粗糙集, 不确定性, 数据分析, 软计算
1 引言
在自然科学,社会科学和工程技术的很多领域中, 都不同程度地涉及到对不确定因素和对不完备( imperfect) 信息的处理. 从实际系统中采集到的数据常常包含着噪声, 不够精确甚至不完整. 采用纯数学上的假设来消除或回避这种不确定性, 效果往往不理想, 反之, 如果正视它,对这些信息进行合适地处理, 常常有助于相关实际系统问题的解决. 多年来, 研究人员一直在努力寻找科学地处理不完整性和不确定性的有效途径. 模糊集和基于概率方法的证据理论是处理不确定信息的两种方法, 已应用于一些实际领域. 但这些方法有时需要一些数据的附加信息或先验知识, 如模糊隶属函数,基本概率指派函数和有关统计概率分布等, 而这些信息有时并不容易得到. 1982 年, 波兰学者Z. Paw lak 提
出了粗糙集理论, 它是一种刻划不完整性和不确定性的数学工具, 能有效地分析不精确,不一致( incon sisten t),不完整( incomp lete) 等各种不完备的信息, 还可以对数据进行分析和推理, 从中发现隐含的知识, 揭示潜在的规律. 粗糙集理论是建立在分类机制的基础上的, 它将分类理解为在特定空间上的等价关系, 而等价关系构成了对该空间的划分.粗糙集理论将知识理解为对数据的划分, 每一被划分的集合称为概念.粗糙集理论的主要思想是利用已知的知识库, 将不精确或不确定的知识用已知的知识库中的知识来(近似) 刻画.该理论与其他处理不确定和不精确问题理论的最显著的区别是它无需提供问题所需处理的数据集合之外的任何先验信息, 所以对问题的不确定性的描述或处理可以说是比较客观的, 由于这个理论未能包含处理不精确或不确定原始数据的机制, 所以这个理论与概率论, 模糊数学和证据理论等其他处理不确定或不精确问题的理论有很强的互补性.本文简要介绍了粗糙集理论的基本概念和实际应用.
2 粗糙集的理论
2. 1 粗糙集理论的产生和发展
在本世纪70 年代, 波兰学者Z. Paw lak 和一些波兰科学院,波兰华沙大学的逻辑学家们,一起从事关于信息系统逻辑特性的研究. 粗糙集理论就是在这些研究的基础上产生的. 1982年, Z. Paw lak 发表了经典论文Rough Set s , 宣告了粗糙集理论的诞生. 此后, 粗糙集理论引起了许多数学家,逻辑学家和计算机研究人员的兴趣, 他们在粗糙集的理论和应用方面作了大量的研究工作.1991 年Z. Paw lak 的专著和1992 年应用专集的出版, 对这一段时期理论和实践工作的成果作了较好的总结, 同时促进了粗糙集在各个领域的应用. 此后召开的与粗糙集有关的国际会议进一步推动了粗糙集的发展. 越来越多的科技人员开始了解并准备从事该领域的研究. 目前, 粗糙集已成为人工智能领域中一个较新的学术热点, 在机器学习,知识获取,决策分析,过程控制等许多领域得到了广泛的应用.
2. 2 粗糙集理论所处理的问题
粗糙集能有效地处理下列问题:
·不确定或不精确知识的表达;
·经验学习并从经验中获取知识;
·不一致信息的分析;
·根据不确定,不完整的知识进行推理;
·在保留信息的前提下进行数据化简;
·近似模式分类;
·识别并评估数据之间的依赖关系
2. 3 粗糙集理论的一些基本概念
2. 3. 1 知识的含义
"知识"这个概念在不同的范畴内有多种不同的含义. 在粗糙集理论中,"知识"被认为是一种分类能力. 人们的行为是基于分辨现实的或抽象的对象的能力, 如在远古时代, 人们为了生存必须能分辨出什么可以食用, 什么不可以食用; 医生给病人诊断, 必须辨别出患者得的是哪一种病. 这些根据事物的特征差别将其分门别类的能力均可以看作是某种"知识".
2. 3. 2 不可分辨关系与基本集
分类过程中, 相差不大的个体被归于同一类, 它们的关系就是不可分辨关系( indiscernability relation). 假定只用两种黑白颜色把空间中的物体分割两类, {黑色物体},{白色物体},那么同为黑色的两个物体就是不可分辨的, 因为描述它们特征属性的信息相同, 都是黑色. 如果再引入方,圆的属性, 又可以将物体进一步分割为四类: {黑色方物体},{黑色圆物体},{白色方物体},{白色圆物体}. 这时, 如果两个同为黑色方物体, 则它们还是不可分辨的. 不可分辨关系也称为一个等效关系(equivalence relationship ) , 两个白色圆物体间的不可分辨关系可以理解为它们在白,圆两种属性下存在等效关系.
基本集(elementary set) 定义为由论域中相互间不可分辨的对象组成的集合, 是组成论域知识的颗粒. 不可分辨关系这一概念在粗糙集理论中十分重要, 它深刻地揭示出知识的颗粒状结构 , 是定义其它概念的基础. 知识可认为是一族 等效关系, 它将论域分割成一系列的等效类.
2. 3. 3 集合的下逼近,上逼近及边界区
粗糙集理论延拓了经典的集合论, 把用于分类的知识嵌入集合内, 作为集合组成的一部分. 一个对象a 是否属于集合X 需根据现有的知识来判断, 可分为三种情况: (1) 对象a 肯定属于集合X ; (2) 对象a 肯定不属于集X ; (3) 对象a 可能属于也可能不属于集合X . 集合的划分密切依赖于我们所掌握的关于论域的知识, 是相对的而不是绝对的.给定一个有限的非空集合U 称为论域, I 为U 中的一族等效关系, 即关于U 的知识, 则二元对 K = (U , I ) 称为一个近似空间(approximation space). 设x 为U 中的一个对象, X为U 的一个子集, I (x ) 表示所有与x 不可分辨的对象所组成的集合, 换句话说, 是由x 决定的
等效类, 即I (x ) 中的每个对象都与x 有相同的特征属性(attribute).
集合X 关于I 的下逼近(Lower approximation) 定义为:
I* (X ) = {x ∈U : I (x ) I *(X ) 实际上由那些根据现有知识判断肯定属于X 的对象所组成的最大的集合, 有时也称
为X 的正区(po sit ive region) , 记作PO S (X ). 类似地, 由根据现有知识判断肯定不属于X 的
对象组成的集合称为X 的负区(negat ive region) , 记作N EG (X ).
集合X 关于I 的上逼近(U pper app rox im at ion) 定义为
I3 (X ) = {x ∈U : I (x ) ∩ X ≠ 5 } (2)
I3 (X ) 是由所有与X 相交非空的等效类I (x ) 的并集, 是那些可能属于X 的对象组成的最小
集合. 显然, I3 (X ) + N EG (X ) = 论域U.
集合X 的边界区(Boundary region) 定义为
BND (X ) = I
3 (X ) - I 3 (X ) (3)
BND (X ) 为集合X 的上逼近与下逼近之差. 如果BND (X ) 是空集, 则称X 关于I 是清晰的
(crisp ) ; 反之如果BND (X ) 不是空集, 则称集合X 为关于I 的粗糙集( rough set).
下逼近,上逼近及边界区等概念称为可分辨区(discern ib ility region s) , 刻划了一个边界含
糊(vague) 集合的逼近特性. 粗糙程度可按按下式的计算
A1
=
I 3 (X )
I
3 (X ) , (4)
式中 # 表示集合# 的基数或势(cardinality) , 对有限集合表示集合中所包含的元素的个数.
显然0≤A
1 (X ) ≤1, 如果A
1 (X ) = 1, 则称集合X 相对于I 是清晰(crisp ) 的, 如果A
1 (X ) 0} (7)
BND (X ) = {x ∈U : 0 < LIX
(x ) < 1} (8)
从上面的定义中, 可以看出粗糙集理论中"含糊"(vague) 和"不确定"(uncertain ty) 这两个
概念之间的关系:"含糊"用来描述集合, 指集合的边界不清楚; 而"不确定"描述的是集合中的
元素, 指某个元素是否属于某集合是不确定的.
2. 4 实例
下面用一个具体的实例说明粗糙集的概念. 在粗糙集中使用信息表( info rm at ion tab le) 描
述论域中的数据集合. 根据学科领域的不同, 它们可能代表医疗,金融,军事,过程控制等方面
的数据. 信息表的形式和大家所熟悉的关系数据库中的关系数据模型很相似, 是一张二维表
1 期韩祯祥等: 粗糙集理论及其应用39
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
格, 如表一所示. 表格的数据描述了一些人的教育程度以及是否找到了较好工作, 旨在说明两
者之间的关系. 其中王治,马丽, 赵凯等称为对象(ob ject s) , 一行描述一个对象. 表中的列描
述对象的属性. 粗糙集理论中有两种属性: 条件属性(condit ion at t ribu te) 和决策属性(decision
at t ribu te). 本例中"教育程度"为条件属性;"是否找到了好工作"为决策属性.
表1 教育程度与是否找到好工作的关系
姓名教育程度是否找到了好工作
王治高中否
马丽高中是
李得小学否
刘保大学是
赵凯博士是
设O 表示找到了好工作的人的集合, 则
O = {马丽, 刘保, 赵凯}, 设I 表示属性"教育
程度"所构成的一个等效关系, 根据教育程度
的不同, 该论域被分割为四个等效类: {王治,
马丽},{李得},{刘保},{赵凯}. 王治和马丽在
同一个等效类中, 他们都为高中文化程度, 是
不可分辨的. 则:
集合O 的下逼近(即正区) 为 I 3 (O ) = PO S (O ) = {刘保,赵凯}
集合O 的负区为 N EG (O ) = {李得}
集合O 的边界区为 BND (O ) = {王治, 马丽}
集合O 的上逼近为 I 3 (O ) = PO S (O ) + BND (O ) = {刘保,赵凯,王治,马
丽}
根据表1, 可以归纳出下面几条规则, 揭示了教育程度与是否能找到好工作之间的关系.
RUL E 1: IF (教育程度= 大学) OR (教育程度= 博士) THEN (可以找到好工作)
RUL E 2: IF (教育程度= 小学) THEN (找不到好工作)
RUL E 3: IF (教育程度= 高中) THEN (可能找到好工作)
从这个简单的例子中, 我们还可以体会到粗糙集理论在数据分析,寻找规律方面的作用.
3 粗糙集理论的特点
3. 1 粗糙集是一种软计算方法
软计算(sof t compu t ing) 的概念是由模糊集创始人Zadeh[ 9 ]提出的. 软计算中的主要工具
包括粗糙集,模糊逻辑(FL ),神经网络(NN ),_________概率推理(PR ),信度网络(Belief N etwo rk s),遗
传算法(GA ) 与其它进化优化算法,混沌(Chao s) 理论等.
传统的计算方法即所谓的硬计算(hard compu t ing) , 使用精确,固定和不变的算法来表达
和解决问题. 而软计算的指导原则是利用所允许的不精确性,不确定性和部分真实性以得到易
于处理,鲁棒性强和成本较低的解决方案, 以便更好地与现实系统相协调.
3. 2 粗糙集理论的特点
粗糙集方法的简单实用性是令人惊奇的, 它能在创立后的不长时间内得到迅速应用是因
为具有以下特点[ 6~ 8 ]:
(1) 它能处理各种数据, 包括不完整( incomp lete) 的数据以及拥有众多变量的数据;
(3) 它能处理数据的不精确性和模棱两可(am b igu ity) , 包括确定性和非确定性的情况;
(4) 它能求得知识的最小表达( reduct) 和知识的各种不同颗粒(granu larity) 层次;
(5) 它能从数据中揭示出概念简单, 易于操作的模式(pat tern) ;
(6) 它能产生精确而又易于检查和证实的规则, 特别适于智能控制中规则的自动生成.
40 信 息 与 控 制27 卷
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
4 粗糙集理论的应用
粗糙集理论是一门实用性很强的学科, 从诞生到现在虽然只有十几年的时间, 但已经在不
少领域取得了丰硕的成果, 如近似推理,数字逻辑分析和化简,建立预测模型,决策支持,控制
算法获取,机器学习算法和模式识别等等. 下面介绍一下粗糙集应用的几个主要领域.
4. 1 人工神经网络训练样本集化简
人工神经网络具有并行处理,高度容错和泛化能力强的特点, 适合应用在预测,复杂对象
建模和控制等场合. 但是当神经网络规模较大,样本较多时, 训练时间过于漫长, 这个固有缺点
是制约神经网络进一步实用化的一个主要因素. 虽然各种提高训练速度的算法不断出现, 问题
远未彻底解决. 化简训练样本集, 消除冗余数据是另一条提高训练速度的途径.
文[ 10 ]正是沿着这条思路, 应用粗糙集化简神经网络训练样本数据集, 在保留重要信息的
前提下消除了多余(superf luou s) 的数据. 仿真实验表明训练速度提高了4. 77 倍, 获得了较好
的效果.
4. 2 控制算法获取
实际系统中有很多复杂对象难于建立严格的数学模型, 这样传统的基于数学模型的控制
方法就难以奏效. 模糊控制模拟人的模糊推理和决策过程, 将操作人员的控制经验总结为一系
列语言控制规则, 具有鲁棒性和简单性的特点, 在工业控制等领域发展较快. 但是有些复杂对
象的控制规则难以人工提取, 这样就在一定程度上限制了模糊控制的应用.
粗糙集能够自动抽取控制规则的特点为解决这一难题提供了新的手段. 一种新的控制策
略—模糊- 粗糙控制(fuzzy2rough con t ro l) 正悄然兴起, 成为一个有吸引力的发展方向. 应用
这种控制方法, 文[11 ]研究了"小车—倒立摆系统"这一经典控制问题, 文[12 ]研究了过程控制
(水泥窑炉) , 均取得了较好的控制效果. 应用粗糙集进行控制的基本思路是: 把控制过程的一
些有代表性的状态以及操作人员在这些状态下所采取的控制策略都记录下来, 然后利用粗糙
集理论处理这些数据, 分析操作人员在何种条件下采取何种控制策略, 总结出一系列控制规
则:
规则1 IF Condit ion 1 满足 THEN 采取decision 1
规则2 IF Condit ion 2 满足 THEN 采取decision 2
规则3 IF Condit ion 3 满足 THEN 采取decision 3
这种根据观测数据获得控制策略的方法通常被称为从范例中学习( learn ing f rom exam2
p les). 粗糙控制( rough con t ro l) 与模糊控制都是基于知识,基于规则的控制, 但粗糙控制更加
简单迅速,实现容易(因为粗糙控制有时可省却模糊化及去模糊化步骤) ; 另一个优点在于控制
算法可以完全来自数据本身, 所以从软件工程的角度看, 其决策和推理过程与模糊(或神经网
络) 控制相比可以很容易被检验和证实(validate). 文[ 11 ]还指出在特别要求控制器结构与算
法简单的场合, 更适合采取粗糙控制.
美国电力科学研究院(EPR I) 对粗糙集的应用研究的潜力对十分重视, 将其作为战略性
研究开发(St rategy R&D) 项目, 在1996 年拨款 196, 600 资助San Jo se 州立大学进行电力系
统模糊- 粗糙控制器的研究.
1 期韩祯祥等: 粗糙集理论及其应用41
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
4. 3 决策支持系统
面对大量的信息以及各种不确定因素, 要作出科学,合理的决策是非常困难的. 决策支持
系统是一组协助制定决策的工具, 其重要特征就是能够执行IF THEN 规则进行判断分
析. 粗糙集理论可以在分析以往大量经验数据的基础上找到这些规则, 基于粗糙集的决策支持
系统在这方面弥补了常规决策方法的不足, 允许决策对象中存在一些不太明确,不太完整的属
性, 并经过推理得出基本上肯定的结论.
下面举一个例子, 说明粗糙集理论可以根据以往的病例归纳出诊断规则, 帮助医生作出判
断. 表二描述了八个病人的症状. 从表二中可以归纳出以下几条确定的规则:
表2 症状与感冒的关系
病人编号
病理症状诊断结果
是否头痛体温是否感冒
病人1 是正常否
病人2 是高是
病人3 是很高是
病人4 否正常否
病人5 否高否
病人6 否很高是
病人7 否高是
病人8 否很高否
1. IF (体温正常) THEN (没感冒)
2. IF (头痛) AND (体温高) THEN
(感冒)
3. IF (头痛) AND (体温很高) THEN
(感冒)
还有几条可能的规则:
4. IF (头不痛) THEN (可能没感冒)
5. IF (体温高) THEN (可能感冒了)
6. IF (体温很高) THEN (可能感冒了)
病人5 和病人7, 病人6 和病人8, 症状
相同, 但是一个感冒另一个却没感冒, 这种情
况称为不一致( incon sisten t). 粗糙集就是靠这种IF THEN 规则的形式表示数据中蕴含的
知识.
希腊工业发展银行ETEVA 用粗糙集理论协助制订信贷政策, 从大量实例中抽取出的规
则条理清晰, 得到了金融专家的好评[ 13 ].
4. 4 从数据库中知识发现
现代社会中, 随着信息产业的迅速发展, 大量来自金融,医疗,科研等不同领域的信息被存
储在数据库中. 这些浩如烟海的数据间隐含着许多有价值的但鲜为人知的相关性, 例如股票的
价格和一些经济指数有什么关系; 手术前病人的病理指标可能与手术是否成功存在某种联系;
满足何种条件的夜空会出现彗星等天文现象等等.
由于数据库的庞大, 人工处理这些数据几乎是不可能的, 于是出现了一个新的研究方向—
数据库中的知识发现(Know ledge D iscovery in Databases, KDD) , 也叫做数据库(信息) 发掘
(M in ing) , 它是目前国际上人工智能领域中研究较为活跃的分支. 粗糙集是其中的一种重要
的研究方法, 它采用的信息表与关系数据库中的关系数据模型很相似, 这样就便于将基于粗糙
集的算法嵌入数据库管理系统中.
粗糙集引入核(co re),化简( reduct) 等有力的概念与方法, 从数据中导出用IF THEN
规则形式描述的知识, 这些精练的知识更便于存储和使用. 美国医学工作者应用粗糙集理论对
大量的病历进行分析, 发现黑人妇女患乳腺癌后的死亡率比白人妇女高. 到目前为止, 早产的
预测在医学上还是比较困难的. 现有的人工预测方法准确率只有17à - 58à , 而应用粗糙集
理论则可将准确率提高到68à - 90à [ 8 ].
42 信 息 与 控 制27 卷
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
5 粗糙集与模糊集,证据理论及其它一些情况
5. 1 粗糙集与模糊集,证据理论
粗糙集与模糊集都能处理不完备( imperfect) 数据, 但方法不同, 模糊集注重描述信息的含
糊(vagueness) 程度, 粗糙集则强调数据的不可辨别( indiscern ib ility) , 不精确( imp recision) 和
模棱两可(am b igu ity). 使用图像处理中的语言来作比喻, 当论述图像的清晰程度时, 粗糙集强
调组成图像象素的大小, 而模糊集则强调象素存在不同的灰度. 粗糙集研究的是不同类中的对
象组成的集合之间的关系, 重在分类; 模糊集研究的是属于同一类的不同对象的隶属的关系,
重在隶属的程度. 因此粗糙集和模糊集是两种不同的理论, 但又不是相互对立的, 它们在处理
不完善数据方面可以互为补充.
粗糙集理论与证据理论虽有一些相互交叠的地方, 但本质不同, 粗糙集使用集合的上,下
逼近而证据理论使用信任函数(belief funct ion) 作为主要工具. 粗糙集对给定数据的计算是客
观的, 无须知道关于数据的任何先验知识(如概率分布等) , 而证据理论则需要假定的似然值
(p lau sib ility).
5. 2 近年来召开的与粗糙集有关的国际会议
相继召开的以粗糙集理论为主题的国际会议, 促进了粗糙集理论的推广. 这些会议发表了
大量的具有一定学术和应用价值的论文, 方便了学术交流, 推动了粗糙集在各个科学领域的拓
展和应用. 下面列出了近年召开的一些会议:
· 1992 年第一届国际研讨会(Rough Set s: State of the A rt and Perspect ives) 在波兰
K iek rz 召开;
·1993 年第二届国际研讨会(The Second In ternat ionalWo rk shop on Rough Set s and
Know ledge D iscovery, RSKD'93) 在加拿大Banff 召开;
·1994 年第三届国际研讨会(The Th ird In ternat ionalWo rk shop on Rough Set s and Sof t
Compu t ing, RSSC'94) 在美国San Jo se 召开;
·1995 年在美国No rth Caro lina 召开了题为"Rough Set Theo ry, RST'95"的国际会议;
·1996 年第四届国际研讨会(The Fou rth In ternat ionalWo rk shop on Rough Set s, Fuzzy
Set s, andM ach ine D iscovery, RSFD'96) 在日本东京召开;
·1997 年3 月在美国No rth Caro lina 召开了第五届国际研讨会(The F if th In ternat ional
Wo rk shop on Rough Set s and Sof t Compu t ing, RSSC'97)
5. 3 国际上一些有关粗糙集的软件
目前, 国际上研究粗糙集的机构和个人开发了一些应用粗糙集的实用化软件, 也出现了商
业化的软件. 加拿大Reduct System Inc. 公司开发的用于数据库知识发现的软件DataLogic
R [ 14 ]是用C 语言开发的, 可安装在个人计算机上, 为科研领域和工业界服务.
美国肯萨斯大学开发了一套基于粗糙集的经验学习系统[ 15 ] , 名为L ERS (L earn ing f rom
Examp les based on Rough Set s) , 它能从大量经验数据中抽取出规则. L ERS 已被美国国家航
空航天管理局(NA SA ) 的约翰逊(John son) 空间中心采用, 作为专家系统开发工具, 为"自由
号"(F reedom ) 空间站上的医疗决策服务. 美国环境保护署(U S Environm en tal P ro tect ion A 2
gency) 资助的一个项目中也采用了L ERS.
波兰波兹南工业大学(Poznan U n iversity of Techno logy) 开发的软件RoughDA S 和
1 期韩祯祥等: 粗糙集理论及其应用43
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
RoughClass, 也在不少实际领域中得到应用[ 5 ].
加拿大Regina 大学开发的KDD- R 是用C 编写的, 在UN IX 环境下运行, KDD2R 基于
变精度粗糙集模型[ 16 ] (V ariab le P recision Rough Set, V PRS) , 通过改变粗糙程度而使数据中
隐含的模式更清楚的显示出来.
6 结束语
粗糙集是一种较有前途的处理不确定性的方法, 相信今后将会在更多的领域中得到应用.
但是, 粗糙集理论还处在继续发展之中, 正如粗糙集理论的创立人Z. Paw lak 所指出的那
样[ 8 ] , 尚有一些理论上的问题需要解决, 诸如用于不精确推理的粗糙逻辑(Rough logic) 方法,
粗糙集理论与非标准分析(Non standard analysis) 和非参数化统计(Nonparam et ric stat ist ics)
等之间的关系等等.
将粗糙集与其它软计算方法(如模糊集,人工神经网络,遗传算法等) 相综合, 发挥出各自
的优点, 可望设计出具有较高的机器智商(M IQ ) 的混合智能系统(Hyb rid In telligen t
System ) , 这是一个值得努力的方向.
摘 要 在很多实际系统中均不同程度地存在着不确定性因素, 采集到的数据常常包含着噪声,不精确甚至不完整. 粗糙集理论是继概率论,模糊集,证据理论之后的又一个处理不确定性的数学工具. 作为一种较新的软计算方法, 粗糙集近年来越来越受到重视, 其有效性已在许多科学与工程领域的成功应用中得到证实, 是当前国际上人工智能理论及其应用领域中的研究热点之一.
本文介绍了粗糙集理论的基本概念,特点及有关应用.
关键词 粗糙集, 不确定性, 数据分析, 软计算
1 引言
在自然科学,社会科学和工程技术的很多领域中, 都不同程度地涉及到对不确定因素和对不完备( imperfect) 信息的处理. 从实际系统中采集到的数据常常包含着噪声, 不够精确甚至不完整. 采用纯数学上的假设来消除或回避这种不确定性, 效果往往不理想, 反之, 如果正视它,对这些信息进行合适地处理, 常常有助于相关实际系统问题的解决. 多年来, 研究人员一直在努力寻找科学地处理不完整性和不确定性的有效途径. 模糊集和基于概率方法的证据理论是处理不确定信息的两种方法, 已应用于一些实际领域. 但这些方法有时需要一些数据的附加信息或先验知识, 如模糊隶属函数,基本概率指派函数和有关统计概率分布等, 而这些信息有时并不容易得到. 1982 年, 波兰学者Z. Paw lak 提
出了粗糙集理论, 它是一种刻划不完整性和不确定性的数学工具, 能有效地分析不精确,不一致( incon sisten t),不完整( incomp lete) 等各种不完备的信息, 还可以对数据进行分析和推理, 从中发现隐含的知识, 揭示潜在的规律. 粗糙集理论是建立在分类机制的基础上的, 它将分类理解为在特定空间上的等价关系, 而等价关系构成了对该空间的划分.粗糙集理论将知识理解为对数据的划分, 每一被划分的集合称为概念.粗糙集理论的主要思想是利用已知的知识库, 将不精确或不确定的知识用已知的知识库中的知识来(近似) 刻画.该理论与其他处理不确定和不精确问题理论的最显著的区别是它无需提供问题所需处理的数据集合之外的任何先验信息, 所以对问题的不确定性的描述或处理可以说是比较客观的, 由于这个理论未能包含处理不精确或不确定原始数据的机制, 所以这个理论与概率论, 模糊数学和证据理论等其他处理不确定或不精确问题的理论有很强的互补性.本文简要介绍了粗糙集理论的基本概念和实际应用.
2 粗糙集的理论
2. 1 粗糙集理论的产生和发展
在本世纪70 年代, 波兰学者Z. Paw lak 和一些波兰科学院,波兰华沙大学的逻辑学家们,一起从事关于信息系统逻辑特性的研究. 粗糙集理论就是在这些研究的基础上产生的. 1982年, Z. Paw lak 发表了经典论文Rough Set s , 宣告了粗糙集理论的诞生. 此后, 粗糙集理论引起了许多数学家,逻辑学家和计算机研究人员的兴趣, 他们在粗糙集的理论和应用方面作了大量的研究工作.1991 年Z. Paw lak 的专著和1992 年应用专集的出版, 对这一段时期理论和实践工作的成果作了较好的总结, 同时促进了粗糙集在各个领域的应用. 此后召开的与粗糙集有关的国际会议进一步推动了粗糙集的发展. 越来越多的科技人员开始了解并准备从事该领域的研究. 目前, 粗糙集已成为人工智能领域中一个较新的学术热点, 在机器学习,知识获取,决策分析,过程控制等许多领域得到了广泛的应用.
2. 2 粗糙集理论所处理的问题
粗糙集能有效地处理下列问题:
·不确定或不精确知识的表达;
·经验学习并从经验中获取知识;
·不一致信息的分析;
·根据不确定,不完整的知识进行推理;
·在保留信息的前提下进行数据化简;
·近似模式分类;
·识别并评估数据之间的依赖关系
2. 3 粗糙集理论的一些基本概念
2. 3. 1 知识的含义
"知识"这个概念在不同的范畴内有多种不同的含义. 在粗糙集理论中,"知识"被认为是一种分类能力. 人们的行为是基于分辨现实的或抽象的对象的能力, 如在远古时代, 人们为了生存必须能分辨出什么可以食用, 什么不可以食用; 医生给病人诊断, 必须辨别出患者得的是哪一种病. 这些根据事物的特征差别将其分门别类的能力均可以看作是某种"知识".
2. 3. 2 不可分辨关系与基本集
分类过程中, 相差不大的个体被归于同一类, 它们的关系就是不可分辨关系( indiscernability relation). 假定只用两种黑白颜色把空间中的物体分割两类, {黑色物体},{白色物体},那么同为黑色的两个物体就是不可分辨的, 因为描述它们特征属性的信息相同, 都是黑色. 如果再引入方,圆的属性, 又可以将物体进一步分割为四类: {黑色方物体},{黑色圆物体},{白色方物体},{白色圆物体}. 这时, 如果两个同为黑色方物体, 则它们还是不可分辨的. 不可分辨关系也称为一个等效关系(equivalence relationship ) , 两个白色圆物体间的不可分辨关系可以理解为它们在白,圆两种属性下存在等效关系.
基本集(elementary set) 定义为由论域中相互间不可分辨的对象组成的集合, 是组成论域知识的颗粒. 不可分辨关系这一概念在粗糙集理论中十分重要, 它深刻地揭示出知识的颗粒状结构 , 是定义其它概念的基础. 知识可认为是一族 等效关系, 它将论域分割成一系列的等效类.
2. 3. 3 集合的下逼近,上逼近及边界区
粗糙集理论延拓了经典的集合论, 把用于分类的知识嵌入集合内, 作为集合组成的一部分. 一个对象a 是否属于集合X 需根据现有的知识来判断, 可分为三种情况: (1) 对象a 肯定属于集合X ; (2) 对象a 肯定不属于集X ; (3) 对象a 可能属于也可能不属于集合X . 集合的划分密切依赖于我们所掌握的关于论域的知识, 是相对的而不是绝对的.给定一个有限的非空集合U 称为论域, I 为U 中的一族等效关系, 即关于U 的知识, 则二元对 K = (U , I ) 称为一个近似空间(approximation space). 设x 为U 中的一个对象, X为U 的一个子集, I (x ) 表示所有与x 不可分辨的对象所组成的集合, 换句话说, 是由x 决定的
等效类, 即I (x ) 中的每个对象都与x 有相同的特征属性(attribute).
集合X 关于I 的下逼近(Lower approximation) 定义为:
I* (X ) = {x ∈U : I (x ) I *(X ) 实际上由那些根据现有知识判断肯定属于X 的对象所组成的最大的集合, 有时也称
为X 的正区(po sit ive region) , 记作PO S (X ). 类似地, 由根据现有知识判断肯定不属于X 的
对象组成的集合称为X 的负区(negat ive region) , 记作N EG (X ).
集合X 关于I 的上逼近(U pper app rox im at ion) 定义为
I3 (X ) = {x ∈U : I (x ) ∩ X ≠ 5 } (2)
I3 (X ) 是由所有与X 相交非空的等效类I (x ) 的并集, 是那些可能属于X 的对象组成的最小
集合. 显然, I3 (X ) + N EG (X ) = 论域U.
集合X 的边界区(Boundary region) 定义为
BND (X ) = I
3 (X ) - I 3 (X ) (3)
BND (X ) 为集合X 的上逼近与下逼近之差. 如果BND (X ) 是空集, 则称X 关于I 是清晰的
(crisp ) ; 反之如果BND (X ) 不是空集, 则称集合X 为关于I 的粗糙集( rough set).
下逼近,上逼近及边界区等概念称为可分辨区(discern ib ility region s) , 刻划了一个边界含
糊(vague) 集合的逼近特性. 粗糙程度可按按下式的计算
A1
=
I 3 (X )
I
3 (X ) , (4)
式中 # 表示集合# 的基数或势(cardinality) , 对有限集合表示集合中所包含的元素的个数.
显然0≤A
1 (X ) ≤1, 如果A
1 (X ) = 1, 则称集合X 相对于I 是清晰(crisp ) 的, 如果A
1 (X ) 0} (7)
BND (X ) = {x ∈U : 0 < LIX
(x ) < 1} (8)
从上面的定义中, 可以看出粗糙集理论中"含糊"(vague) 和"不确定"(uncertain ty) 这两个
概念之间的关系:"含糊"用来描述集合, 指集合的边界不清楚; 而"不确定"描述的是集合中的
元素, 指某个元素是否属于某集合是不确定的.
2. 4 实例
下面用一个具体的实例说明粗糙集的概念. 在粗糙集中使用信息表( info rm at ion tab le) 描
述论域中的数据集合. 根据学科领域的不同, 它们可能代表医疗,金融,军事,过程控制等方面
的数据. 信息表的形式和大家所熟悉的关系数据库中的关系数据模型很相似, 是一张二维表
1 期韩祯祥等: 粗糙集理论及其应用39
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
格, 如表一所示. 表格的数据描述了一些人的教育程度以及是否找到了较好工作, 旨在说明两
者之间的关系. 其中王治,马丽, 赵凯等称为对象(ob ject s) , 一行描述一个对象. 表中的列描
述对象的属性. 粗糙集理论中有两种属性: 条件属性(condit ion at t ribu te) 和决策属性(decision
at t ribu te). 本例中"教育程度"为条件属性;"是否找到了好工作"为决策属性.
表1 教育程度与是否找到好工作的关系
姓名教育程度是否找到了好工作
王治高中否
马丽高中是
李得小学否
刘保大学是
赵凯博士是
设O 表示找到了好工作的人的集合, 则
O = {马丽, 刘保, 赵凯}, 设I 表示属性"教育
程度"所构成的一个等效关系, 根据教育程度
的不同, 该论域被分割为四个等效类: {王治,
马丽},{李得},{刘保},{赵凯}. 王治和马丽在
同一个等效类中, 他们都为高中文化程度, 是
不可分辨的. 则:
集合O 的下逼近(即正区) 为 I 3 (O ) = PO S (O ) = {刘保,赵凯}
集合O 的负区为 N EG (O ) = {李得}
集合O 的边界区为 BND (O ) = {王治, 马丽}
集合O 的上逼近为 I 3 (O ) = PO S (O ) + BND (O ) = {刘保,赵凯,王治,马
丽}
根据表1, 可以归纳出下面几条规则, 揭示了教育程度与是否能找到好工作之间的关系.
RUL E 1: IF (教育程度= 大学) OR (教育程度= 博士) THEN (可以找到好工作)
RUL E 2: IF (教育程度= 小学) THEN (找不到好工作)
RUL E 3: IF (教育程度= 高中) THEN (可能找到好工作)
从这个简单的例子中, 我们还可以体会到粗糙集理论在数据分析,寻找规律方面的作用.
3 粗糙集理论的特点
3. 1 粗糙集是一种软计算方法
软计算(sof t compu t ing) 的概念是由模糊集创始人Zadeh[ 9 ]提出的. 软计算中的主要工具
包括粗糙集,模糊逻辑(FL ),神经网络(NN ),_________概率推理(PR ),信度网络(Belief N etwo rk s),遗
传算法(GA ) 与其它进化优化算法,混沌(Chao s) 理论等.
传统的计算方法即所谓的硬计算(hard compu t ing) , 使用精确,固定和不变的算法来表达
和解决问题. 而软计算的指导原则是利用所允许的不精确性,不确定性和部分真实性以得到易
于处理,鲁棒性强和成本较低的解决方案, 以便更好地与现实系统相协调.
3. 2 粗糙集理论的特点
粗糙集方法的简单实用性是令人惊奇的, 它能在创立后的不长时间内得到迅速应用是因
为具有以下特点[ 6~ 8 ]:
(1) 它能处理各种数据, 包括不完整( incomp lete) 的数据以及拥有众多变量的数据;
(3) 它能处理数据的不精确性和模棱两可(am b igu ity) , 包括确定性和非确定性的情况;
(4) 它能求得知识的最小表达( reduct) 和知识的各种不同颗粒(granu larity) 层次;
(5) 它能从数据中揭示出概念简单, 易于操作的模式(pat tern) ;
(6) 它能产生精确而又易于检查和证实的规则, 特别适于智能控制中规则的自动生成.
40 信 息 与 控 制27 卷
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
4 粗糙集理论的应用
粗糙集理论是一门实用性很强的学科, 从诞生到现在虽然只有十几年的时间, 但已经在不
少领域取得了丰硕的成果, 如近似推理,数字逻辑分析和化简,建立预测模型,决策支持,控制
算法获取,机器学习算法和模式识别等等. 下面介绍一下粗糙集应用的几个主要领域.
4. 1 人工神经网络训练样本集化简
人工神经网络具有并行处理,高度容错和泛化能力强的特点, 适合应用在预测,复杂对象
建模和控制等场合. 但是当神经网络规模较大,样本较多时, 训练时间过于漫长, 这个固有缺点
是制约神经网络进一步实用化的一个主要因素. 虽然各种提高训练速度的算法不断出现, 问题
远未彻底解决. 化简训练样本集, 消除冗余数据是另一条提高训练速度的途径.
文[ 10 ]正是沿着这条思路, 应用粗糙集化简神经网络训练样本数据集, 在保留重要信息的
前提下消除了多余(superf luou s) 的数据. 仿真实验表明训练速度提高了4. 77 倍, 获得了较好
的效果.
4. 2 控制算法获取
实际系统中有很多复杂对象难于建立严格的数学模型, 这样传统的基于数学模型的控制
方法就难以奏效. 模糊控制模拟人的模糊推理和决策过程, 将操作人员的控制经验总结为一系
列语言控制规则, 具有鲁棒性和简单性的特点, 在工业控制等领域发展较快. 但是有些复杂对
象的控制规则难以人工提取, 这样就在一定程度上限制了模糊控制的应用.
粗糙集能够自动抽取控制规则的特点为解决这一难题提供了新的手段. 一种新的控制策
略—模糊- 粗糙控制(fuzzy2rough con t ro l) 正悄然兴起, 成为一个有吸引力的发展方向. 应用
这种控制方法, 文[11 ]研究了"小车—倒立摆系统"这一经典控制问题, 文[12 ]研究了过程控制
(水泥窑炉) , 均取得了较好的控制效果. 应用粗糙集进行控制的基本思路是: 把控制过程的一
些有代表性的状态以及操作人员在这些状态下所采取的控制策略都记录下来, 然后利用粗糙
集理论处理这些数据, 分析操作人员在何种条件下采取何种控制策略, 总结出一系列控制规
则:
规则1 IF Condit ion 1 满足 THEN 采取decision 1
规则2 IF Condit ion 2 满足 THEN 采取decision 2
规则3 IF Condit ion 3 满足 THEN 采取decision 3
这种根据观测数据获得控制策略的方法通常被称为从范例中学习( learn ing f rom exam2
p les). 粗糙控制( rough con t ro l) 与模糊控制都是基于知识,基于规则的控制, 但粗糙控制更加
简单迅速,实现容易(因为粗糙控制有时可省却模糊化及去模糊化步骤) ; 另一个优点在于控制
算法可以完全来自数据本身, 所以从软件工程的角度看, 其决策和推理过程与模糊(或神经网
络) 控制相比可以很容易被检验和证实(validate). 文[ 11 ]还指出在特别要求控制器结构与算
法简单的场合, 更适合采取粗糙控制.
美国电力科学研究院(EPR I) 对粗糙集的应用研究的潜力对十分重视, 将其作为战略性
研究开发(St rategy R&D) 项目, 在1996 年拨款 196, 600 资助San Jo se 州立大学进行电力系
统模糊- 粗糙控制器的研究.
1 期韩祯祥等: 粗糙集理论及其应用41
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
4. 3 决策支持系统
面对大量的信息以及各种不确定因素, 要作出科学,合理的决策是非常困难的. 决策支持
系统是一组协助制定决策的工具, 其重要特征就是能够执行IF THEN 规则进行判断分
析. 粗糙集理论可以在分析以往大量经验数据的基础上找到这些规则, 基于粗糙集的决策支持
系统在这方面弥补了常规决策方法的不足, 允许决策对象中存在一些不太明确,不太完整的属
性, 并经过推理得出基本上肯定的结论.
下面举一个例子, 说明粗糙集理论可以根据以往的病例归纳出诊断规则, 帮助医生作出判
断. 表二描述了八个病人的症状. 从表二中可以归纳出以下几条确定的规则:
表2 症状与感冒的关系
病人编号
病理症状诊断结果
是否头痛体温是否感冒
病人1 是正常否
病人2 是高是
病人3 是很高是
病人4 否正常否
病人5 否高否
病人6 否很高是
病人7 否高是
病人8 否很高否
1. IF (体温正常) THEN (没感冒)
2. IF (头痛) AND (体温高) THEN
(感冒)
3. IF (头痛) AND (体温很高) THEN
(感冒)
还有几条可能的规则:
4. IF (头不痛) THEN (可能没感冒)
5. IF (体温高) THEN (可能感冒了)
6. IF (体温很高) THEN (可能感冒了)
病人5 和病人7, 病人6 和病人8, 症状
相同, 但是一个感冒另一个却没感冒, 这种情
况称为不一致( incon sisten t). 粗糙集就是靠这种IF THEN 规则的形式表示数据中蕴含的
知识.
希腊工业发展银行ETEVA 用粗糙集理论协助制订信贷政策, 从大量实例中抽取出的规
则条理清晰, 得到了金融专家的好评[ 13 ].
4. 4 从数据库中知识发现
现代社会中, 随着信息产业的迅速发展, 大量来自金融,医疗,科研等不同领域的信息被存
储在数据库中. 这些浩如烟海的数据间隐含着许多有价值的但鲜为人知的相关性, 例如股票的
价格和一些经济指数有什么关系; 手术前病人的病理指标可能与手术是否成功存在某种联系;
满足何种条件的夜空会出现彗星等天文现象等等.
由于数据库的庞大, 人工处理这些数据几乎是不可能的, 于是出现了一个新的研究方向—
数据库中的知识发现(Know ledge D iscovery in Databases, KDD) , 也叫做数据库(信息) 发掘
(M in ing) , 它是目前国际上人工智能领域中研究较为活跃的分支. 粗糙集是其中的一种重要
的研究方法, 它采用的信息表与关系数据库中的关系数据模型很相似, 这样就便于将基于粗糙
集的算法嵌入数据库管理系统中.
粗糙集引入核(co re),化简( reduct) 等有力的概念与方法, 从数据中导出用IF THEN
规则形式描述的知识, 这些精练的知识更便于存储和使用. 美国医学工作者应用粗糙集理论对
大量的病历进行分析, 发现黑人妇女患乳腺癌后的死亡率比白人妇女高. 到目前为止, 早产的
预测在医学上还是比较困难的. 现有的人工预测方法准确率只有17à - 58à , 而应用粗糙集
理论则可将准确率提高到68à - 90à [ 8 ].
42 信 息 与 控 制27 卷
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
5 粗糙集与模糊集,证据理论及其它一些情况
5. 1 粗糙集与模糊集,证据理论
粗糙集与模糊集都能处理不完备( imperfect) 数据, 但方法不同, 模糊集注重描述信息的含
糊(vagueness) 程度, 粗糙集则强调数据的不可辨别( indiscern ib ility) , 不精确( imp recision) 和
模棱两可(am b igu ity). 使用图像处理中的语言来作比喻, 当论述图像的清晰程度时, 粗糙集强
调组成图像象素的大小, 而模糊集则强调象素存在不同的灰度. 粗糙集研究的是不同类中的对
象组成的集合之间的关系, 重在分类; 模糊集研究的是属于同一类的不同对象的隶属的关系,
重在隶属的程度. 因此粗糙集和模糊集是两种不同的理论, 但又不是相互对立的, 它们在处理
不完善数据方面可以互为补充.
粗糙集理论与证据理论虽有一些相互交叠的地方, 但本质不同, 粗糙集使用集合的上,下
逼近而证据理论使用信任函数(belief funct ion) 作为主要工具. 粗糙集对给定数据的计算是客
观的, 无须知道关于数据的任何先验知识(如概率分布等) , 而证据理论则需要假定的似然值
(p lau sib ility).
5. 2 近年来召开的与粗糙集有关的国际会议
相继召开的以粗糙集理论为主题的国际会议, 促进了粗糙集理论的推广. 这些会议发表了
大量的具有一定学术和应用价值的论文, 方便了学术交流, 推动了粗糙集在各个科学领域的拓
展和应用. 下面列出了近年召开的一些会议:
· 1992 年第一届国际研讨会(Rough Set s: State of the A rt and Perspect ives) 在波兰
K iek rz 召开;
·1993 年第二届国际研讨会(The Second In ternat ionalWo rk shop on Rough Set s and
Know ledge D iscovery, RSKD'93) 在加拿大Banff 召开;
·1994 年第三届国际研讨会(The Th ird In ternat ionalWo rk shop on Rough Set s and Sof t
Compu t ing, RSSC'94) 在美国San Jo se 召开;
·1995 年在美国No rth Caro lina 召开了题为"Rough Set Theo ry, RST'95"的国际会议;
·1996 年第四届国际研讨会(The Fou rth In ternat ionalWo rk shop on Rough Set s, Fuzzy
Set s, andM ach ine D iscovery, RSFD'96) 在日本东京召开;
·1997 年3 月在美国No rth Caro lina 召开了第五届国际研讨会(The F if th In ternat ional
Wo rk shop on Rough Set s and Sof t Compu t ing, RSSC'97)
5. 3 国际上一些有关粗糙集的软件
目前, 国际上研究粗糙集的机构和个人开发了一些应用粗糙集的实用化软件, 也出现了商
业化的软件. 加拿大Reduct System Inc. 公司开发的用于数据库知识发现的软件DataLogic
R [ 14 ]是用C 语言开发的, 可安装在个人计算机上, 为科研领域和工业界服务.
美国肯萨斯大学开发了一套基于粗糙集的经验学习系统[ 15 ] , 名为L ERS (L earn ing f rom
Examp les based on Rough Set s) , 它能从大量经验数据中抽取出规则. L ERS 已被美国国家航
空航天管理局(NA SA ) 的约翰逊(John son) 空间中心采用, 作为专家系统开发工具, 为"自由
号"(F reedom ) 空间站上的医疗决策服务. 美国环境保护署(U S Environm en tal P ro tect ion A 2
gency) 资助的一个项目中也采用了L ERS.
波兰波兹南工业大学(Poznan U n iversity of Techno logy) 开发的软件RoughDA S 和
1 期韩祯祥等: 粗糙集理论及其应用43
1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
RoughClass, 也在不少实际领域中得到应用[ 5 ].
加拿大Regina 大学开发的KDD- R 是用C 编写的, 在UN IX 环境下运行, KDD2R 基于
变精度粗糙集模型[ 16 ] (V ariab le P recision Rough Set, V PRS) , 通过改变粗糙程度而使数据中
隐含的模式更清楚的显示出来.
6 结束语
粗糙集是一种较有前途的处理不确定性的方法, 相信今后将会在更多的领域中得到应用.
但是, 粗糙集理论还处在继续发展之中, 正如粗糙集理论的创立人Z. Paw lak 所指出的那
样[ 8 ] , 尚有一些理论上的问题需要解决, 诸如用于不精确推理的粗糙逻辑(Rough logic) 方法,
粗糙集理论与非标准分析(Non standard analysis) 和非参数化统计(Nonparam et ric stat ist ics)
等之间的关系等等.
将粗糙集与其它软计算方法(如模糊集,人工神经网络,遗传算法等) 相综合, 发挥出各自
的优点, 可望设计出具有较高的机器智商(M IQ ) 的混合智能系统(Hyb rid In telligen t
System ) , 这是一个值得努力的方向.