中文网页自动分类新算法

转载 2012年03月22日 18:45:18
http://blog.csdn.net/smildlzj/article/details/1320690
 

中文网页自动分类新算法

分类: JAVA搜索引擎资料 1807人阅读 评论(2) 收藏 举报
张俐 李星 陆大
  
  摘 要: 为了有效地组织因特网上极其丰富的信息资源,通过分析中文和中文网页的特点,提出了一种新的中文网页的自动分类算法。这种算法主要利用字间的相关信息、词频以及页面的标记信息等,提取网页特征,并计算可调的词频加权参数,然后通过本类和非本类训练,建立专家数据库。实验表明,该算法可以获得80%以上的网页分类准确率。
  关键词: 文本分类; 搜索引擎; 超文本描述语言 (HTML)
  分类号:TP 391; O 235 文献标识码: A
  文章编号: 1000-0054(2000)01-0039-04
  
  New automatic categorization algorithm for Chinese homepages
  
  ZHANG Li LI Xing LU Dajin
  (Department of Electronic Engineering,Tsinghua University, Beijing 100084, China)
  
  Abstract:Current abundant resources can be accessed on the Internet, but there is no effective method to organize the information. Through analysising of the characteristics of Chinese text and Chinese homepages, a new automatic categorization method for Chinese homepages was presented. This method correlates the Chinese characters, the term frequency, and the hypertext markup language (HTML) tag information in the homepage to calculate an adjustable term frequency weighting parameter. An expert database is built using both in-set and out-set sample training. Experiments show that the method's recognition rate is about 80%.
  Key words:text categorization; search engine; hypertext markup languagel (HTML)▲
  
    随着因特网在全世界的普及和发展,WWW网页已经成为因特网上最重要的信息资源。WWW网页采用超文本描述语言(HTML)格式,每一个网页可以被引用为链接,也可以指向任何其它网页。为了网页信息的有效组织和检索,人们开发了网络信息搜索器。网络信息搜索器以给定的超链接(URL)为入口,按照HTTP协议,依次与WWW服务器建立连接,获取网页(如图1所示)。
  
  
  
  图1 搜索器
  
    为了帮助因特网用户查询感兴趣的信息,国内外研究开发了一些网络搜索引擎,如国外的Alta Vista, Infoseek, Lycos等,国内的网络指南针[1]、网易、天网等。但是,目前中文搜索引擎存在以下问题: 1) 中文检索采用基于字或词的方法,由于中文切词有时存在不确定因素,导致中文的查全率和查准率不高; 2) 搜索引擎的分类信息资源主要依靠人工维护,不便信息更新。因此,研究中文网页的自动分类,一方面,可以将网页按类分别建立相应的数据库,对分类数据库进行查询,提高中文查全率和查准率; 另一方面,可以建立自动的分类信息资源,为用户提供分类信息目录。
    在英文文本自动分类算法[2~5]的基础上,结合中文网页的特点,采用非参数在线训练方法,提出了一种新的中文网页分类算法。实验证明,这种算法对中文网页的自动分类具有较好的效果。
  
  1 英文的文本自动分类算法
  
    文本自动分类就是用大量的带有类标识的文本,对分类准则或模型参数进行训练; 然后,用训练得到的结果对未知类别的文本进行识别。
    目前,英文的文本自动分类方法有两大类[6]: 一类是参数方法[7],另一类是非参数方法[2~5,8,9]。参数方法是假定文本的概率分布模型,通过训练,得到具体参数的估计值。非参数方法是不假定任何概率分布形式,通过准则函数直接训练,得到各类的权重向量,然后对待识别样本进行判别。由于分类文本的概率分布模型很难准确地定义,非参数的分类方法应用较广。
  
  2 中文网页自动分类算法
  
    中文分类与英文不同。英文分类算法大多以单词为关键词,利用空格等作为分隔符,提取文章特征; 但中文一般是一串无分隔符的字串,词之间没有明显的分隔标志,而且切词比较难,不能直接采用英文分类方法。
    另外,与一般的纯文本文件不同,WWW网页是HTML格式的超文本,页面中有〈title〉、 〈meta〉等标记,以及描述此页面的标题(title)、页面描述(description)、关键词(keywords)、超链接(URL)等。这些包含重要的分类信息。
    提出的中文网页分类算法是一种非参数在线训练算法。其基本思想是根据中文字间的相关性等信息提取中文网页的关键词,每个关键词对文章分类的作用包括正权重和负权重。通过训练,计算每个关键词的正、负权重,形成本类的专家库。识别时,首先提取文章中的关键词,然后从专家库读取相应的正、负权重,利用判别准则,进行判别。
  
  2.1 训练算法
    对于中文而言,中文字间的相关性包含重要的分类信息。如果以单字作为关键词,不考虑字间的相关性,就会丢失文章的某些有用信息,影响分类结果。但是,如果考虑所有的前后字间的相关性,简单将前后相连的字定义为关键词,训练量非常大。因此,训练时采用中文词典,对文章进行切词,将词典中出现的词作为关键词。这样,既保留了必要的字间相关信息,同时也减少了训练量。
    设带有类标识的训练样本库T, T={tl,l=1,2,… L}。训练样本库T共有N类样本。设训练样本tl的类标识为cl, cl ∈{0,1},其中, cl=1,表示该样本属于第n类, cl=0,表示该样本不属于第n类。
    下面对第n类进行训练。设第n类的专家库为Pooln,训练初始时, Pooln=φ。对每个训练样本tl∈T, l=1,2,… L做以下处理: 
    设词典为Dict,对训练样本tl进行切词,提取词典Dict中出现的中文词,构成关键词集合
  
    (1)
  
  关键词对判断tl是否属于第n类有两种贡献: 属于第n类和不属于第n类,定义前者为1,后者为0。因此,构成关键词训练集合
  
    (2)
  
  设1的权重为正权重的权重为负权重,对关键词训练集合中的关键词权重进行初始化
  
    (3)
  
    归一化关键词的权重,设为的归一化值,则
  
    (4)
  
    当不考虑词频信息时,判别准则为
  
    (5)
  
    选取参数θc∈(0,1),计算式(5): 如果yl>θc,判为n类,否则,判为非n类。
    由于文章中关键词出现的频率也在一定程度上反映了文章的主题,在对中文切词过程中,可以统计每个关键词出现的次数。设训练样本tl的关键词w的词频为。这里为中文网页的文本部分的词频。
    考虑网页的特点,它与普通的中文文本不同之处在于WWW网页除纯文本信息以外,还有其他描述信息,如标题、页面描述、关键词和超链接等。这些描述信息中出现的关键词包含网页的重要信息,对分类有较大的作用。因此,从网页中提取这些信息,引入加权的词频参数,对自动分类比较重要。
    设训练样本tl的关键词在标题、页面描述、关键词、超链接中的词频分别为和。总词频为
  
    (6)
  
  其中: a, b, c, d是大于零的可调参数。
    考虑关键词词频和网页的页面标记,见式(6),准则式(5)可写为
  
    (7)
  
  当时,式(7)与式(5)相同;当a=b=c=d=0时,,此时,忽略网页的标记信息,只考虑网页的文本部分的词频。
    根据式(7),更新关键词权重。设参数β∈(0,1)为衰减系数,进行本类样本训练(cl=1)时,
  
    (8)
  
    设为关键词的整体权重,令,如果只用本类样本进行训练,某些对分类无意义的关键词,如“他们”,“没有”等的正权重很高,即,使得很大。因此,在训练时,加入非本类样本训练,以降低对各类贡献比较平均的关键词的整体权重。
    非本类样本训练(cl=0)时,
  
    (9)
  
    归一化关键词权重,使得更新前后权重之和不变。设S0, S1分别为更新权重前、后的关键词正、负权重之和,即
  
    (10)
    (11)
  
  则,归一化的权重为
  
    (12)
  
    用本次训练的结果更新专家库,即
  
    (13)
  
  2.2 识别算法
    设有N类专家库P={Pooln,n=1,…,N},其中, Pooln是按上述的训练算法得到的第n类的专家库,待识别样本集R={rm,m=1,…,M}。
    识别步骤与训练基本相同,只是不做(8)式以后的各步。对每个待识别样本rm,根据(7)式,计算rm对第n类的值ymn,得到集合Ym={ymn,n=1,…,N}。如果ymj=maxYm则将rm判为第j类。
  
  3 实验结果与分析
  
    定义分类识别率: 有N类待识别样本,根据2.2的算法进行分类。对某一类的样本,识别率为
  
    (14)
  
    从网络搜索器收集的大量中文网页中,选用了包括足球类、计算机类、医学类、杂志类的样本共16 200篇。实验过程中,可调参数: β=0.5, θc=0.5, a=1, b=1, c=1, d=1。词典: 二字词32 826个, 三字词7 195个, 四字词16 699个, 五字词以上2 469个。
  
  3.1 字间相关性对识别性能的影响
    采用无词频参数(即式(6)中, ),并且只用足球类样本对足球类进行训练,即训练时省略式(9)。识别结果如表1所示。
    从表1可以看出,对中文网页,忽略字间的相关信息,用单字作关键词,识别率较低。考虑两个字的相关性,识别率比单字有较大提高。如果保留二字词和三字词或用词典中所有的词作关键词,识别率更高。因此,在训练时,保留必要的字间相关信息对网页的分类非常重要。
  
  表1 足球类识别结果
  
  
  方法 p×100 
  单字 62.2 
  二字词 88.8 
  二至三字词 89.8 
  二至四字词 90.8 
  二至五字词 90.8 
  整个词典 91.4 
  
   
  3.2 本类和非本类样本训练对自动分类的影响
    用足球类和医学类样本分别对各自的本类进行训练; 然后,用其他类样本分别对足球和医学类进行非本类训练。忽略关键词的词频参数(即式(6)中,)。识别结果如表2所示。
  
  表2 足球类和医学类识别正确率p
  
  
  方 法 p×100 
  足球类 医学类 
  只用本类训练  79.0 51.6 
  加入非本类训练 85.9 70.0 
  
  
    由表2可以看出,通过加入非本类样本训练,可以较大程度地提高识别正确率。
  3.3 词频对算法的影响
    采用词典提取关键词,用医学类样本对医学类进行训练,并且不采用非本类训练,即省略式(9)。比较加入词频参数,以及网页的标题等信息的识别结果,如表3所示。
  
  表3 医学类识别结果
  
  
  方 法 p×100 
  不考虑词频参数 50.6 
  文本词频 51.6 
  词频+标题 52.6 
  词频+描述 52.6 
  词频+关键词 51.8 
  词频+超链接 52.2 
  词频+所有描述信息 53.6 
  
  
    由表3可以看出,通过词频和页面描述信息进行加权调整,在训练和识别时,加大那些在网页文本部分出现频率高的词以及标题、描述、关键词、超链接中的词的权重,可以提高识别率。
  4 结 论
  
    针对互联网的搜索引擎在信息资源组织方面的不足,提出了中文网页自动分类的训练与识别算法。该算法利用词典提取关键词,以保留必要的字间相关信息,并对词频和网页描述信息进行加权。在训练过程中,采用本类和非本类样本训练。实验表明,这种算法可达到80%以上的识别率。■
  
  基金项目:国家自然科学基金项目(69625103)
  作者简介:张俐 (1972-), 女(汉), 河北, 博士研究生 

相关文章推荐

文本数据的机器学习自动分类方法(下)

【编者按】:随着互联网技术的迅速发展与普及,如何对浩如烟海的数据进行分类、组织和管理,已经成为一个具有重要用途的研究课题。而在这些数据中,文本数据又是数量最大的一类。以统计理论为基础,利用机器学习算法...
  • jdbc
  • jdbc
  • 2016-01-26 11:11
  • 3069

中文网页自动分类综述

1.中文网页自动分类是从文本自动分类的基础上发展起来的,由于文本自动分类拥有比较成熟的技术,不少研究工作试图使用纯文本分类技术实现网页分类。孙建涛指出:用纯文本方式表示网页是困难的,也是不合理的,因为...

中文网页自动分类新算法

张俐 李星 陆大    摘 要: 为了有效地组织因特网上极其丰富的信息资源,通过分析中文和中文网页的特点,提出了一种新的中文网页的自动分类算法。这种算法主要利用字间的相关信息、词频以及页面的标记信息等...

网页分类技术介绍

文/soso  张立明1.    技术背景  分类问题是人类所面临的一个非常重要且具有普遍意义的问题。将事物正确的分类,有助于人们认识世界,使杂乱无章的现实世界变得有条理。自动文本分类就是对大量...

中文网页自动分类技术

  • 2014-05-26 10:33
  • 706KB
  • 下载

用朴素贝叶斯分类算法做中文文本分类

一. 朴素贝叶斯分类算法的原理朴素贝叶斯分类器基于属性条件独立假设:对于已知类别,假设所有属性相互独立,也就是说,假设每个属性独立地对分类结果产生影响。 设待分类的样本属性集为TT,其中包含nn个属...

中文文本分类(机器学习算法原理与编程实践笔记)

以文本分类算法为中心,详细介绍一个中文文本分类项目的流程及相关知识,知识点涉及中文分词、向量空间模型、TF-IDF方法、几个典型的文本分类算法;主要有朴素贝叶斯算法,kNN最近邻算法。 所用到的外部...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)