停用词过滤,是文本分析中一个预处理方法。它的功能是过滤分词结果中的噪声(例如:的、是、啊等)
停用词是指在信息检索中,为节省存储空间和提高搜索效率,在处理自然语言数据(或文本)之前或之后会自动过滤掉某些字或词,这些字或词即被称为Stop Words(停用词)。这些停用词都是人工输入、非自动化生成的,生成后的停用词会形成一个停用词表。但是,并没有一个明确的停用词表能够适用于所有的工具。甚至有一些工具是明确地避免使用停用词来支持短语搜索的。
类别
对于一个给定的目的,任何一类的词语都可以被选作停用词。通常意义上,停用词大致分为两类。一类是人类语言中包含的功能词,这些功能词极其普遍,与其他词相比,功能词没有什么实际含义,比如'the'、'is'、'at'、'which'、'on'等。但是对于搜索引擎来说,当所要搜索的短语包含功能词,特别是像'The Who'、'The The'或'Take The'等复合名词时,停用词的使用就会导致问题。另一类词包括词汇词,比如'want'等,这些词应用十分广泛,但是对这样的词搜索引擎无法保证能够给出真正相关的搜索结果,难以帮助缩小搜索范围,同时还会降低搜索的效率,所以通常会把这些词从问题中移去,从而提高搜索性能。
介绍
人类语言包含很多功能词。与其他词相比,功能词没有什么实际含义。最普遍的功能词是限定词(“the”、“a”、“an”、“that”、和“those”),这些词帮助在文本中描述名词和表达概念,如地点或数量。介词如:“over”,“under”,“above” 等表示两个词的相对位置。
这些功能词的两个特征促使在搜索引擎的文本处理过程中对其特殊对待。第一,这些功能词极其普遍。记录这些词在每一个文档中的数量需要很大的磁盘空间。第二,由于它们的普遍性和功能,这些词很少单独表达文档相关程度的信息。如果在检索过程中考虑每一个词而不是短语,这些功能词基本没有什么帮助。
在信息检索中,这些功能词的另一个名称是:停用词(stopword)。称它们为停用词是因为在文本处理过程中如果遇到它们,则立即停止处理,将其扔掉。将这些词扔掉减少了索引量,增加了检索效率,并且通常都会提高检索的效果。停用词主要包括英文字符、数字、数学字符、标点符号及使用频率特高的单汉字等。
功能
为节省存储空间和提高搜索效率,搜索引擎在索引页面或处理搜索请求时会自动忽略某些字或词,这些字或词即被称为Stop Words(停用词)。通常意义上,Stop Words大致为如下两类:
1、这些词应用十分广泛,在Internet上随处可见,比如“Web”一词几乎在每个网站上均会出现,对这样的词搜索引擎无 法保证能够给出真正相关的搜索结果,难以帮助缩小搜索范围,同时还会降低搜索的效率;
2、这类就更多了,包括了语气助词、副词、介词、连接词等,通常自身 并无明确的意义,只有将其放入一个完整的句子中才有一定作用,如常见的“的”、“在”之类。
举个例子来说,像“IT技术点评”,虽然其中的“IT”从我们的本意上是指“Information Technology”,事实上这种缩写也能够为大多数人接受,但对搜索引擎来说,此“IT”不过是“it”,即“它”的意思,这在英文中是一个极其常见 同时意思又相当含混的词,在大多数情况下将被忽略。我们在IT技术点评中保留“IT”更多地面向“人”而非搜索引擎,以求用户能明了IT技术点评网站涉及的内容限于信息技术,虽然从SEO的角度这未必是最佳的处理方式。
了解Stop Words,在网页内容中适当地减少Stop Words出现的频率,可以有效地帮助我们提高关键词密度,而在网页Title中避免出现Stop Words往往能够让我们优化的关键词更突出。
-
!
-
"
-
#
-
$
-
%
-
&
-
'
-
(
-
)
-
*
-
+
-
,
-
-
-
--
-
.
-
..
-
...
-
......
-
...................
-
./
-
.一
-
.数
-
.日
-
/
-
//
-
0
-
1
-
2
-
3
-
4
-
5
-
6
-
7
-
8
-
9
-
:
-
://
-
::
-
;
-
<
-
=
-
>
-
>>
-
?
-
@
-
A
-
Lex
-
[
-
\
-
]
-
^
-
_
-
`
-
exp
-
sub
-
sup
-
|
-
}
-
~
-
~~~~
-
·
-
×
-
×××
-
Δ
-
Ψ
-
γ
-
μ
-
φ
-
φ.
-
В
-
—
-
——
-
———
-
‘
-
’
-
’‘
-
“
-
”
-
”,
-
…
-
……
-
…………………………………………………③
-
′∈
-
′|
-
℃
-
Ⅲ
-
↑
-
→
-
∈[
-
∪φ∈
-
≈
-
①
-
②
-
②c
-
③
-
③]
-
④
-
⑤
-
⑥
-
⑦
-
⑧
-
⑨
-
⑩
-
──
-
■
-
▲
-
-
、
-
。
-
〈
-
〉
-
《
-
》
-
》),
-
」
-
『
-
』
-
【
-
】
-
〔
-
〕
-
〕〔
-
㈧
-
一
-
一.
-
一一
-
一下
-
一个
-
一些
-
一何
-
一切
-
一则
-
一则通过
-
一天
-
一定
-
一方面
-
一旦
-
一时
-
一来
-
一样
-
一次
-
一片
-
一番
-
一直
-
一致
-
一般
-
一起
-
一转眼
-
一边
-
一面
-
七
-
万一
-
三
-
三天两头
-
三番两次
-
三番五次
-
上
-
上下
-
上升
-
上去
-
上来
-
上述
-
上面
-
下
-
下列
-
下去
-
下来
-
下面
-
不
-
不一
-
不下
-
不久
-
不了
-
不亦乐乎
-
不仅
-
不仅...而且
-
不仅仅
-
不仅仅是
-
不会
-
不但
-
不但...而且
-
不光
-
不免
-
不再
-
不力
-
不单
-
不变
-
不只
-
不可
-
不可开交
-
不可抗拒
-
不同
-
不外
-
不外乎
-
不够
-
不大
-
不如
-
不妨
-
不定
-
不对
-
不少
-
不尽
-
不尽然
-
不巧
-
不已
-
不常
-
不得
-
不得不
-
不得了
-
不得已
-
不必
-
不怎么
-
不怕
-
不惟
-
不成
-
不拘
-
不择手段
-
不敢
-
不料
-
不断
-
不日
-
不时
-
不是
-
不曾
-
不止
-
不止一次
-
不比
-
不消
-
不满
-
不然
-
不然的话
-
不特
-
不独
-
不由得
-
不知不觉
-
不管
-
不管怎样
-
不经意
-
不胜
-
不能
-
不能不
-
不至于
-
不若
-
不要
-
不论
-
不起
-
不足
-
不过
-
不迭
-
不问
-
不限
-
与
-
与其
-
与其说
-
与否
-
与此同时
-
专门
-
且
-
且不说
-
且说
-
两者
-
严格
-
严重
-
个
-
个人
-
个别
-
中小
-
中间
-
丰富
-
串行
-
临
-
临到
-
为
-
为主
-
为了
-
为什么
-
为什麽
-
为何
-
为止
-
为此
-
为着
-
主张
-
主要
-
举凡
-
举行
-
乃
-
乃至
-
乃至于
-
么
-
之
-
之一
-
之前
-
之后
-
之後
-
之所以
-
之类
-
乌乎
-
乎
-
乒
-
乘
-
乘势
-
乘机
-
乘胜
-
乘虚
-
乘隙
-
九
-
也
-
也好
-
也就是说
-
也是
-
也罢
-
了