NLTK学习笔记——Classify模块(2)

本文详细介绍了使用NLTK库构建文本分类器的过程,包括准备训练集,提取特征,训练机器学习算法生成分类器模型,以及如何对测试集进行预测。主要步骤涉及将句子拆分成单词,大小写转换,过滤掉高频干扰词,以及利用apply_features方法处理数据。
摘要由CSDN通过智能技术生成
注:本文为实战过程作铺垫,因为参考原文是英文的,每看一遍都要琢磨一遍单词和语法,因此总结一下原文的过程,以备忘之用。本文主要介绍原文中利用NLTK进行twitter语句分类的过程,在下一节就记录本人的实战过程。
首先与NLTK的例子(即通过name判断gender)相同,都是进行的“有监督分类”。先回顾一下“有监督分类”的过程:
  • 输入training set(带label)
  • 将输入值转化成feature sets,并创建feature extractor
  • feature sets和label配对送入machine learning Algorithm,生成classifiermodel
  • 输入testing set(无label)
  • 用相同的feature extractor,将输入值转化成feature sets
  • 将feature sets送入上面生成的classifier model,生成label
(1)training set
5个肯定句和5个否定句:

代码形式:

由于英文句中的高频词I、am、he等容易给特征提取带来干扰,因此需要对trainingset进行处理,处理内容:
  • 将句子切割成单词,按照空格分割words.split()
  • 单词大小写转换e.lower()
  • 过滤高频干扰词,判断依据是单词长度len(e)>3
代码与结果:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值