sklean实现文本分类

博客介绍了如何利用sklearn库进行文本分类,主要步骤包括使用CountVectorizer进行特征提取,通过TF-IDF转换文本为向量,再运用朴素贝叶斯模型进行训练。提供了相关代码和数据集链接。
摘要由CSDN通过智能技术生成

(这里是恶意代码的分类)

1.特征提取与向量转换

文本形式,对所有文档构建词典,然后为每一篇文档建立一个TF-IDF方法构建的向量。

首先把文本转换为向量的形式,采用TF-IDF特征提取法,把文本转换为向量形式。

核心代码如下:

对下述代码的解释:

(1)CountVectorizer类会将文本中的词语转换为词频矩阵;其是一个支持文本中词语计数的函数库,我们可以使用其中的函数来分析文本数据来得到特征向量字典,字典中每一个项目的值代表该词语在全部数据中出现的次数。

(2)fit(..)方法来处理原始文本数据,然后使用transform(..)方法来将词汇统计数据转换为tf-idf模型。

(3)toarray()函数得到一个ndarray类型的完整矩阵,其中的每个值代表每个词的TF-IDF值。

(4)weight即是为每一个文本文档构建的向量,其维度为文档的总个数*向量个数

下面即是训练部分,采用的朴素贝叶斯方法,需要导入的库如下:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值