Rocchio算法测试测试集时出错:Incompatible dimension for X and Y matrices: X.shape[1]

在白话大数据与机器学习一书,对照p222打例子:

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.feature_extraction.text import TfidfTransformer
from sklearn.datasets import fetch_20newsgroups
from sklearn.neighbors.nearest_centroid import NearestCentroid
from pprint import pprint
import sys

#读取数据
newsgroups_train = fetch_20newsgroups(subset='train')
pprint(list(newsgroups_train.target_names))
#随机选4个主题
categories = ['alt.atheism','comp.graphics','soc.religion.christian','sci.med']
#下载4个主题里的文件
train_data = fetch_20newsgroups(subset = "train", categories = categories)
#文件内容在train_data.data这个变量里。现在对内容进行分词和向量化操作
count_vect = CountVectorizer()
train_counts = count_vect.fit_transform(train_data.data)
#接着对向量化之后的结果做TF-IDF转换
tfidf_transformer = TfidfTransformer()
train_tfidf = tfidf_transformer.fit_transform(train_counts)

#现在把TF-IDF转换后的结果和每条结果对应的主题编号train_data.target放入分类器中进行训练
clf = NearestCentroid().fit(train_tfidf, train_data.target)
#创建测试集合,这里有两条数据,每条数据一行内容,进行向量化和TF-IDF转换
docs_new = {'OpenGL onthe GPU is fast','God is love'}
docs_new_counts = count_vect.fit_transform(docs_new)
docs_new_tfidf = tfidf_transformer.fit_transform(docs_new_counts)
print(sys.modules[
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我来为您介绍一下Rocchio算法的实现过程。 Rocchio算法是一种基于质心的文本分类算法,其步骤如下: 1. 计算每个文档的tf-idf权重。 2. 将每个文档的tf-idf权重存储为向量形式。 3. 对于每个类别,计算其所有训练文档的tf-idf向量的平均值,得到该类别的质心向量。 4. 对于待分类的测试文档,计算其tf-idf向量。 5. 将测试文档的tf-idf向量与每个类别的质心向量进行比较,选择与之最相似的类别作为测试文档所属的类别。 下面我们逐步实现这些步骤。 1. 计算每个文档的tf-idf权重 我们可以利用sklearn库中的TfidfVectorizer函数来计算每个文档的tf-idf权重,代码如下: ```python from sklearn.feature_extraction.text import TfidfVectorizer # 训练集和测试集的文档列表 train_documents = ['This is the first document', 'This is the second second document', 'And the third one', 'Is this the first document'] test_document = 'This is the first test document' # 计算tf-idf权重 vectorizer = TfidfVectorizer() train_tfidf = vectorizer.fit_transform(train_documents) test_tfidf = vectorizer.transform([test_document]) ``` 2. 将每个文档的tf-idf权重存储为向量形式 我们可以将每个文档的tf-idf权重存储为一个稀疏向量,其中每个维度对应于一个词项,该维度的值表示该词项在该文档中的tf-idf权重。代码如下: ```python # 将tf-idf权重存储为向量形式 train_vectors = train_tfidf.toarray() test_vector = test_tfidf.toarray()[0] ``` 3. 对于每个类别,计算其所有训练文档的tf-idf向量的平均值,得到该类别的质心向量 我们可以先将训练集文档按类别分组,然后对于每个类别,计算其所有训练文档的tf-idf向量的平均值,得到该类别的质心向量。代码如下: ```python import numpy as np # 训练集和测试集的标签列表 train_labels = ['class1', 'class1', 'class2', 'class2'] test_label = None # 按类别分组 class_indices = {} for i, label in enumerate(train_labels): if label not in class_indices: class_indices[label] = [] class_indices[label].append(i) # 计算每个类别的质心向量 class_centroids = {} for label, indices in class_indices.items(): vectors = [train_vectors[i] for i in indices] centroid = np.mean(vectors, axis=0) class_centroids[label] = centroid ``` 4. 对于待分类的测试文档,计算其tf-idf向量 我们可以利用TfidfVectorizer函数计算测试文档的tf-idf向量,代码如下: ```python # 计算测试文档的tf-idf向量 test_tfidf = vectorizer.transform([test_document]) test_vector = test_tfidf.toarray()[0] ``` 5. 将测试文档的tf-idf向量与每个类别的质心向量进行比较,选择与之最相似的类别作为测试文档所属的类别 我们可以计算测试文档的tf-idf向量与每个类别的质心向量的余弦相似度,选择余弦相似度最大的类别作为测试文档所属的类别,代码如下: ```python # 计算测试文档与每个类别的质心向量的余弦相似度 cosine_similarities = {} for label, centroid in class_centroids.items(): cosine_similarities[label] = np.dot(test_vector, centroid) / (np.linalg.norm(test_vector) * np.linalg.norm(centroid)) # 选择余弦相似度最大的类别作为测试文档所属的类别 test_label = max(cosine_similarities, key=cosine_similarities.get) ``` 这样,我们就完成了Rocchio算法的实现。完整代码如下: ```python from sklearn.feature_extraction.text import TfidfVectorizer import numpy as np # 训练集和测试集的文档列表 train_documents = ['This is the first document', 'This is the second second document', 'And the third one', 'Is this the first document'] test_document = 'This is the first test document' # 训练集和测试集的标签列表 train_labels = ['class1', 'class1', 'class2', 'class2'] test_label = None # 计算tf-idf权重 vectorizer = TfidfVectorizer() train_tfidf = vectorizer.fit_transform(train_documents) test_tfidf = vectorizer.transform([test_document]) # 将tf-idf权重存储为向量形式 train_vectors = train_tfidf.toarray() test_vector = test_tfidf.toarray()[0] # 按类别分组 class_indices = {} for i, label in enumerate(train_labels): if label not in class_indices: class_indices[label] = [] class_indices[label].append(i) # 计算每个类别的质心向量 class_centroids = {} for label, indices in class_indices.items(): vectors = [train_vectors[i] for i in indices] centroid = np.mean(vectors, axis=0) class_centroids[label] = centroid # 计算测试文档的tf-idf向量 test_tfidf = vectorizer.transform([test_document]) test_vector = test_tfidf.toarray()[0] # 计算测试文档与每个类别的质心向量的余弦相似度 cosine_similarities = {} for label, centroid in class_centroids.items(): cosine_similarities[label] = np.dot(test_vector, centroid) / (np.linalg.norm(test_vector) * np.linalg.norm(centroid)) # 选择余弦相似度最大的类别作为测试文档所属的类别 test_label = max(cosine_similarities, key=cosine_similarities.get) print('Test document belongs to class:', test_label) ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值