1、报错
运行sklearn包中自带的朴素贝叶斯进行预测的时候提示了ValueError: dimension mismatch
def NaiveBayes():
"""
朴素贝叶斯进行文本分类
:return: None
"""
news = fetch_20newsgroups(subset='all')
print(news.data)
print(news.target)
# 进行数据分割
x_train, x_test, y_train, y_test = train_test_split(news.data, news.target, test_size=0.25)
# 对数据集进行特征抽取
tf = TfidfVectorizer()
# 以训练集当中的词的列表进行每篇文章重要性统计
x_train = tf.fit_transform(x_train)
print(tf.get_feature_names())
x_test = tf.fit_transform(x_test)
# 进行朴素贝叶斯算法的预测
mlt = MultinomialNB(alpha=1.0)
print(x_train.toarray())
mlt.fit(x_train, y_train)
y_predict = mlt.predict(x_test)
print("预测的文章类别为:", y_predict)
# 得出准确率
print("准确率为:", mlt.score(x_test, y_test))
return None
2、问题所在
问题出在:predict的时候,测试集和训练集特征维度不同。
tf = TfidfVectorizer()
x_train = tf.fit_transform(x_train)
x_test = tf.fit_transform(x_test)
3、解决方案
tf = TfidfVectorizer()
x_train = tf.fit_transform(x_train)
x_test = tf.transform(x_test)
4、fit、transform、fit_transform区别
- fit():就是求得训练集的均值,方差,最大值,最小值,这些训练集的固有属性。
- transform():在fit的基础上,进行标准化,降维,归一化等操作。
- fit_transform():fit_transform是fit和transform的组合,既包括了训练又包含了转换。transform()和fit_transform()二者的功能都是对数据进行某种统一处理(比如标准化~N(0,1),将数据缩放(映射)到某个固定区间,归一化,正则化等)
5、用法
tf = TfidfVectorizer()
tf.fit_tranform(X_train)
tf.tranform(X_test)