sklearn调用朴素贝叶斯.predict()报错dimension mismatch

1、报错

运行sklearn包中自带的朴素贝叶斯进行预测的时候提示了ValueError: dimension mismatch

def NaiveBayes():
    """
    朴素贝叶斯进行文本分类
    :return: None
    """
    news = fetch_20newsgroups(subset='all')
    print(news.data)
    print(news.target)

    # 进行数据分割
    x_train, x_test, y_train, y_test = train_test_split(news.data, news.target, test_size=0.25)

    # 对数据集进行特征抽取
    tf = TfidfVectorizer()

    # 以训练集当中的词的列表进行每篇文章重要性统计
    x_train = tf.fit_transform(x_train)

    print(tf.get_feature_names())

    x_test = tf.fit_transform(x_test)

    # 进行朴素贝叶斯算法的预测
    mlt = MultinomialNB(alpha=1.0)

    print(x_train.toarray())

    mlt.fit(x_train, y_train)

    y_predict = mlt.predict(x_test)

    print("预测的文章类别为:", y_predict)

    # 得出准确率
    print("准确率为:", mlt.score(x_test, y_test))

    return None

2、问题所在

问题出在:predict的时候,测试集和训练集特征维度不同。

    tf = TfidfVectorizer()

    x_train = tf.fit_transform(x_train)

    x_test = tf.fit_transform(x_test)

3、解决方案

    tf = TfidfVectorizer()

    x_train = tf.fit_transform(x_train)

    x_test = tf.transform(x_test)

4、fit、transform、fit_transform区别

  • fit():就是求得训练集的均值,方差,最大值,最小值,这些训练集的固有属性。
  • transform():在fit的基础上,进行标准化,降维,归一化等操作。
  • fit_transform():fit_transform是fit和transform的组合,既包括了训练又包含了转换。transform()和fit_transform()二者的功能都是对数据进行某种统一处理(比如标准化~N(0,1),将数据缩放(映射)到某个固定区间,归一化,正则化等)

5、用法

tf = TfidfVectorizer()

tf.fit_tranform(X_train)

tf.tranform(X_test)

 

 

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值