python将bin文件转为txt文件编码问题的解决

刚开始使用以下代码,发现报错:UnicodeDecodeError: 'utf-8' codec can't decode byte 0xa6 in position 0: invalid start byte

import gensim
import codecs


def main():
    path_to_model = 'file.bin'
    output_file = 'file.txt'
    bin2txt(path_to_model, output_file)


def bin2txt(path_to_model, output_file):
    output = codecs.open(output_file, 'w', 'utf-8')
    model = gensim.models.KeyedVectors.load_word2vec_format(path_to_model, binary=True)
    print('Done loading Word2Vec!')
    vocab = model.vocab
    for item in vocab:
        vector = list()
        for dimension in model[item]:
            vector.append(str(dimension))
        vector_str = ",".join(vector)
        line = item + "\t" + vector_str
        output.writelines(line + "\n") 
    output.close()


if __name__ == "__main__":
    main()

后来调试发现是这一句报错了:

model = gensim.models.KeyedVectors.load_word2vec_format(path_to_model, binary=True)

将这一句改为如下,成功运行:

model = gensim.models.KeyedVectors.load_word2vec_format(path_to_model, binary=False)

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值