Bert入门：使用Bert运行MRPC的demo成功案例

最新推荐文章于 2024-05-31 20:04:46 发布
最新推荐文章于 2024-05-31 20:04:46 发布
阅读量7.4k 收藏 52
点赞数 24
分类专栏： python tensorflow Bert 文章标签： python tensorflow 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/L141210113/article/details/106497194
版权
python 同时被 3 个专栏收录
155 篇文章 0 订阅
订阅专栏
tensorflow
4 篇文章 0 订阅
订阅专栏
Bert
1 篇文章 0 订阅
订阅专栏

一、tensorflow版本必须是2.0以下

我的版本

import sys
import numpy as np
import tensorflow as tf
print('python版本是：', sys.version)
print('python路径是：', sys.executable)
print('numpy版本是：', np.__version__)
print('tensorflow路径是：', tf.__version__)

输出如下

python版本是： 3.6.10 |Anaconda, Inc.| (default, May  7 2020, 19:46:08) [MSC v.1916 64 bit (AMD64)]
python路径是： D:\Soft\Anaconda3\envs\tensorflow_gpu_1.9\python.exe
numpy版本是： 1.16.6
tensorflow路径是： 1.9.0

二、去github上下载bert源码

BERT源码链接：https://github.com/google-research/bert
在这里插入图片描述

三、网页往下滑，下载bert预训练模型

下载我标记的即可，这个demo就需要这个模型，不同的案例需要不同的模型
在这里插入图片描述

四、网页往下滑，通过脚本下载GLUE数据（有坑，下不了看最后的注）

在这里插入图片描述

0、官网上指定的方式是通过跑脚本download_glue_data.py来下载 GLUE data 。指定数据存放地址为：glue_data， 下载任务为：MRPC，命令行执行如下：

python download_glue_data.py --data_dir glue_data --tasks MRPC

另外贴出官方下载脚本（报错正常，往下看）

''' Script for downloading all GLUE data.
Note: for legal reasons, we are unable to host MRPC.
You can either use the version hosted by the SentEval team, which is already tokenized, 
or you can download the original data from (https://download.microsoft.com/download/D/4/6/D46FF87A-F6B9-4252-AA8B-3604ED519838/MSRParaphraseCorpus.msi) and extract the data from it manually.
For Windows users, you can run the .msi file. For Mac and Linux users, consider an external library such as 'cabextract' (see below for an example).
You should then rename and place specific files in a folder (see below for an example).
mkdir MRPC
cabextract MSRParaphraseCorpus.msi -d MRPC
cat MRPC/_2DEC3DBE877E4DB192D17C0256E90F1D | tr -d $'\r' > MRPC/msr_paraphrase_train.txt
cat MRPC/_D7B391F9EAFF4B1B8BCE8F21B20B1B61 | tr -d $'\r' > MRPC/msr_paraphrase_test.txt
rm MRPC/_*
rm MSRParaphraseCorpus.msi
1/30/19: It looks like SentEval is no longer hosting their extracted and tokenized MRPC data, so you'll need to download the data from the original source for now.
2/11/19: It looks like SentEval actually *is* hosting the extracted data. Hooray!
'''

import os
import sys
import shutil
import argparse
import tempfile
import urllib.request
import zipfile

TASKS = ["CoLA", "SST", "MRPC", "QQP", "STS", "MNLI", "SNLI", "QNLI", "RTE", "WNLI", "diagnostic"]
TASK2PATH = {"CoLA":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FCoLA.zip?alt=media&token=46d5e637-3411-4188-bc44-5809b5bfb5f4',
             "SST":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FSST-2.zip?alt=media&token=aabc5f6b-e466-44a2-b9b4-cf6337f84ac8',
             "MRPC":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2Fmrpc_dev_ids.tsv?alt=media&token=ec5c0836-31d5-48f4-b431-7480817f1adc',
             "QQP":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FQQP.zip?alt=media&token=700c6acf-160d-4d89-81d1-de4191d02cb5',
             "STS":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FSTS-B.zip?alt=media&token=bddb94a7-8706-4e0d-a694-1109e12273b5',
             "MNLI":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FMNLI.zip?alt=media&token=50329ea1-e339-40e2-809c-10c40afff3ce',
             "SNLI":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FSNLI.zip?alt=media&token=4afcfbb2-ff0c-4b2d-a09a-dbf07926f4df',
             "QNLI": 'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FQNLIv2.zip?alt=media&token=6fdcf570-0fc5-4631-8456-9505272d1601',
             "RTE":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FRTE.zip?alt=media&token=5efa7e85-a0bb-4f19-8ea2-9e1840f077fb',
             "WNLI":'https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2FWNLI.zip?alt=media&token=068ad0a0-ded7-4bd7-99a5-5e00222e0faf',
             "diagnostic":'https://storage.googleapis.com/mtl-sentence-representations.appspot.com/tsvsWithoutLabels%2FAX.tsv?GoogleAccessId=firebase-adminsdk-0khhl@mtl-sentence-representations.iam.gserviceaccount.com&Expires=2498860800&Signature=DuQ2CSPt2Yfre0C%2BiISrVYrIFaZH1Lc7hBVZDD4ZyR7fZYOMNOUGpi8QxBmTNOrNPjR3z1cggo7WXFfrgECP6FBJSsURv8Ybrue8Ypt%2FTPxbuJ0Xc2FhDi%2BarnecCBFO77RSbfuz%2Bs95hRrYhTnByqu3U%2FYZPaj3tZt5QdfpH2IUROY8LiBXoXS46LE%2FgOQc%2FKN%2BA9SoscRDYsnxHfG0IjXGwHN%2Bf88q6hOmAxeNPx6moDulUF6XMUAaXCSFU%2BnRO2RDL9CapWxj%2BDl7syNyHhB7987hZ80B%2FwFkQ3MEs8auvt5XW1%2Bd4aCU7ytgM69r8JDCwibfhZxpaa4gd50QXQ%3D%3D'}

MRPC_TRAIN = 'https://dl.fbaipublicfiles.com/senteval/senteval_data/msr_paraphrase_train.txt'
MRPC_TEST = 'https://dl.fbaipublicfiles.com/senteval/senteval_data/msr_paraphrase_test.txt'

def download_and_extract(task, data_dir):
    print("Downloading and extracting %s..." % task)
    data_file = "%s.zip" % task
    urllib.request.urlretrieve(TASK2PATH[task], data_file)
    with zipfile.ZipFile(data_file) as zip_ref:
        zip_ref.extractall(data_dir)
    os.remove(data_file)
    print("\tCompleted!")

def format_mrpc(data_dir, path_to_data):
    print("Processing MRPC...")
    mrpc_dir = os.path.join(data_dir, "MRPC")
    if not os.path.isdir(mrpc_dir):
        os.mkdir(mrpc_dir)
    if path_to_data:
        mrpc_train_file = os.path.join(path_to_data, "msr_paraphrase_train.txt")
        mrpc_test_file = os.path.join(path_to_data, "msr_paraphrase_test.txt")
    else:
        print("Local MRPC data not specified, downloading data from %s" % MRPC_TRAIN)
        mrpc_train_file = os.path.join(mrpc_dir, "msr_paraphrase_train.txt")
        mrpc_test_file = os.path.join(mrpc_dir, "msr_paraphrase_test.txt")
        urllib.request.urlretrieve(MRPC_TRAIN, mrpc_train_file)
        urllib.request.urlretrieve(MRPC_TEST, mrpc_test_file)
    assert os.path.isfile(mrpc_train_file), "Train data not found at %s" % mrpc_train_file
    assert os.path.isfile(mrpc_test_file), "Test data not found at %s" % mrpc_test_file
    urllib.request.urlretrieve(TASK2PATH["MRPC"], os.path.join(mrpc_dir, "dev_ids.tsv"))

    dev_ids = []
    with open(os.path.join(mrpc_dir, "dev_ids.tsv"), encoding="utf8") as ids_fh:
        for row in ids_fh:
            dev_ids.append(row.strip().split('\t'))

    with open(mrpc_train_file, encoding="utf8") as data_fh, \
         open(os.path.join(mrpc_dir, "train.tsv"), 'w', encoding="utf8") as train_fh, \
         open(os.path.join(mrpc_dir, "dev.tsv"), 'w', encoding="utf8") as dev_fh:
        header = data_fh.readline()
        train_fh.write(header)
        dev_fh.write(header)
        for row in data_fh:
            label, id1, id2, s1, s2 = row.strip().split('\t')
            if [id1, id2] in dev_ids:
                dev_fh.write("%s\t%s\t%s\t%s\t%s\n" % (label, id1, id2, s1, s2))
            else:
                train_fh.write("%s\t%s\t%s\t%s\t%s\n" % (label, id1, id2, s1, s2))

    with open(mrpc_test_file, encoding="utf8") as data_fh, \
            open(os.path.join(mrpc_dir, "test.tsv"), 'w', encoding="utf8") as test_fh:
        header = data_fh.readline()
        test_fh.write("index\t#1 ID\t#2 ID\t#1 String\t#2 String\n")
        for idx, row in enumerate(data_fh):
            label, id1, id2, s1, s2 = row.strip().split('\t')
            test_fh.write("%d\t%s\t%s\t%s\t%s\n" % (idx, id1, id2, s1, s2))
    print("\tCompleted!")

def download_diagnostic(data_dir):
    print("Downloading and extracting diagnostic...")
    if not os.path.isdir(os.path.join(data_dir, "diagnostic")):
        os.mkdir(os.path.join(data_dir, "diagnostic"))
    data_file = os.path.join(data_dir, "diagnostic", "diagnostic.tsv")
    urllib.request.urlretrieve(TASK2PATH["diagnostic"], data_file)
    print("\tCompleted!")
    return

def get_tasks(task_names):
    task_names = task_names.split(',')
    if "all" in task_names:
        tasks = TASKS
    else:
        tasks = []
        for task_name in task_names:
            assert task_name in TASKS, "Task %s not found!" % task_name
            tasks.append(task_name)
    return tasks

def main(arguments):
    parser = argparse.ArgumentParser()
    parser.add_argument('--data_dir', help='directory to save data to', type=str, default='glue_data')
    parser.add_argument('--tasks', help='tasks to download data for as a comma separated string',
                        type=str, default='all')
    parser.add_argument('--path_to_mrpc', help='path to directory containing extracted MRPC data, msr_paraphrase_train.txt and msr_paraphrase_text.txt',
                        type=str, default='')
    args = parser.parse_args(arguments)

    if not os.path.isdir(args.data_dir):
        os.mkdir(args.data_dir)
    tasks = get_tasks(args.tasks)

    for task in tasks:
        if task == 'MRPC':
            format_mrpc(args.data_dir, args.path_to_mrpc)
        elif task == 'diagnostic':
            download_diagnostic(args.data_dir)
        else:
            download_and_extract(task, args.data_dir)


if __name__ == '__main__':
    sys.exit(main(sys.argv[1:]))

（下面的步骤，你第0步没报错就不用看了）
1、发现官方脚本不能用了，我们先手动下载dev_ids.tsv映射表保存在glue_data/MRPC文件夹下，浏览器访问这个链接

https://firebasestorage.googleapis.com/v0/b/mtl-sentence-representations.appspot.com/o/data%2Fmrpc_dev_ids.tsv?alt=media&token=ec5c0836-31d5-48f4-b431-7480817f1adc,

2、注释掉脚本download_glue_data.py里下载dev_ids.tsv文件的语句

# urllib.request.urlretrieve(TASK2PATH["MRPC"], os.path.join(mrpc_dir, "dev_ids.tsv"))

3、去微软官网下载：https://www.microsoft.com/en-ca/download/details.aspx?id=52398
将 msr_paraphrase_test.txt， msr_paraphrase_train.txt两个解压后的文件放在mrpc_ori_corpus文件夹下
4、命令行执行

python download_glue_data.py --data_dir glue_data --tasks MRPC --path_to_mrpc mrpc_ori_corpus

如果在glue_data/MRPC文件下出现 dev.tsv，test.tsv，train.tsv这三个文件，说明MRPC语料下载成功。
注：如果经过上述努力，还不能下载，请加我QQ：1769372625`

五、那么文件就下载完了，我的目录结构如下，准备运行

1、（BERT_BASE_DIR我多下了一个中文的预训练模型）
在这里插入图片描述
2、网页往下划，有运行方式，需要传参（注意：对于普通的gpu如1070，参数–train_batch_size修改值为8）在这里插入图片描述
3、pycharm传参数进去
（1）、在这里插入图片描述
（2）、左边选好类，右边复制参数
在这里插入图片描述
（3）运行失败很可能是传参错了，不能直接复制那些传的参数，要结合自己的目录情况，修改路径（注意：很多问题都出在这一步，附上我的目录结构对应的参数，你看情况自己修改，也可以写绝对路径）
win


--task_name=MRPC \
  --do_train=true \
  --do_eval=true \
  --data_dir=..\GLUE\glue_data\MRPC \
  --vocab_file=..\GLUE\BERT_BASE_DIR\uncased_L-12_H-768_A-12\vocab.txt \
  --bert_config_file=..\GLUE\BERT_BASE_DIR\uncased_L-12_H-768_A-12\bert_config.json \
  --init_checkpoint=..\GLUE\BERT_BASE_DIR\uncased_L-12_H-768_A-12\bert_model.ckpt \
  --max_seq_length=128 \
  --train_batch_size=8 \
  --learning_rate=2e -5 \
  --num_train_epochs=3.0 \
  --output_dir=/tmp/mrpc_output/

linux

--task_name=MRPC \
  --do_train=true \
  --do_eval=true \
  --do_predict \
  --data_dir=../GLUE/glue_data/MRPC \
  --vocab_file=../GLUE/BERT_BASE_DIR/uncased_L-12_H-768_A-12/vocab.txt \
  --bert_config_file=../GLUE/BERT_BASE_DIR/uncased_L-12_H-768_A-12/bert_config.json \
  --init_checkpoint=../GLUE/BERT_BASE_DIR/uncased_L-12_H-768_A-12/bert_model.ckpt \
  --max_seq_length=128 \
  --train_batch_size=8 \
  --learning_rate=2e -5 \
  --num_train_epochs=1.0 \
  --output_dir=/tmp/mrpc_output/

注：你要根据你的目录结构修改，相对路径写不好的可以写绝对路径，例如
–data_dir=…\GLUE\glue_data\MRPC 也可以写成
–data_dir=E:\workspaces\pycharm\python3\Bert\GLUE\glue_data\MRPC 这样

六、运行

1、运行成功截图
在这里插入图片描述
2、应该有如下结果
在这里插入图片描述
注：如果下载数据失败可以加我QQ：1769372625分享给你，如果运行不了就自己慢慢调试吧

Jiale685
关注
  • 24
    点赞
  • 踩
  • 52
    收藏
    觉得还不错? 一键收藏
  • 13
    评论
专栏目录
python-windows10普通笔记本跑bert mrpc数据样例0.1.048
随笔
06-07 398
python-bert微调句子或句子对分类任务笔记（Sentence (and sentence-pair) classification tasks）0.1.000
dev_ids.tsv
06-18
glue_data的MRPC数据集映射文件
tf2下bert_MRPC任务.zip
10-12
参数： --task_name=MRPC --do_train=true --do_eval=true --data_dir=$GLUE_DIR\MRPC --vocab_file=$BERT_BASE_DIR\vocab.txt --bert_config_file=$BERT_BASE_DIR\bert_config.json --init_checkpoint=$BERT_BASE_DIR\bert_model.ckpt --max_seq_length=128 --train_batch_size=4 --learning_rate=2e-5 --num_train_epochs=3.0 --output_dir=/tmp/mrpc_output/ 官方output： ***** Eval results ***** eval_accuracy = 0.845588 eval_loss = 0.505248 global_step = 343 loss = 0.505248 本次复现output： ***** Eval results ***** eval_accuracy = 0.5955882 eval_loss = 0.6890294 global_step = 2751 loss = 0.6890294
Bert训练MRPC数据集，将预测模型写成API调用，以及简单html界面使用，后台服务使用flask
weixin_37735081的博客
06-30 4806
Bert句子相似度分析，用flask提供调用method用Bert训练MRPC数据集，保存模型（API 以及简易 html 调用），使用模型预测双句代码讲解 本文代码已上传到Github：https://github.com/luoyangbiao/bert_flask 用Bert训练MRPC数据集，保存模型 这里运行官方的run_classifier.py代码就好了，我在Github上的代码也...
GLUE数据集
与或
12-06 689
网盘链接： 链接：https://pan.baidu.com/s/1pVxCVcRWEN9Ram5E99_prA 提取码：yuhu 数据集目录： 脚本代码：（需要科学上网） ''' Script for downloading all GLUE data. Note: for legal reasons, we are unable to host MRPC. You can either use the version hosted by the SentEval team, which is alre
bert 之 MRPC数据下载
u011828519的博客
01-29 1408
一、下载数据集 链接:https://pan.baidu.com/s/1zrci6ybE-xw0f0bJ2YnRXA 密码:19yf
基于mrpc的文本分类任务Bert源码分析（一）：特征提取
weixin_38229851的博客
01-04 2200
首先，程序入口为run_classifier.py 程序运行从读命令行传入的参数开始----tf.flag： if __name__ == "__main__": flags.mark_flag_as_required("data_dir") flags.mark_flag_as_required("task_name") flags.mark_flag_as_required("vo...
首次运行BERT需要的环境配置和准备详细教程，bert运行官方模型，使用MRPC数据集进行测试
热门推荐
qq_42458992的博客
10-10 1万+
第一步 下载所需 下载bert源码和模型         首先我们下载bert的源码和官方的模型，去官网 ： https://github.com/google-research/bert 下载官网源码： 下载官方模型：         好好找一下，往下翻翻，肯定有下面这样一个位置。 下载GLUE数据集 要运行bert的模型，需要用到指定的GL
pytorch-bert:使用PyTorch的TransformerEncoder实现BERT
04-25
使用PyTorch TransformerEncoder和预训练模型的BERT实现。 安装 pip install pytorch-bert 用法 config = BertConfig . from_json ( "path-to-pretarined-weights/bert_config.json" ) model = Bert ( config ) ...
BERT： Pre-training of Deep Bidirectional Transformers翻译
09-02
BERT的成功不仅在于其强大的模型设计，还在于其预训练和微调的范式，这使得模型可以适应多种任务，而无需大幅度调整模型结构。这种方法极大地降低了开发新模型时的工作量，推动了自然语言处理领域的发展。BERT的出现...
bert-sentiment:使用BERT的细粒度情感分类
03-09
使用BERT的细粒度情感分类 此存储库包含用于获取的结果的代码。 用法 可以使用run.py运行各种配置的实验。 首先，安装python软件包（最好在一个干净的virtualenv中）： pip install -r requirements.txt Usage: ...
Bert测试数据集MRPC数据集
12-03
Bert测试数据集，MRPC数据集，方便下载不了的朋友进行测试、实验与学习。数据集中有用的为三部分，train.tsv，dev.tsv和test.tsv。
Bert-MRPC.rar
05-31
在实际应用中，使用MRPC数据集训练BERT模型时，会先对原始文本进行预处理，包括分词、去除停用词、添加特殊标记（如[BERT]开头和[SEP]结尾）、词汇表编码等步骤。然后，BERT模型会通过学习train.csv中的句子对，学习...
深度学习 - 53.Bert 简介与 Keras-Bert 常用示例
BITDDD小栈
06-01 1272
Bert 简介与 Keras-Bert 常用 Demo 展示。
从零开始运行BERT的详细教程，使用MRPC数据集进行测试
qq_49594899的博客
05-17 1256
推荐博主视频:【BERT模型实战教程：基于BERT模型的文本分类、情感分析及中文命名实体识别实战教程，迪哥带你玩转NLP核心框架—BERT模型！空间大、速度快、安全稳固，支持教育网加速，支持手机端。这个非常重要，要仔细配置，确保无误，否则会出现，我在这错了半天，发现是我的路径多了个小东西。//是否训练后进行验证，即验证后的结果，准确率等参数。也可以用我提供的网盘链接下载我的工程。// 这个看你电脑的配置，尽量别太大。// 这个看你电脑的配置，尽量别太大。// 训练好的模型输出路径。百度网盘 请输入提取码。
[BERT]解决关于下载GLUE数据遇到的问题
H_O_W_E的专栏
07-24 4230
1,怎么下载？ 这里有人已经封装好了： https://github.com/nyu-mll/GLUE-baselines 下载源码之后，要修改一下download_glue_data.py的第44、45行，改成： MRPC_TRAIN = 'https://dl.fbaipublicfiles.com/senteval/senteval_data/msr_paraphrase_trai...
BERT模型微调的基本步骤(demo)
aideshizhe0的博客
05-17 1370
在这个例子中，我们首先加载了预训练的BERT模型和对应的tokenizer。然后，我们准备了一些文本数据和对应的标签，使用tokenizer处理文本数据，然后创建了一个DataLoader。接下来，我们设置了优化器，开始训练模型。最后，我们保存了微调后的模型。请注意，这只是一个非常基础的例子，实际上在进行模型微调时，你可能需要处理更复杂的数据，选择合适的损失函数和优化器，以及进行模型性能的评估等等。对于预训练模型的微调，一个常见的例子是使用BERT模型进行情感分析任务。
Bert系列：Bert源码分析，MRPC文本分类任务微调
最新发布
2401_85325397的博客
05-31 927
MPRC的学习目标是给定两个句子，判断这两个句子是否说的是一个意思，相当于输入一对句子做二分类。样例数据如下第一列代表y值，1意思相同，2意思不同，后面分别是句子1的id，句子2的id，句子1的内容，句子2的内容。相当于输入一对句子给模型，而Bert的预训练部分也是输入也是一对句子，两者输入基本相同，预训练基于输入无监督学习语义知识，微调部分基于输入迁移预训练的模型参数去做分类。从网络上下载预训练模型。
Bert几个数据集的概念Cola、MRPC、XNLI、MNLI等
weixin_44094615的博客
12-22 7007
一直在几个数据集之间犯晕， 【关于 Bert 源码解析III 之 微调 篇 】 那些的你不知道的事-技术圈 GLUE部分基准数据集介绍：RTE、MRPC、SST-2、QNLI、MNLI、QQP_skysys的研究小屋 -CSDN博客 GLUE共有九个任务，分别是CoLA、SST-2、MRPC、STS-B、QQP、MNLI、QNLI、RTE、WNLI。如下图图2所示，可以分为三类，分别是单句任务，相似性和释义任务 其中做了详细说明，我提取一下概念： 一、 句子对分类任务 1、Xnli :2个句
sentence-bert: sentence embeddings using siamese bert-networks emnlp
04-30
Sentence-BERT（双塔BERT网络）是一种使用BERT网络生成句子嵌入的方法。 该技术在自然语言处理领域中具有广泛的应用，并且与传统的词向量相比，它提供了更丰富和有趣的语义信息。 在这个技术中，双塔BERT网络被用来生成两个句子之间的相似性分数，这对于许多任务都非常有用。常见的应用包括文本相似度、信息检索和自然语言推理等。接着，我们需要将这个分数转换成一个向量，通过这个向量可以减少噪音，强化特征的相似性. 同时，这个向量可以被用来评估两个句子之间的相似性。 Sentence-BERT可以用于在许多领域进行嵌入学习，例如推荐系统、机器翻译、信息抽取和事实验证等。 此外，这种方法可在文本的特定领域中预先训练句子嵌入，从而在特定任务上提供更好的表现。 总之，Sentence-BERT是一种非常有用的技术，可以从不同角度对文本进行分析，并提供了许多在信息检索、自然语言理解和情感分析等领域中有用的功能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 13
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值