前言:简单用bert 做了一下二分类模型,进行了训练与测试。
一、bert 训练教程官网地址 Fine-tune a pretrained model (huggingface.co)三种训练方法
1、Train
(1)个人理解: 封装的更好,更多调用方法训练。
(2)优点: 开发快,对于训练省事
(3)缺点: 需要花时间去更多了解方法和参数的使用
(4)适用于: 针对简单的项目可以更快的开发
2、 Keras(暂不研究)
3、Train in native PyTorch
(1)个人理解:需要自己手动去搭建训练方法等功能函数
(2)优点: 可以定制性的搭建每一步的方法,
(3)缺点: 开发比较耗时
(4)适用于: 针对数据集和任务比较复杂的情况
本次训练针对 Train 进行记录
二、Train
1、数据处理及加载
将数据保存成csv(其它格式也可以)通过load_dataset函数进行加载
2、用训练标记器进行处理数据(模型需要的格式)
3、设置评判标准
4、搭建模型训练
5、模型使用
模型自动保存此目录
调用 (两个模型地址可以合并)