我们使用guesslang 工具进行数据集下载处理。
guesslang 网址: Guesslang documentation — Guesslang 2.2.1 documentation
利用 guesslangtool 下载训练数据,为了方便SCC研究人员,处理好的数据在本文最后有提供下载
百度网盘,压缩包大小16G。 本数据包总共有训练文件约200万个,包括54种语言源码
https://download.csdn.net/download/znsoft/22485214
训练步骤
1. 安装 guesslang 包
pip install guesslang
2. 训练
mkdir /data/ssd/model #改为你自己的模型保存目录
guesslang --train /data/ssd/scc/files --model /data/ssd/model/ --steps 1000 #训练1000步,即epoch number为1000 ,大约能达到87%的准确度。
3. 训练步数与准确度的关系:
1000 87%
2000 88%
8000 90%