YOSO-ai 项目使用教程
YOSO-aiPython scraper based on AI项目地址:https://gitcode.com/gh_mirrors/yo/YOSO-ai
1. 项目的目录结构及介绍
YOSO-ai/
├── data/
│ ├── processed/
│ └── raw/
├── models/
│ ├── __init__.py
│ └── yoso_model.py
├── notebooks/
│ └── exploration.ipynb
├── scripts/
│ ├── train.py
│ └── evaluate.py
├── tests/
│ ├── __init__.py
│ └── test_model.py
├── .gitignore
├── README.md
├── requirements.txt
└── setup.py
目录结构介绍
data/
: 存放项目的数据文件,包括原始数据和处理后的数据。processed/
: 存放处理后的数据文件。raw/
: 存放原始数据文件。
models/
: 存放模型的定义和实现。__init__.py
: 初始化文件。yoso_model.py
: YOSO 模型的实现。
notebooks/
: 存放 Jupyter Notebook 文件,用于数据探索和实验。exploration.ipynb
: 数据探索 Notebook。
scripts/
: 存放训练和评估脚本。train.py
: 训练模型的脚本。evaluate.py
: 评估模型的脚本。
tests/
: 存放测试文件。__init__.py
: 初始化文件。test_model.py
: 测试模型的脚本。
.gitignore
: Git 忽略文件配置。README.md
: 项目说明文档。requirements.txt
: 项目依赖包列表。setup.py
: 项目安装脚本。
2. 项目的启动文件介绍
启动文件
scripts/train.py
: 该文件是项目的启动文件,用于训练 YOSO 模型。
使用方法
python scripts/train.py --config config.yaml
参数说明
--config
: 指定配置文件路径,默认为config.yaml
。
3. 项目的配置文件介绍
配置文件
config.yaml
: 该文件是项目的配置文件,用于配置模型训练的参数。
配置文件内容
model:
vocab_size: 50265
hidden_size: 768
num_hidden_layers: 12
num_attention_heads: 12
intermediate_size: 3072
hidden_act: 'gelu'
hidden_dropout_prob: 0.1
attention_probs_dropout_prob: 0.1
max_position_embeddings: 4096
type_vocab_size: 1
initializer_range: 0.02
layer_norm_eps: 1e-12
position_embedding_type: 'absolute'
use_expectation: True
hash_code_len: 9
num_hash: 64
conv_window: None
use_fast_hash: True
lsh_backward: True
pad_token_id: 1
bos_token_id: 0
eos_token_id: 2
training:
batch_size: 32
learning_rate: 2e-5
epochs: 10
save_steps: 1000
output_dir: 'checkpoints/'
配置项说明
model
: 模型参数配置。vocab_size
: 词汇表大小。hidden_size
: 隐藏层大小。num_hidden_layers
: 隐藏层数量。num_attention_heads
: 注意力头数量。intermediate_size
: 中间层大小。hidden_act
: 隐藏层激活函数。hidden_dropout_prob
: 隐藏层 dropout 概率。attention_probs_dropout_prob
: 注意力概率 dropout 概率。max_position_embeddings
: 最大位置嵌入数量。- `type_vocab
YOSO-aiPython scraper based on AI项目地址:https://gitcode.com/gh_mirrors/yo/YOSO-ai