谷歌提出的BERT、lasertagger等项目都提供了json形式配置文件,利用python的json工具可以快速加载这种形式的配置文件,方便地实现超参数与模型代码的分离。
一、配置文件
配置文件lasertagger_config.json的内容如下:
{
"attention_probs_dropout_prob": 0.1,
"hidden_act": "gelu",
"hidden_dropout_prob": 0.1,
"hidden_size": 768,
"initializer_range": 0.02,
"intermediate_size": 3072,
"max_po