justBeHerHero

Tensor-Level替换、删除（后面元素前移）其中的元素.NLP中简单数据增强包括插入、删除、替换。在word级别完成的替换，比如：https://github.com/tedljw/data_augment/blob/master/eda.py但是映射到token后，在tensor级别中，我并没有找到，因此参考BERT、LevOCR的代码实现在token级别中的替换、删除。

pytorch根据labels对应位置取值 | 换一句话省两个小时不同语句的运行时间是存在很大差距的，特别是用for语句。在我的30W数据集上跑，在一个epoch中使用解决方法2比解决方法1 ，可以节省2个小时。一条语句，省两个小时。

pytorch Dataset类中实现样本均衡并解决AttributeError: 'ConcatDataset' object has no attribute 'get_labels'

pytorch-lightning中使用wandb实现超参数搜索

在生信小分子中，通常有scaffold split和random split两种划分数据集的方式，特别是在MoleculeNet中，而基于scaffold的任务要比random split的任务更难，而且更有意义。scaffold split代码。