关于Classification-SemiCLS代码中的问题记录

  1. 代码中args.mu是设为7的,即每次输入到batch中数据,假设有标签数据为64张,无标签数据就是64*7张;
  2. 设置eval_step是用来设置Dataloader在iter的next步数的,但手动设置会有一个问题,就是数据集遍历完了但是循环还在继续会报错。代码中采用了try except机制来使迭代循环,也即遍历完之后还会重新遍历一遍;
for batch_idx in range(args.eval_step):  # 1024
    try:
        data_x = labeled_iter.next()
    except Exception:
        if args.world_size > 1:
            labeled_epoch += 1
            labeled_trainloader.sampler.set_epoch(labeled_epoch)
        labeled_iter = iter(labeled_trainloader)
        data_x = labeled_iter.next()

    try:
        data_u = unlabeled_iter.next()
    except Exception:
        if args.world_size > 1:
            unlabeled_epoch += 1
            unlabeled_trainloader.sampler.set_epoch(unlabeled_epoch)
        unlabeled_iter = iter(unlabeled_trainloader)
        data_u = unlabeled_iter.next()
  1. 因为代码中先生成了DataLoader再进行epoch循环,这会带来一个问题:如果每次循环没有覆盖到整个数据集(也即iter步数设置过小),数据集就只有部分会参与到loss回传没有整个被用到,但是如果epoch设置小没有影响,只要iter设置大,就可以往复循环遍历整个数据集。得结论:args.eval_step一定要设置足够大。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值