2020/12/17 工作小结

1. Pytorch里面的num_works设置

只有主进程参与也就是numworkers0的时候，只有在每次gpu处理完数据后进程才会转向去采样新的batch，但在num_workers1的时候会有一个子进程代替主进程进行新的batch的采样，这样的话如果gpu的处理时间比一个batch采样的时间还要长，那么也不存在时延

GPU计算完成后想要拿到下一个批次的数据时发现CPU还没准备好数据。要等待很久才能开始下一次计算，从而影响到GPU使用率。
最好的情况是紫线这种：
GPU计算的过程中CPU已经准备好数据了。等GPU计算完上一个批次数据，直接把下一个批次数据发给GPU。

可试试 num_worker = 4 * num_GPU

2.装饰器

def foo():
	print("foo")
def bar(func):
	func()
bar(foo)

简单装饰器

def use_logging(func):
	def wrapper():
		logging.warn("%s is running" % func.__name__)
		func()
	return wrapper

def foo():
	print("i am foo")
foo = use_logging(foo)
foo()

语法糖

def use_logging(func):
    def wrapper():
        print("---%s func----" % (func.__name__))
        func()
    return wrapper
    
@use_logging # foo = use_logging(foo)
def foo():
    print("i am foo")
foo()

3. Mac “conda command not found” 解决方法
   参考：解决链接