Dropout是随机的点对点路径的关闭,DropPath是随机的点对层之间的关闭。假设有一个Linear层是输入4结点,输出5结点,那么一共有20个点对点路径。dropout会随机关闭这些路径,而droppath会随机选择输入结点,使其与之相连的5条路径全部关闭。
Dropout与DropPath
最新推荐文章于 2024-04-21 22:57:05 发布
Dropout是随机的点对点路径的关闭,DropPath是随机的点对层之间的关闭。假设有一个Linear层是输入4结点,输出5结点,那么一共有20个点对点路径。dropout会随机关闭这些路径,而droppath会随机选择输入结点,使其与之相连的5条路径全部关闭。