- 博客(8)
- 收藏
- 关注
RSS订阅原创 解决随机数引发的可复现问题
*这里需要格外注意的是，stable 函数会使训练时每个 epoch 内部的 shuffle 规律相同！**之前我们提到 shuffle 训练集可以减轻模型过拟合，是至关重要的，当每个 epoch 内部第 i 个 batch 的内容都对应相同时，模型会训不起来。所以，一个简单的技巧，在传入随机数种子的时候加上一个 epoch 序号。在import之后，代码之前，用下面的代码固定随机数种子。最简单有效的方法就是在每次 DataLoader 的 in 操作调用之前都固定一下随机数种子。
2023-01-11 14:40:53
335
原创 从内核文件系统看文件读写过程
系统调用操作系统的主要功能是为管理硬件资源和为应用程序开发人员提供良好的环境，但是计算机系统的各种硬件资源是有限的，因此为了保证每一个进程都能安全的执行。处理器设有两种模式：“用户模式”与“内核模式”。一些容易发生安全问题的操作都被限制在只有内核模式下才可以执行，例如I/O操作，修改基址寄存器内容等。而连接用户模式和内核模式的接口称之为系统调用。应用程序代码运行在用户模式下，当应用程序需要实现...
2020-04-11 13:48:57
139
原创 锁开销优化及CAS简要
详细博文这篇是对上面内容的关键提要并且省去了代码锁互斥锁是用来保护一个临界区，即保护一个访问共用资源的程序片段，而这些共用资源又无法同时被多个线程访问的特性。当有线程进入临界区段时，其他线程或是进程必须等待。在谈及锁的性能开销，一般都会说锁的开销很大，那锁的开销有多大，主要耗在哪，怎么提高锁的性能。锁的开销现在锁的机制一般使用 futex（fast Userspace mutexes）...
2020-03-30 17:14:38
369
原创 Optical Flow
光流（optical flow）一般应用在下面的场景中：图像X和图像Y一般为视频流中相邻的两帧，某一像素在图像X中位置为(x1,y1)，图像Y中位置为(x2,y2)，则这一像素光流为(u,y)=(x1,y1)-(x2,y2)，代表X中像素点在Y中发生在的u方向和v方向的位移，所以光流估计的结果为原图像大小相等的双通道图像，光流估计的核心问题即如何匹配两张图片的对应像素点。是不和立体匹配问题很像...
2019-12-08 15:10:14
201
原创 object has no attribute ‘...’ in torch.load
torch.load 加载预训练模型的参数，可能会遇到下面报错AttributeError: ‘...’ object has no attribute ‘copy’AttributeError: ‘...’ object has no attribute ‘module’引发的原因可能是：使用了torch.save(model)保存模型参数，但使用model.torch.load()...
2019-11-04 20:29:26
837
1
原创 机器学习中数据集大多呈正态分布？——看西瓜书的疑问
在西瓜书中，尤其是第二章 模型评估与选择中，数据集常被认为是服从正态分布，而书中未给出正态分布的严格证明或简要说明。这种情况下，为什么数据集被认为是正态分布是合理的？从第一个角度理解，在大多数自然事件中，当数据量大到一定程度时，数据往往都近似服从于正态分布。并且，正态分布拥有许多优越的性质。从第二个角度理解，我们不强行在一开始接受正态分布的设定。在实际运用中，我们更关注数据集的期望和方差这些特...
2019-03-23 11:29:42
1989
原创 Based on CNN & DL 医学图像识别
Deep Convolutional Neural Networks for Computer-Aided Detection: CNN Architectures, Dataset Characteristics and Transfer Learning：使用了Image Net做转移学习的效果：https://www.cnblogs.com/Allen-rg/p/5649463.html...
2019-03-06 19:57:44
277
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人