- 博客(26)
- 收藏
- 关注
RSS订阅原创 tensorflow tf.name_scope tf.variable_scope 配合get_collection使用时的区别
name_scope和variable_scope 在定义tensor的时候都会在name前面加上前缀，但是在使用tf.get_collection(tf.GraphKeys.TRAINABLE_VARIABLES, scope=scope)的使用之后配合variable_scope才能获得对应的tensor list。例如with tf.variable_scope(scop...
2019-12-19 18:50:20
442
原创 STANFORD RL CS234 第一次作业总结
1 Optimal Policy for Simple MDP(a) 等比数列取极限。(b)官方解答已经很清楚了solution: If γ > 0, value of γ does not change the ordering of states, so the optimal policy is the same; however, the value of the val...
2019-11-05 16:00:18
1433
4
原创 通用中文OCR识别之语料准备
下载WIKI语料wiki下载地址提供各种wiki语料，我使用的是文章正文，https://dumps.wikimedia.org/zhwiki/latest/zhwiki-latest-pages-articles.xml.bz2。语料内容抽取使用wikiExtrector将格式转换成txtgit地址：https://github.com/attardi/wikiextractor...
2019-10-22 16:54:26
1379
1
转载 git 回退到某个commit
回退命令：$ git reset --hard HEAD^ 回退到上个版本$ git reset --hard HEAD~3 回退到前3次提交之前，以此类推，回退到n次提交之前$ git reset --hard commit_id 退到/进到 指定commit的sha码强推到远程：$ git push origin HEAD --...
2019-05-30 17:25:33
26232
3
原创 faster-rcnn、yolov3和ssd loss总结
faster-rcnnfaster-rcnn loss主要分为两个部分RPN的loss和fast-rcnn部分的loss：1.rpn loss分为两个部分，其中cls就是BCE loss，而reg用的是smooth L1 loss为什么使用这种loss，文章中的说法是对异常点更加鲁棒，x大于1之后，梯度都是常量了。这边要注意的就是，他并不是对(x,y,w,h)原值进行回归，...
2019-05-28 16:53:59
3999
原创 YOLOv1中的grid与b-box
YOLOv1在最后生成一个7*7的feature map，channel数为30（（4+1）*2+20）。即一共49个grid，每个grid对应20个类别和2个b-box(4个坐标和1个置信度)；这也就意味着，这两个b-box都只能是同一个类别。然后我就有一个疑问，那ground truth怎么对应到这两个不同的b-box predictor上，loss到底怎么训练？仔细看了论文也没有找到答案...
2019-05-27 15:04:33
1170
原创 RCNN SPPNET FastRCNN FasterRCNN 总结
RCNN流程1. select search 生成region proposals，并且warp到同一尺度227*227。2.用CNN对所有region proposals 提取特征。3.用SVM对特征进行分类，然后按类别进行NMS4.用SVM对所有通过NMS的proposals的位置进行微调。SPP-NETRCNN中用会对图像做多次卷积，非常费时，SPP主要改进就是只...
2019-05-21 16:20:12
375
原创 热门CNN模型整理
pytorch实现的CNN模型https://github.com/BIGBALLON/CIFAR-ZOO1.LENEThttps://my.oschina.net/u/876354/blog/1632862个人总结：都是经典的操作，卷积，池化，卷积，池化，卷积，全连接，全连接。特别的就是C3的卷积不是连接所有channel，这边的池化也是带两个参数w，b的。2.ALE...
2019-05-19 22:22:54
2932
原创 使用RFBNet训练kaggle RSNA数据检测胸片的肺炎
one stage 的RFBNet在保证速度的前提下，也有着不错的精度，所以拿来训练kaggle上的RSNA。这边主要介绍下对RFBnet源码修改支持RSNA的训练，如果想看关于RSNA数据分析的，可以去看kaggle上的kernels。数据集介绍RSNA跟常见的检测数据集（COCO,VOC,BDD100K,CITYSCAPE等）不一样的一个地方就是，图片中可能不存在标注，也就是说不存在f...
2019-03-22 18:43:15
1738
1
原创 调用Kears中kears.model.load_model方法遇到的问题和解决方法
之前一直使用tf和pytorch，就算是tf也是tf.estimator用得比较多，很少使用keras，最近尝试使用kears快速训练和部署一些分类任务,在使用load_model的时候遇到一些问题问题1：SystemError: unknown opcode原因是因为模型定义用到了lambdagap = Lambda(lambda x: x[0]/x[1], name = 'R...
2019-03-22 17:29:17
34390
4
原创 Keras加载和保存模型
1.模型权重和图保存#保存模型权重model.save_weights("model_weights.h5")#保存图with open('graph.json', 'w') as f: f.write(model.to_json())加载from keras.models import model_from_json# 加载图with open('ph....
2019-03-22 17:10:14
559
1
原创 pytorch dataloader num_workers参数设置导致训练阻塞
问题描述：最近在用RFBnet （源码是pytorch的）训练RSNA的比赛数据，除了要修改一点代码支持RSNA的数据集外（打算后续再写个博客），发现在使用dataloader读取数据时，如果设置num_workers为0，也就是用主进程读取数据，模型训练程序运行正常。如果设置num_workers为其他任何一个大于0的整数，也就是使用子进程读取数据时，训练程序会卡住,卡在训练之前，GPU使用...
2019-03-15 18:02:07
23873
12
原创 Dlib was compiled to use AVX instructions, but these aren't available on your machine.
问题叙述：字面意思就是dlib在编译的时候支持使用AVX指令集，但是运行机器上并不支持AVX指令集。我出现这个问题是，我本地构建docker的机器是指AVX指令集的（使用 pip3 install dlib），线上部署的机器不支持AVX指令集。在线上的log里就一直出现Dlib was compiled to use AVX instructions, but these aren't a...
2019-02-25 18:01:06
1287
原创 Introduction to computer vision( ud810, CS 6476)--epipolar geometry, fundamental matrix
看这个CS6476的主要目的是知其然，能去解决遇到的一些问题，但是我也尽量知其所以然。OMS地址：https://www.cc.gatech.edu/~afb/classes/CS4495-Spring2015-OMS/下面贴一下OMS的repohttps://github.com/gkouros/intro-to-cv-ud810这个是我觉得一个写得不错的。这篇blog主要写...
2018-12-12 17:14:40
649
原创 tensorflow pb to tflite 精度下降
之前希望在手机端使用深度模型做OCR，于是尝试在手机端部署tensorflow模型，用于图像分类。思路主要是想使用tflite部署到安卓端，但是在使用tflite的时候发现模型的精度大幅度下降，已经不能支持业务需求了，最后就把OCR模型调用写在服务端了，但是精度下降的原因目前也没有找到，现在这里记录一下。工作思路：1.训练图像分类模型；2.模型固化成pb；3.由pb转成tflite文件；...
2018-11-28 18:56:28
3322
18
原创 构建使用GPU的docker容器
1.使用nvidia-docker1)nvidia-docker1, 使用nvidia-docker 指令替代docker指令2)nvidia-docker2, 还是使用docker指令，但是要加--runtime=nvidia 的标志。关于配置，宿主机一定要有nvidia的驱动，nvidia-docker会把宿主机的nvidia驱动和显卡设备信息带至容器内部。容器内部，需要安装与...
2018-11-27 16:40:57
2513
原创 图像base64与numpy array之间的转换
环境python3.6import base64import cv2import numpy as np1.base64 string to numpy arrayimage_string = request_data['image']img_data = base64.b64decode(image_string)nparr = np.fromstring(img_dat...
2018-11-27 16:14:30
13691
原创 pytorch high memory usage but low volatile gpu-util
问题：pytorch程序GPU的使用率很低。 如图，我使用5、6号显卡执行pytorch的程序，GPU使用率很低；而其他显卡跑的tensorflow网络，GPU使用率都正常。一般情况下，深度学习遇到这种问题，上来都会认为是dataloader读数据的效率问题：由于读取数据耗时教久，往往程序不能执行GPU上深度网络的计算代码。探索：使用7号显卡debug该pytorch程序，输出...
2018-10-05 19:59:07
3756
1
原创 unable to configure the Docker daemon with file /etc/docker/daemon.json
报错细节如下-- Unit docker.service has begun starting up.Aug 31 17:00:53 zad-test-cluster-data4 dockerd-current[17336]: time="2018-08-31T17:00:53+08:00" level=fatal msg="unable to configure the Docker da...
2018-08-31 18:46:21
17140
2
原创 python tricks
1.numpy 想对某一个维度而不是某一个元素用unique（或者where之类其他的操作）。拿一个二维的numpy数组c为例,想对第二维做uniquec = np.ascontiguousarray(c)c = c.view(np.dtype((np.void, c.dtype.itemsize* c.shape[1])))_, idx, counts = np.unique(c...
2018-08-14 16:24:34
404
原创 机器学习技法第三次作业
Question 1 ~3带入原式，解方程就知道了Question 4三个里面有两个错误才能出现错误，可以把资料分成10份分，1中出错的一份与3中对应，2中出错的两份与3中的对应，则一共有3份错误，就是0.3 Question 5同一个资料有超过一半的g出错才会出错，最好情况下就是所有的err资料加在一起除以(k+1)/2[就是超过半数]Question 6
2015-12-30 20:29:54
1899
2
原创 机器学习基石第二次作业
Question 1 这题挺简单 λμ+(1−λ)(1−μ)Question 2 上面的式子展开就知道是0.5了Question 3~5直接带入公式算出来吗？这三题我是带入公式算的，尝试了一下没有推导出来，不知道有没有人推导出来了。Question 6这题也蛮简单，即是二次函数且与y=0有两个交点Question 7一
2015-12-22 20:39:58
1359
原创 机器学习技法第二次作业
趁着deadline的前一天把作业做完了，主要是后面两个编程的题目比较花时间。下面直接进入主题吧。Question 1这题直接求导就好了Question 2黑塞矩阵，求二阶偏导（是叫这个吧）就求出来了Question 3这个看了视频应该都知道了Question 4替换一下带入公式就行了，两个值都是正值所以要与0求一个max
2015-12-17 20:11:46
2943
2
原创 机器学习技法第一次作业
最近刚做完机器学习技法的第一次作业，三次attempt后达到了400，但是有些问题还不是很清楚，作业中用的是libsvm+python3。作为一个ML爱好者跟新手，更多的是记录作业的过程，当时做的也蛮辛苦的，如果有错，望客官海涵。Question 1：没什么可说的- -！Question 2：没什么可说的- -！Question 3~4：我没用选
2015-12-01 15:27:22
4450
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人