深度学习
深度学习
大西瓜不甜
这个作者很懒,什么都没留下…
展开
-
对偶问题的解释
原创 2020-07-05 20:25:31 · 359 阅读 · 0 评论 -
cudnn cuda tensorflow 版本对应
linux下:windows下:上面两张图是在这里找到的:https://tensorflow.google.cn/install/source(右上角language选English)原创 2020-05-16 09:12:55 · 455 阅读 · 0 评论 -
计算机视觉领域经典论文 (2012年之前)
1990年之前 Peter Burt, Edward Adelson. The Laplacian Pyramid as A Compact Image Code. 虽说这个Laplacian Pyramid是有冗余的,但使用起来非常简单方便,对理解小波变换也非常有帮助。这位Adelson是W.T.Freeman的老板,都是大牛. J Canny A Computational Approach to Ed...原创 2020-05-11 20:27:43 · 519 阅读 · 0 评论 -
卷积神经网络CNN的训练过程
卷积神经网络的训练过程分为两个阶段。第一个阶段是数据由低层次向高层次传播的阶段,即前向传播阶段。另外一个阶段是,当前向传播得出的结果与预期不相符时,将误差从高层次向底层次进行传播训练的阶段,即反向传播阶段。训练过程如图4-1所示。训练过程为:1、网络进行权值的初始化;2、输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值;3、求出网络的输出值与目标值之间的误差;4、当误差大于我们的期望值时...原创 2020-05-09 19:26:35 · 2962 阅读 · 0 评论 -
有监督学习和无监督学习的区别
1、有监督学习有监督学习中有数据以及标签,学习到一个可以将数据映射到标签的函数,标签可以有很多形式。典型的有监督学习有:分类问题中输入一张图片,输出图片的分类;目标检测中输入一张图片,输出目标物体的边框;语义分割中,给每个像素都打上标签。2、无监督学习无监督学习的数据是没有任何标签的。典型的无监督学习有:(1)聚类:对大量未知标注的数据集,按数据的内在相似性将数据集划分为多个类别,使类别内的数据相似度较大而类别间的数据相似度较小(2)降维:找出一些轴,在这些轴上训练数据的方差最大原创 2020-05-09 14:00:17 · 4977 阅读 · 0 评论 -
【深度学习】 LSTM模型
循环神经网络(Recurrent Neural Networks)人对一个问题的思考不会完全从头开始。比如你在阅读本片文章的时,你会根据之前理解过的信息来理解下面看到的文字。在理解当前文字的时候,你并不会忘记之前看过的文字,从头思考当前文字的含义。传统的神经网络并不能做到这一点,这是在对这种序列信息(如语音)进行预测时的一个缺点。比如你想对电影中的每个片段去做事件分类,传统的神经网络是很难通过...原创 2020-05-05 22:25:25 · 1607 阅读 · 0 评论 -
损失函数在反向传播中的作用
在二分类问题中用的最多的是binary_crossentropy,在物体检测中经常用到IoU,在医学图像分割中经常用到的是DICE, 它们的公式如下:loss function.png可以看出损失函数基本都是由真实值和预测值两部分组成,正确的损失函数,可以起到让预测值一直逼近真实值的效果,当预测值和真实值相等时,loss值最小。下面是我以binary_crossentro...转载 2020-04-27 20:09:27 · 3368 阅读 · 0 评论 -
mtcnn人脸检测中将ckpt训练模型转换为 npy保存
from tensorflow.python import pywrap_tensorflowimport numpy as np#PNet RNet还有ONet模型文件转为npy文件reader=pywrap_tensorflow.NewCheckpointReader('/mnt/F/lwr/MTCNN/data/MTCNN_model/PNet_landmark/PNet-30')...原创 2020-04-27 09:43:36 · 568 阅读 · 0 评论 -
机器学习中的 L1,L2 loss分别是什么
一、常见的MSE、MAE损失函数1.1 均方误差、平方损失均方误差(MSE)是回归损失函数中最常用的误差,它是预测值与目标值之间差值的平方和,其公式如下所示:下图是均方根误差值的曲线分布,其中最小值为预测值为目标值的位置。优点:各点都连续光滑,方便求导,具有较为稳定的解缺点:不是特别的稳健,为什么?因为当函数的输入值距离中心值较远的时候,使用梯度下降法求解的时候梯度很大,可能...原创 2020-04-21 09:15:14 · 4638 阅读 · 0 评论 -
TypeError: only size-1 arrays can be converted to Python scalars
all_boxes,landmarks = mtcnn_detector.detect_face(test_data)count = 0print(all_boxes)print(landmarks)for imagepath in gt_imdb: image = cv2.imread(imagepath) for bbox in all_boxes: ...原创 2020-04-19 18:20:25 · 561 阅读 · 0 评论 -
Could not create cudnn handle: CUDNN_STATUS_INTERNAL_ERROR 解决方式
最有可能的是因为 GPU已经被占用如图四块GPU已经被占用时会有如上报错或者是因为RTX显卡不兼容它出生前的接口有关。解决办法:在要执行的python文件添加如下代码即可。from tensorflow.compat.v1 import ConfigProtofrom tensorflow.compat.v1 import InteractiveSessionconfi...原创 2020-04-17 09:57:36 · 549 阅读 · 0 评论 -
tensorflow sess.run() 报错 W tensorflow/core/framework/op_kernel.cc:1192] Invalid argument
W tensorflow/core/framework/op_kernel.cc:1192] Invalid argument: Name: <unknown>, Key: image/landmark, Index: 0. Number of float values != expected. Values size: 10 but output shape: [40]...原创 2020-04-16 11:50:52 · 1959 阅读 · 0 评论 -
Internal: failed initializing StreamExecutor for CUDA device ordinal 1: Internal: failed call
报错原因是因为gpu被占用了。可能是共用一个服务器的其他用户在使用gpu也可能是其他进程非正常关闭,仍然在占用gpu可以在命令行输入 nvidia-smi 查看gpu使用情况:可以看到进程号以及 使用情况,如果是自己的进程 可以通过 kill命令关闭进程,如果是其他人正在使用,强行关闭了可能会被打^_^...原创 2020-04-16 10:55:55 · 2251 阅读 · 6 评论 -
tf.contrib.slim.conv2d() 参数列表
convolution(inputs, num_outputs, kernel_size, stride=1, padding='SAME', data_format=None, rate=1, activation_fn=nn.relu, ...原创 2020-04-12 20:41:47 · 1129 阅读 · 1 评论 -
mtcnn算法可以改进的点记录
1.计算IOU的原算法横纵坐标都加一原创 2020-04-11 14:28:07 · 1114 阅读 · 0 评论 -
Multi-task Convolutional Neural Network 训练人脸识别和关键点检测 (python算法步骤)---生成pnet 训练数据
1.读取包围盒数据,并创建好存储目录anno_file = "./dataset/mouth_train.txt"#原图片地址im_dir = "dataset"#pos,part,neg裁剪图片放置位置pos_save_dir = "12/positive"part_save_dir = "12/part"neg_save_dir = '12/negative'#PNet数据...原创 2020-04-11 15:38:45 · 336 阅读 · 0 评论 -
深度学习的学习率
学习率对于深度学习是一个重要的超参数,它控制着基于损失梯度调整神经网络权值的速度,大多数优化算法(SGD、RMSprop、Adam)对其都有所涉及。学习率越小,损失梯度下降的速度越慢,收敛的时间更长,如公式所示:new_weight= existing_weight — learning_rate * gradient(新权值 = 当前权值 – 学习率 × 梯度)...原创 2020-04-11 09:11:58 · 4432 阅读 · 0 评论 -
Multi-task Convolutional Neural Network 训练人脸识别和关键点检测 (python+tensoflow实现代码 算法步骤)---数据集处理
1.数据处理将用于PFLD的数据集处理成只有嘴巴包围盒+标注的数据集首先通过matplotlib库函数画出所有的标记,在通过删减点的个数来确定关键点标记在嘴巴的位置例如使用IBUG人脸标记数据集做测试,每张图片有106个标记点位置,其中第84-104 有20个标记点是嘴巴# 将数据集处理成嘴巴标记和嘴巴包围盒的数据import cv2import osimport ma...原创 2020-04-10 16:48:45 · 235 阅读 · 0 评论 -
Multi-task Convolutional Neural Network 训练人脸识别和关键点检测 (论文解读)
论文链接:https://arxiv.org/ftp/arxiv/papers/1604/1604.02878.pdf翻译连接:摘要:https://blog.csdn.net/mid_Faker/article/details/104530183算法实现部分 :https://blog.csdn.net/mid_Faker/article/details/104553719...原创 2020-04-10 10:37:47 · 724 阅读 · 0 评论 -
NMS(非极大抑制)概念
参考博客物体检测中常用的几个概念迁移学习、IOU、NMS理解目标定位和检测系列(3):交并比(IOU)和非极大值抑制(NMS)的python实现 一、NMS(非极大抑制)概念NMS即non maximum suppression即非极大抑制,顾名思义就是抑制不是极大值的元素,搜索局部的极大...转载 2020-04-10 10:00:09 · 832 阅读 · 0 评论 -
什么是回归?
什么是回归?回归实际上就是“最佳拟合”。&n...原创 2020-03-31 11:48:51 · 12383 阅读 · 0 评论 -
卷积神经网络(Convolutional Neural Network,CNN)
卷积神经网络...转载 2020-03-31 11:11:24 · 2069 阅读 · 0 评论 -
anaconda环境操作:创建,删除,激活,退出
文章所提到命令行在anaconda prompt里面进行输入运行。conda create -n env_name python=3.6指令中env_name为你所指定的环境名称,python=3.6表示你可以指定你所需要的python版本。删除conda remove -n env_name --all激活conda activate env_name退出conda dea...原创 2020-03-25 17:04:25 · 547 阅读 · 0 评论 -
[译]深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)
译自:http://sebastianruder.com/multi-task/1. 前言在机器学习中,我们通常关心优化某一特定指标,不管这个指标是一个标准值,还是企业KPI。为了达到这个目标,我们训练单一模型或多个模型集合来完成指定得任务。然后,我们通过精细调参,来改进模型直至性能不再提升。尽管这样做可以针对一个任务得到一个可接受得性能,但是我们可能忽略了一些信息,这些信息有助于在...原创 2020-03-18 11:05:33 · 542 阅读 · 0 评论 -
[译]深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)
原文链接:https://www.cnblogs.com/shuzirank/p/7141017.html 译自:http://sebastianruder.com/multi-task/1. 前言在机器学习中,我们通常关心优化某一特定指标,不管这个指标是一个标准值,还是企业KPI。为了达到这个目标,我们训练单一模型或多个模型集合来完成指定得任务。然后,我们通过精细调参,来改进模型直...转载 2020-03-03 09:20:09 · 1111 阅读 · 0 评论 -
论文笔记2.3——PFLD: A Practical Facial Landmark Detector
3,Experimental Evaluation3.1 实验设置Datasets. To evaluate the performance of our proposed PFLD, we conduct experiments on two widely-adopted challenging datasets, say 300W [25] and AFLW [18]. 3...原创 2020-03-01 18:09:59 · 728 阅读 · 0 评论 -
论文笔记2.2——PFLD: A Practical Facial Landmark Detector
2.MethodologyAgainst the aforementioned challenges, effective measures need to be taken. In this section, we fifirst focus on the design of loss function, which simultaneously takes care of ...原创 2020-03-01 17:27:39 · 852 阅读 · 0 评论 -
论文笔记2.1 PFLD: A Practical Facial Landmark Detector
PFLD: A Practical Facial Landmark Detector Xiaojie Guo1 , Siyuan Li1 , Jinke Yu1 , Jiawan Zhang1 , Jiayi Ma2 , Lin Ma3 , Wei Liu3 , and Haibin Ling4 1Tianjin University 2Wuhan University 3Tencent ...原创 2020-02-29 12:10:02 · 857 阅读 · 0 评论 -
浅层学习(shallow learning) 与深度学习(deep learning ) 的不同
主要参考文献:http://blog.csdn.net/zouxy09/article/details/8775360(从一到八);http://www.csdn.net/article/2013-05-29/2815479从1980年代末期以来,机器学习的发展大致经历了两次浪潮:浅层学习(Shallow Learning)和深度学习(Deep Learning)。需要指出是,机器学习...转载 2020-02-29 10:55:15 · 15181 阅读 · 0 评论 -
论文笔记1.3——Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks
三、EXPERIMENTSIn this section, we first evaluate the effectiveness of the proposed hard sample mining strategy. Then we compare our face detector and alignment against the state-of-the-art method...原创 2020-02-28 14:49:50 · 427 阅读 · 0 评论 -
论文笔记1.2——Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks
二. APPROACHIn this section, we will describe our approach towards joint face detection and alignment. A. Overall Framework The overall pipeline of our approach is shown in Fig. 1. Given an...原创 2020-02-28 12:03:45 · 403 阅读 · 0 评论 -
论文笔记1.1——Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks
使用多任务级联的卷积神经网络将人脸检测与对准结合起来 作者:张凯鹏,张展鹏,李志峰,IEEE高级会员,余乔,IEEE高级会员Abstract—Face detection and alignment in unconstrained en-vironment are challenging due to various poses, illuminations andocclusio...原创 2020-02-27 12:42:24 · 619 阅读 · 0 评论 -
什么是卷积?
原文链接https://www.zhihu.com/question/22298352/answer/50940942知乎@果程C对于初学者,我推荐用复利的例子来理解卷积可能更好理解一些:小明存入100元钱,年利率是5%,按复利计算(即将每一年所获利息加入本金,以计算下一年的利息),那么在五年之后他能拿到的钱数是,如下表所示:<img src="https://pic4.zhimg...转载 2020-02-13 11:42:05 · 216 阅读 · 0 评论 -
论文解读——Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks(一)
论文解读——Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks(一) ...转载 2020-02-13 09:32:43 · 768 阅读 · 0 评论