![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
caffe&tensorflow&keras&pytorch
看穿数据之美
机器学习/深度学习/数据挖掘/推荐算法,微信为oppo62258801(同13011197941),邮箱为lcqbit11@163.com,欢迎学习交流!
展开
-
如何查看keras的backend
1.查看keras的backend我们知道kears常见的backend有tensorflow和theano,那么我们如何确定自己电脑上的kears的backend是哪一个呢?import keras在python环境中直接倒入keras,一般就会自动显示例如如下,说明当前电脑上的keras的backend是tensorflow。2.修改keras的backend找到文件 ~/.ke...原创 2019-10-19 23:27:49 · 3076 阅读 · 0 评论 -
Caffe学习 数据层及参数设置
caffe的各种数据层在caffe.proto文件中有定义。通过对定义的caffe.proto文件进行编译,产生支持各种层操作的c++代码。后面将会详细解读caffe.proto文件(在caffe里就是当做一个自动代码生成工具来用)。本文主要介绍caffe可以读入数据的各种格式,方便后面采用caffe训练自己的数据数据的来源主要有以下几种:(1)高效的数据库(Level转载 2017-03-25 18:18:12 · 2828 阅读 · 0 评论 -
使用caffe的python接口实现内部参数可视化
1。这里并不介绍如何训练cnn及caffe配置,主要介绍如何实现cnn内部参数可视化。#这是我训练时使用的train.prototxt文件,在实现可视化之前首先需要对这个文件进行修改,#trian.prototxt文件的前2层及尾部需要修改,修改成train_deploy.prototxt文件。name: "face_train"layer { name: "face" type转载 2017-03-16 15:59:19 · 1390 阅读 · 0 评论 -
卷积神经网络CNN经典模型整理Lenet,Alexnet,Googlenet,VGG,Deep Residual Learning
欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。关于卷积神经网络CNN,网络和文献中有非常多的资料,我在工作/研究中也用了好一段时间各种常见的model了,就想着简单整理一下,以备查阅之需。如果读者是初接触CNN,建议可以先看一看“Deep Learning(深度学习)学习转载 2017-03-26 17:21:46 · 491 阅读 · 0 评论 -
Caffe中学习率策略应如何选择
今天,在训练网络时想换一种学习策略试试,因此重新研究了一下Caffe中提供的各种学习率策略,在这里和大家聊聊我使用时的一些经验教训。我们先来看看和学习率策略有关的参数,以下的内容来自caffe.proto中:[cpp] view plain copy // The learning rate decay policy. The current转载 2017-04-12 19:05:08 · 1223 阅读 · 0 评论 -
Caffe学习笔记—— solver参数说明及利用自己的数据集对权值微调
本文主要介绍:在进行网络训练和权值微调过程中,需要对solver中的参数进行设置,本文主要介绍solver中的参数设置,以及如何利用自己的数据集,对权值进行微调。1. solver参数设置[cpp] view plain copy net: "train_val.prototxt" //深度学习模型的网络结构文件 test_i转载 2017-04-12 19:07:57 · 770 阅读 · 0 评论 -
【深度学习】caffe 中的一些参数介绍
solver.prototxt:[plain] view plain copy print?net: "models/bvlc_alexnet/train_val.prototxt" test_iter: 1000 # test_interval: 1000 # base_lr: 0.01转载 2017-04-12 20:01:26 · 640 阅读 · 0 评论 -
深入浅出——搞懂卷积神经网络的过拟合、梯度弥散、batchsize的影响的问题
上一篇主要是对卷积神经网络的整个训练过程中公式以及误差的推导给出详细的分析。 博客地址:http://blog.csdn.net/u010402786/article/details/51226825 这一篇主要对卷积神经网络中出现的一些问题进行一个详细的阐述。第一个问题:模型过拟合 1.1 什么是过拟合 所谓过拟合转载 2017-04-25 20:51:28 · 3088 阅读 · 0 评论 -
Caffe学习 图像识别与数据可视化
本文采用深度学习库caffe做图像的识别与分类,所用模型为caffemodel。 具体参考caffe官网:http://nbviewer.jupyter.org/github/BVLC/caffe/blob/master/examples/00-classification.ipynb#用caffe来进行图像的识别和各层可视化# 加载各个模块,比如python,numpy和matplob转载 2017-04-27 01:01:56 · 1043 阅读 · 0 评论 -
ubuntu 16.04 下pip install 使用豆瓣源加速
安装caffe2 的环境时,pip install protobuf 一直显示time out,一开始以为是系统其他变量有问题,结果发现其实是因为使用国外的源太慢了,国内最推荐的就是豆瓣源,其地址是 http://pypi.douban.com/simple/。具体使用命令为: sudo pip install -i http://pypi.douban.com/simple/ --tru转载 2017-12-18 10:48:10 · 990 阅读 · 0 评论 -
tensorflow中的reduce_sum()函数和reduce_mean()函数
在计算损失时,通常会用到reduce_sum()函数来进行求和,但是在使用过程中常常会搞不清楚具体是怎样进行计算的,通过查阅资料,逐渐搞清楚了这个函数的用法,下面就来详细解释一下。在TensorFlow官方文档中有这样的解释: 其实在reduce_sum()中,是从维度上去考虑的。其中的参数reduction_indices很容易搞蒙圈,上个图加深理解吧。 调用reduce_sum...转载 2019-01-23 00:45:41 · 4546 阅读 · 0 评论 -
MAC安装pytorch
在机器学习常用的python包anconda下,安装pytorch的步骤非常简答安装命令:conda install pytorch torchvision -c pytorch -y直接一步到位!如果安装过程中,出现下面的连接http时获取URL内容方面的错误时,没关系,再重新运行安装命令,多试几次,相信你总能成功的!Downloading and Extracti...原创 2019-06-05 14:59:26 · 13499 阅读 · 0 评论 -
Tensorflow 模型文件的使用以及格式转换
Tensorflow模型的graph结构可以保存为.pb文件或者.pbtxt文件,或者.meta文件,其中只有.pbtxt文件是可读的。网上大牛们训练好的网络,将模型保存为一个统一的.pb文件,这个文件中不止保存着模型网络的结构和变量名,还保存了所有变量的值,如果我们想利用别人训练好的模型对自己的数据进行测试,往往要对这个模型做一些修改,这时我们经常需要知道原有模型里面的一些张量名称,但是.p...转载 2019-08-13 12:11:04 · 1581 阅读 · 0 评论 -
一键安装tensorflow-史上最快安装tensorflow的方式
安装tensorflow我是在anaconda3#python3.7的环境下安装tensorflow,因此使用的是pip3命令进行安装的pip3 install tensorflow在网上搜索答案,发现可以按照下面这样设置pip3 --default-timeout=100 install gevent然后再重新运行 pip3 install tensorflow 安装tenso...原创 2019-09-06 22:29:14 · 2410 阅读 · 0 评论 -
tensorflow中对特征的处理方式 tf.feature_column
这里介绍tensorflow中几种常见的特征处理方式,也是tensorflow中封装好的库函数。主要来源于tf.feature_column.*1.tf.feature_column.categorical_column_with_hash_buckettf.feature_column.categorical_column_with_hash_bucket( key, h...原创 2019-09-16 00:36:20 · 7619 阅读 · 0 评论 -
caffe训练流程
转载自:深度学习(六)caffe入门学习 - hjimce的专栏 - 博客频道 - CSDN.NEThttp://blog.csdn.Net/hjimce/article/details/48933813本文主要讲解caffe的整个使用流程,适用于初级入门caffe,通过学习本篇博文,理清项目训练、测试流程。初级教程,高手请绕道。我们知道,在caffe编译完转载 2017-03-25 13:27:36 · 863 阅读 · 0 评论 -
人脸识别之DeepFace
该论文为2016年的一篇ECCV,ADiscriminative Feature Learning Approach for Deep Face Recognition。还是深圳先进院乔宇老师组的一篇。不管是思想还是效果都非常的棒。论文思想:整体流程就是读取输入的图像,然后做个前向传播,应用softmax loss+center loss学习到Discrimin转载 2017-03-24 19:00:21 · 6962 阅读 · 0 评论 -
caffe中HDF5层及数据生成
HDF 文件结构包括一个file id(文件号)、至少一个 data descriptor (数据描述符)、没有或多个 data element(数据内容)数据内容。file id (文件号)是一个 32 比特的值,最多占用 HDF 文件的头4 个字节。通过读取这个值,应用程序就知道此文件是否是一个HDF 文件Data descriptor block(数据块描述符)包含一转载 2017-02-22 18:49:30 · 1458 阅读 · 0 评论 -
python开源库——h5py快速指南
1. 核心概念一个HDF5文件是一种存放两类对象的容器:dataset和group. Dataset是类似于数组的数据集,而group是类似文件夹一样的容器,存放dataset和其他group。在使用h5py的时候需要牢记一句话:groups类比词典,dataset类比Numpy中的数组。 HDF5的dataset虽然与Numpy的数组在接口上很相近,但是支持更多对外透明的存储特征,如转载 2017-03-03 16:23:46 · 2256 阅读 · 0 评论 -
使用caffe的python接口实现内部参数可视化
1。这里并不介绍如何训练cnn及caffe配置,主要介绍如何实现cnn内部参数可视化。#这是我训练时使用的train.prototxt文件,在实现可视化之前首先需要对这个文件进行修改,#trian.prototxt文件的前2层及尾部需要修改,修改成train_deploy.prototxt文件。name: "face_train"layer { name: "face" type转载 2017-03-17 14:51:21 · 473 阅读 · 0 评论 -
(Caffe,LeNet)反向传播(六)
本文地址:http://blog.csdn.net/mounty_fsc/article/details/51379395本部分剖析Caffe中Net::Backward()函数,即反向传播计算过程。从LeNet网络角度出发,且调试网络为训练网络,共9层网络。具体网络层信息见 (Caffe,LeNet)初始化训练网络(三) 第2部分本部分不介绍反向传播算法的理论原理,以下介绍基转载 2017-03-08 11:07:24 · 620 阅读 · 0 评论 -
Ubuntu16.04+Cuda8.0(gtx1060)+OpenCV2.4.13+anaconda2+caffe详细配置
[一]硬件以及系统介绍:1.1.显卡(getforce 10 系列--GTX10xx,如GTX1060) 本解决方案使用的显卡类型为GTX1060,当然所有的getforce 10 系列---GTX10xx都可以。cuda7.5不支持getforce 10 系列以上的显卡,所以,那些安装有getforce 10 系列---GTX10以上的显卡的同学必须安装Cuda8.0,那些转载 2017-03-04 17:18:44 · 2034 阅读 · 0 评论 -
Caffe学习:Layers
目录:Vision LayersConvolutionPoolingLocal Response Normalization LRNim2colLoss LayersSoftmaxSum-of-Squares EuclideanHinge MarginSigmoid Cross-EntropyInfogainAccuracy and Top-kAct转载 2017-03-04 20:14:41 · 373 阅读 · 0 评论 -
Matlab批量读取元胞数组中数据保存到txt文件中(WIDER FACE数据集中,读取人脸标注矩形框信息)
WIDER FACE:http://mmlab.ie.cuhk.edu.hk/projects/WIDERFace/1、文件说明:"wider_face_split.zip" 文件包含三个子文件: wider_face_train.mat, wider_face_val.mat, andwider_face_test.mat.其中,每个子文件中元胞数组:The 'event转载 2017-02-26 02:29:43 · 1246 阅读 · 0 评论 -
【深度学习】caffe 中的一些参数介绍
caffe 参数介绍solver.prototxtnet: "models/bvlc_alexnet/train_val.prototxt" test_iter: 1000 # test_interval: 1000 # base_lr: 0.01 # 开始的学习率lr_policy: "step" # 学习率的drop是以gamma转载 2017-03-04 21:53:42 · 267 阅读 · 0 评论 -
caffe层解读系列-softmax_loss
Loss Function可选参数使用方法扩展使用Loss Functionsoftmax_loss的计算包含2步:(1)计算softmax归一化概率(2)计算损失这里以batchsize=1的2分类为例: 设最后一层的输出为[1.2 0.8],减去最大值后为[0 -0.4], 然后计算归一化概率得到[0.转载 2017-03-05 01:37:59 · 348 阅读 · 0 评论 -
生成hdf5文件用于多标签训练
导入相关库import randomfrom PIL import Imageimport numpy as npimport h5py1234512345文件配置IMAGE_DIR = ['image_train', 'image_test']HDF5_FILE = ['hdf5_train.h5', 'hdf5_test.h5']LIST_FILE = ['list转载 2017-02-26 22:20:32 · 1340 阅读 · 2 评论 -
Caffe源码中Pooling Layer文件分析
Caffe源码(caffe version commit: 09868ac , date: 2015.08.15)中有一些重要的头文件,这里介绍下include/caffe/vision_layers文件中PoolingLayer类,在最新版caffe中,PoolingLayer类被单独放在了include/caffe/layers/pooling_layer.hpp文件中,这两个文件中Pooli转载 2017-03-19 12:14:23 · 783 阅读 · 0 评论 -
caffe中各个层——解析
转自:http://www.cnblogs.com/denny402/p/5071126.html所有的层都具有的参数,如name, type, bottom, top和transform_param请参看我的前一篇文章:Caffe学习系列(2):数据层及参数本文只讲解视觉层(Vision Layers)的参数,视觉层包括Convolution, Pooling, Local Re转载 2017-03-19 14:38:50 · 599 阅读 · 0 评论 -
Caffe 训练时loss等于87.33的原因及解决方法
如题,在caffe训练时,遇到这个特殊的数字之后,loss会一直就是这个数字。 网上虽然有很多针对这个问题调参的trick,但少有详细的分析,因此,有必要研究一下caffe的源代码。 softmax的公式为 pk=exp(xk)∑iexp(xi) 其中x为softmax前一层的输出softmax的loss计算公式也很简单,就是对softmax之后预测的概率做对数似然函数转载 2017-03-06 18:39:23 · 1025 阅读 · 0 评论 -
caffe学习笔记3.2--前向传播和反向传播
caffe学习笔记3从3.1开始主要翻译一下caffe的官方文档,写的非常好,忍不住要作一下。本篇翻译来自caffe官网的:http://caffe.berkeleyvision.org/tutorial/forward_backward.html前向传播和反向传播是计算神经网络非常重要的部分。考虑一个简单的逻辑回归分类问题前向传播:通过网络的输入计算输出结果的过程,在前向传播中,转载 2017-03-07 22:25:51 · 905 阅读 · 0 评论 -
深度学习21天实战Caffe学习笔记--笔记5--caffe中前向传播、反向传播及最优化求解过程
1. 前向传播(1)前向传播时,由数据读取层获取数据,经过逐层处理,带最后一层(可能是损失层或特征层)得到输出。(2)网络路径实际上是一个有向无环图(Directed Acycline Graph),DAG。(3)DAG构造过程。从.prototxt文件读取网络结构,并获得NetParameter对象的初始化值,使用Init()函数实现初始化。Init()完成网络初始化和层初始化的操作转载 2017-03-07 22:29:10 · 1583 阅读 · 0 评论 -
ubuntu16.04安装caffe以及各种问题汇总
本文参考了: https://github.com/BVLC/caffe/wiki/Ubuntu-16.04-or-15.10-Installation-Guide https://gist.github.com/wangruohui/679b05fcd1466bb0937f#file-caffe-ubuntu-15-10-md http://blog.csdn.net/g0m3e/a转载 2017-02-21 20:53:15 · 1855 阅读 · 0 评论