Yan_Joy-CSDN博客

原创 Udacity Linux 命令行基础 Shell 入门

Linux 命令行基础 Shell 入门这上面讲的有点太简单了，总结一下备忘。Get into the shell错误信息输入包括单引号’、圆括号(、大括号{ 输出有>（右尖括号），需要补全。 ctrl+c退出简单指令目录文件ls下载curl http://udacity.github.io/ud595-shell/stuff.zip -o things.zip安装Ubuntu and D

2017-03-06 20:56:50 931

原创 tensorflow 在windows下安装

蹭的深度学习课程，老师推荐用tensorflow做作业，因此先接触一下吧，不用来做项目，先熟悉一下语句。相比于caffe，tensorflow没有复杂的编译过程，简单的可以把它看成一个python的库。所以安装起来也是很简单的~环境准备其实环境比最后的安装更重要= =也遇到了一些小问题。AnacondaTensorflow基于python，而Anaconda提供了较好的python环境，特别是建

2017-03-03 11:09:43 5968

原创 Generative Adversarial Nets

相比于传统的识别、分类工作，生成对抗网络以一种逆向的思维，让计算机有了一定的创造能力。这种创造在实际中有更大的意义，甚至在复杂的工作中也能取得良好的效果。首先看一下最初的Goodfellow的工作：Generative Adversarial Nets。介绍关于GAN，论文中有一个很恰当的比喻： The generative model can be thought of as analogou

2017-02-28 15:53:01 1466

还是caffe的自定义层问题。相比于c，python的自定义层更为简单：代码少、外部文件少、方便执行。因此用这种方法实现有利于开发和实验。准备首先还是要记得在编译的时候加上WITH_PYTHON_LAYER的选项，如果没有加可以先make clean删除编译后的文件，再重新编译。WITH_PYTHON_LAYER=1 make && make pycaffe如果出现layer_factory.hpp

2017-02-17 16:20:33 8740 16

原创 GoogleNet :Going deeper with convolutions 论文阅读

这次读旁边拿了纸笔记录，感觉还是方便一些，之后再写篇博客总结一下加深印象。问题引出Going deeper考虑的问题：不在于训练数据、模型大小，希望得到新的模型结构；可以用于移动计算，需要考虑功率、内存使用等问题。NIN借鉴到的1*1卷积核：降维（当然也可以升维），减少参数和计算；增加深度、宽度，而没有明显性能损失。目前提高深度神经网络性能的方法：加大size→ 缺点：容易造成过

2017-02-13 20:16:15 1154

原创 scrapy中遇到的问题与解决

Scrapy，Python开发的一个快速,高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。因为好像这个用的比较多，所以看看用这个框架该怎么写爬虫。其实不难，但是中间出了很多神奇的小问题。输出不正确、改代码结果不变？其实是因为反复使用命令scrapy crawl spider -o 1.json时候，增加的输出数据不会覆盖，而是继续往后面添加。request不

2017-01-23 12:08:41 7305

原创 python小爬虫-糗百

序在家没事本来想弄一下pyqt，做一些python下的界面，但是eric装了半天没成功……于是改做爬虫(:3[__] 还好网上教程多，参考了一下，大致的框架都比较简单，难的在于针对不同的网页如何写正则表达式。不过这东西写多了应该就掌握方法了。从网上找了一段代码是爬糗百的，由于改版原来的表达式失效了，正好有了一个锻炼的机会。以下是代码：代码# -*- coding:utf-8 -*-import

2017-01-20 21:02:27 441

原创 Deepdream 实现

Deepdream是一年半前谷歌搞的一个深度学习“艺术品”，最近在cs231n课上看到了，感觉还是很interesting。环境准备deepdream还是基于python和caffe深度网络的，因此大概需要以下环境：Standard Python scientific stack: NumPy, SciPy, PIL, IPython. Those libraries can also be in

2017-01-11 18:34:38 9349 3

原创 Caffe-python interface 学习|网络训练、部署、测试

继续python接口的学习。剩下还有solver、deploy文件的生成和模型的测试。网络训练solver文件生成其实我觉得用python生成solver并不如直接写个配置文件，它不像net配置一样有很多重复的东西。对于一下的solver配置文件：base_lr: 0.001display: 782gamma: 0.1lr_policy: “step”max

2017-01-08 13:56:14 5729

原创 Caffe-python interface 学习|网络定义详解

之前用的都是caffe的命令行接口，单独训练还行，不过看里面层的参数、数据还是很麻烦的。特别是这周实验遇到了比较大的问题，命令行无能为力，还是要好好看看python接口。python 接口编译这个一般在编译caffe时都会顺带完成，如果遇到ImportError: No module named caffe，可能是没有编译或者没有添加到路径。编译可以在根目录下make pycaff

2017-01-06 16:41:09 3136

原创 cs231n笔记1

斯坦福深度学习与机器视觉课程cs231n，感觉挺不错的，顺便记下来一些零碎的点，不过具体内容还是要参考笔记、视频。不过网易云课堂的视频还是有些问题的。研究历史一开始是对猫的视觉进行研究，发现有如下神奇的特点：对于整个图像，猫的视觉基础神经元没有被激活。在切换图像时，神经元被激活。因此研究人员认为神经元对简单形状、边缘有反应。David Marr提出视觉是分层的。Created with Rap

2016-12-21 17:08:31 600

翻译论文阅读：Hyper-class Augmented and Regularized Deep Learning for Fine-grained Image Classification

Xie S, Yang T, Wang X, et al. Hyper-class augmented and regularized deep learning for fine-grained image classification[C]// IEEE Conference on Computer Vision and Pattern Recognition. 2015. 车型识别“Hy

2016-12-20 16:20:00 1501

翻译 caffe自定义层

developing new layer开发一个新层添加一个层的类声明到：include/caffe/layers/your_layer.hpp。包括type的内联实现方法覆盖virtual inline const char* type() const { return "YourLayerName"; }，将YourLayerName替换为你的层名称。实现{*} Blobs()方法来指

2016-12-19 18:22:26 3517

转载转：Caffe 训练时loss等于87.33的原因及解决方法

如题，在caffe训练时，遇到这个特殊的数字之后，loss会一直就是这个数字。网上虽然有很多针对这个问题调参的trick，但少有详细的分析，因此，有必要研究一下caffe的源代码。 softmax的公式为 pk=exp(xk)∑iexp(xi)其中x为softmax前一层的输出softmax的loss计算公式也很简单，就是对softmax之后预测的概率做对数似然函数

2016-12-13 13:12:35 4708

原创 python文件命名小脚本

写个文件命名的python程序，复（yu）习一下python。程序写得应该不是很好。。import os;import shutil;from PIL import Image;##输入为图片路径##命名方式为统一位数数字递增##单一文件格式查找##输出为：## result.txt 文件名，是否为完整图片## \full 完整图片库## \part 不完整图片库pat

2016-12-12 20:23:51 1423

原创 YOLO：You Only Look Once 论文阅读

You Only Look Once: Unified, Real-Time Object Detection YOLO官网论文阅读笔记：You Only Look Once: Unified, Real-Time Object Detection简介与特点YOLO是今年CVPR上提出的一种目标检测方法，其速度达到了45fps（YOLO v2 达到了67fps），完全可以处理视频。其框

2016-12-11 20:35:21 3038

原创 Machine learning: Trends, perspectives, and prospects

论文阅读：Machine learning: Trends, perspectives, and prospects绪论机器学习强调让电脑通过学习自动地提高自己。其发展基于：新的学习算法和理论可用数据增多和计算成本变低可以看到，机器学习的这几年的流行是多方面的因素，第二点的作用甚至更大一些：作为机器学习“燃料”的数据不仅提高了准确性，更避免了过拟合，提升泛化性能

2016-11-26 13:47:39 2060

原创 Caffe-faster-rcnn demo测试

RCNN是目前detection中较新且准确度较高的方法，充分发挥了CNN分类的优势，但速度并不快，从而产生了fast rcnn和faster rcnn来解决这个问题。本文使用py-faster-rcnn对该方法做一初步测试。 rbgirshick/py-faster-rcnn环境准备软件环境CaffePython一般来说这些我们都已经有所接触，但仍有一些需要注意的地方：要使用rbgi

2016-11-12 15:06:15 6876 6

转载 caffe学习（11）python的数据可视化

caffe本身没有可视化的工具，一般需要配合python或matlab实现数据的可视化，在实践本文之前要先把caffe python编译好。另外有的服务器只有shell，没有可视化的界面，只好先把每一层的数据先保存成图片格式，再进行显示。 Caffe学习系列(14)：初识数据可视化 Python and/or MATLAB Caffe (optional)载入数据 import nu

2016-11-09 16:24:15 1093

转载 caffe学习（10）数据转换img2db

在处理图像时，我们已拥有的图像往往是常用的jpg、png格式，但在caffe中，输入的数据类型常是lmdb或leveldb，因此我们需要对原始数据进行转换。 Caffe学习系列(11)：图像数据转换成db（leveldb/lmdb)文件convert_imageset在caffe中，提供了一个用于格式转换的文件：convert_imageset.cpp，存放在根目录下的tools文件夹下。编译

2016-11-08 17:12:54 893

原创 caffe学习（9）LeNet在Caffe上的使用

使用官网例程训练LeNet。 Training LeNet on MNIST with Caffe准备数据Caffe程序的运行要注意需命令行要在Caffe的根目录下。cd $CAFFE_ROOT./data/mnist/get_mnist.sh./examples/mnist/create_mnist.sh依次运行，会在caffe\examples\mnist下得到两个目录mnist_t

2016-11-08 15:57:37 5327

原创 caffe学习（8）Solver 配置详解

Solver是求解学习模型的核心配置文件，网络确定后，solver就决定了学习的效果。本文结合caffe.proto和网上资料，对solver配置进行学习。 Solver Caffe学习系列(7)：solver及其配置，denny402Solver在caffe中的定义通常的solver文件与net文件相互关联，同样的net我们往往使用不同的solver尝试得到最好的效果，其运行代码为：c

2016-11-08 09:45:41 5913 5

原创 Google Protocol Buffer 学习

Caffe上有很多使用了Google Protocol Buffer的东西，从网上来看，这“是一种轻便高效的结构化数据存储格式，可以用于结构化数据串行化，很适合做数据存储或 RPC 数据交换格式。它可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式”。作为caffe模型定义的数据格式，看懂caffe.proto对caffe的理解会有很大帮助。 Google Proto

2016-11-07 20:27:37 710

原创 caffe学习（7）损失层、通用层

损失层Loss Layers损失通过将输出与目标进行比较，并不断优化减小loss。Softmax（with loss）层类型：SoftmaxWithLoss示例：layer { name: "loss" type: "SoftmaxWithLoss" bottom: "ip1" bott

2016-11-07 16:19:29 2489

原创 caffe学习（6）激活层

激活（Activation）层又叫神经元（Neuron）层，最主要的是激活函数的设置。 Activation / Neuron Layers Caffe源码解析6：Neuron_Layer，楼燚航的blog一般来说，这一层是元素级的运算符，从底部blob作为输入并产生一个相同大小的顶部blob：输入：n * c * h * w输出：n * c * h * wReLU / Recti

2016-11-07 11:22:21 1208

原创 caffe学习（5）视觉层

上一篇是数据层，这一篇是视觉层（Vision Layers）。参考官网和网友博客。 Vision Layers Caffe学习系列(3)：视觉层（Vision Layers)及参数，denny402 Caffe源码解析5：Conv_Layer，楼燚航的blog视觉层通常将图像作为输入，产生其他图像作为输出。图像输入可以是灰度图（通道C=1），RGB图（通道C=3）。同样图像也具有二

2016-11-06 22:52:38 823

原创 caffe学习（4）数据层

数据是学习的原料，参考官网和网友的资料，来看一下数据与数据层。 Data：Ins and Outs Caffe学习系列(2)：数据层及参数，denny402数据：输入与输出在Caffe中，数据是以Blobs流动的（见caffe学习（1）caffe模型三种结构）。数据层的输入输出便需要由其他格式与Blobs进行相互转换。一些常见的变换如平均减法（mean-subtraction）、特征缩放

2016-11-06 21:10:13 1121

原创 caffe学习（3）接口

接口Interfaces Interfaces Caffe提供丰富的接口，比如命令行，python，matlab。先说一下命令行命令行 caffe命令及其参数解析，Single、DogCaffe的程序位于caffe / build / tools，运行时可以在根目录执行./build/tools/caffe <command><args>。其中<command>有四种：train：

2016-11-06 14:23:22 1135

原创 caffe学习（2）前后传播，loss，solver

向前和向后传播 Forward and Backward前后传播是Net的重要组成，如下图所示：向前Forward通过给定的参数计算每层的值，就像函数一样top=f(bottom)。上图表示数据通过内积层输出，再由softmax给出损失。向后Backward向后是计算loss的梯度，每层梯度通过自动微分来计算整个模型梯度，即反向传播。从这个图上可以看出，由loss开始，通过

2016-11-06 09:38:04 1412

转载 caffe学习（1）caffe模型三种结构

caffe模型三种结构自己写的然而CSDN出bug了，绑定三方账户原来的博客无法编辑，只好转发过来 Blobs, Layers, and Nets: anatomy of a Caffe modelBlob：存储和传递（communication）blob是数据存储和传输的包装，并且还在底层提供CPU和GPU之间的同步能力。Blob提供了保存数据的统一存储器接口；例如图像批次，模型参

2016-11-05 21:49:29 3267

Yan_Joy的博客