- 博客(21)
- 收藏
- 关注
RSS订阅原创 AttributeError: module 'tensor board.summary._tf.summary' has no attribute 'FileWriter'
为了实现tensorflow可视化，我使用tf.summary.FileWriter()的时候，会出现错误提示：AttributeError: module 'tensor board.summary._tf.summary' has no attribute 'FileWriter'我发现这个问题网上没有博客提到这个问题，所以就把我的解决过程记录如下。1.将原来使用的t...
2019-11-30 01:53:35
27173
17
原创 (JGSA) Joint Geometrical and Statistical Alignment for Visual Domain Adaptation
2017 CVPR官方代码：https://www.uow.edu.au/~jz960/读完，感觉以下两点思想感觉和2018年的DICD有点相似之处：the variance of target domain is maximized, the discriminative information of source domain is preserved但是DICD考虑的是作域变...
2019-06-12 20:54:19
1504
3
原创 JDA 公式推导
JDA2013 ICCVTransfer feature learning with joint distribution adaptation1.拉格朗日乘数法推导过程如下，设：其中， 2....
2019-06-08 00:41:35
667
4
原创 2014 ARTL Adaptation Regularization: A General Framework for Transfer Learning
龙明盛团队的paper。摘要作者指出之前的迁移学习一般都基于两种策略（并且独立的）：1.distribution adaptation；2.label propagation。本文提出了一种迁移学习的框架：通过结构风险最小化和正则化理论，将上面两种策略统一成一个方法。ARTL通过1.优化结构风险函数；2.域的联合分布；3.流形 manifold consistency underl...
2019-06-07 23:20:38
1068
原创 矩阵论（3）——子空间
3 子空间类似集合里面子集的概念，但是更复杂一点。3.1 子空间定义设V是数域F上的线性空间，W是V的子集，若对W中的任意元素，及，按V中的加法和数乘有： ; . 则W也是数域F上的线性空间，称W为V的线性子空间（简称子空间）。 1）由单个零元素组成的子集{}是线性子空间； 2）线性空间V本身也是自己的线性子空间； {}与V是称为V的...
2019-04-24 01:04:51
23251
1
原创 tensorflow框架基础——正则化
1.过拟合如果一个神经网络模型在训练集的准确率很高，而在新的数据集或者测试集准确率较低，说明模型的泛化能力差，也就是过拟合现象。2.正则化正则化就是在损失函数中给每一个参数w（一般不对参数b做正则化）加上权重，从而抑制模型的噪声，减小过拟合。但是这个策略可能会以增大训练误差为代价。3.tensorflow函数正则化：loss(w) = tf.contrib.laye...
2019-04-20 01:40:05
197
原创 矩阵论（2）——线性表示及基与坐标
2 线性表示2.1 线性表示的概念2.1.1线性表示设是线性空间V中的向量，若存在V中一组向量{}，及一组数，使得则称向量能被向量组{}线性表示，或者线性表出。2.1.2 线性相关设{}是线性空间V中的一组向量，若存在一组不全为0的数：，使得则称向量组{}线性相关。2.1.3 线性无关设{}是线性空间V中的一组向量，若存在一组不全为0的数：，使得...
2019-04-18 23:27:47
6294
原创 矩阵论（1）——线性空间
1 线性空间1.1数域对加减乘除四则运算封闭的非空数集。例如：实数集R，负数集C。而自然数集不是数域，因为两个自然数相除之后不一定是自然数。1.2 线性空间的定义F是一个数域，V是一个非空集合。两个“封闭性”：V中的任意元素和，有； F中的任意元素k，V中的任意元素，有。加法满足：交换律：； 结合律：; 零元：V中存在一个元素记为，使得对V中任意元素，均有； ...
2019-04-18 21:55:34
1521
原创 Switching Convolutional Neural Network for Crowd Counting(CVPR2017)——论文笔记
Abstract本篇论文主要做了以下三点：端到端的switch-CNN来预测人群密度； Switch-CNN将人群照片的片段送入到独立的CNN回归网络来得到最小的估计错误和提高密度局部利用人群密度的变化率； 我们在三个通用数据集里测试网络的性能。3 Our Approach在这篇论文中，我们提出了一个选择CNN结构的网络，通过网络将一张图片分成各个片段（pat...
2019-04-18 00:51:41
699
1
原创 迁移学习中常用到的matlab函数——持续更新
目录1 repmat()2 sum()3 diag()3.1 X = diag(v,k)3.2 v = diag(X,k)4 ./ .^ .*5 size()6 zscore()A = [1 2; 4 5];B = repmat(A,4,3)OutputB = 1 2 1 2 1 ...
2019-04-17 23:58:22
958
原创 CSRNet: Dilated Convolutional Neural Networks for Understanding the Highly Congested Scenes2018—论文笔记
本论文来自CVPR2018， 读于20190409。Abstract我们提出的Congested Scene Recognition（CSRNet）包含了两个部分，一个是获得二维特征的前端，一个是使用膨胀CNN（dilated CNN）的后端。我们在最常用的那四个数据集（(ShanghaiTech dataset, the UCF CC 50 dataset, the WorldEXP...
2019-04-15 15:11:48
1435
原创 Multi-Source Multi-Scale Counting in Extremely Dense Crowd Images(CVPR2013)——论文笔记
这篇论文和之前看过的论文不一样。本文是基于传统的机器学习、统计学和频域分析等方法，而之前看的论文都是基于深度学习且都是卷积神经网络。主要是由于这篇论文是2013年的。1AbstractOur approach relies on multiple sources such as low confidence head detections, repetition of texture e...
2019-04-15 11:26:20
913
原创 吴恩达深度学习卷积神经网络学习笔记(3)——迁移学习
1 使用开源的实现方案在GitHub资源库，需要感兴趣的网络的代码。下载方式：复制url在终端输入：git clone +url2 迁移学习找开源训练好了的网络。由于深度学习的训练，可能需要十几个GPU和几周的时间。数据集小：1）前面还是使用开源的网络框架和参数，修改最后的softmax层，训练该层的参数；2）删除倒数几层，修改最后的softmax层，训练该层的参数...
2019-04-03 23:37:53
447
原创 吴恩达深度学习卷积神经网络学习笔记(2)——经典神经网络
目录1.经典网络 1.1LeNet-5（1998） 1.2 AlexNet 1.3 VGG-162ResNets（残差网络） 2.1残差块（Residual block） 2.2 残差网络为什么有用？ 2.3网络中的网络以及1x1卷积3 谷歌Inception网络1.经典网络 1.1LeNet-5（199...
2019-04-01 20:24:46
926
2
原创 吴恩达深度学习卷积神经网络学习笔记(1)
1垂直边缘检测器图1.1实现上图的卷积运算：python 中使用函数conv_forward 在tensorflow中使用函数tf.nn.conv2d 在keras框架中使用函数Conv2D其实这个就是数字图像处理里图像分割里面的梯度算子。要得到一幅图像的梯度，要求在图像的每个像素处计算偏导数和。我们处理的是数字量，因此要求关于一点的领域上的偏导数的数字近似。（1.1-1...
2019-03-28 04:13:33
571
原创 深度学习学习笔记——卷积网络
卷积网络（convolutional network）是指神经网络中至少有一层使用了卷积运算来代替一般的矩阵乘法运算的神经网络。1.卷积运算卷积运算通常用星号表示：必须是一个有效的概率密度函数; 函数通常叫做输入; 函数叫作核函数（hernel function)； 输出有时候被称为特征映射（feature map）。离散形式的卷积：输入通常是多维数组的数据...
2019-03-21 23:19:52
824
原创 python中的可视化工具——matplotlib模块
matplotlib模块实现函数可视化。1.安装matplotlib模块在终端中的安装指令为：sudo pip install matplotlib2.绘制散点图import matplotlib.pyplot as pltplt.scatter(x, y, s=None, c=None, marker=None, cmap=None, norm=None, vmin=Non...
2019-03-20 00:53:06
370
原创 tensorflow框架基础——滑动平均
1.滑动平均 记录了一段时间神经模型中所有参数的平均值，针对所有参数进行优化：w和b。利用滑动平均可以增强模型的泛化能力，也就是对新鲜样本的适应能力。滑动平均值也叫影子值。2.滑动平均值计算公式 影子值 = 衰减率 * 影子 + （1 - 衰减率）*参数衰减率 = min{MOVING_AVERAGE_DECAY，} 影子初值等于参数初值...
2019-03-19 00:04:20
1023
原创 tensorflow框架基础——指数衰减学习率
学习率表示了每一次更新参数的幅度大小。学习率过小，会导致待优化的参数收敛缓慢；学习率过大会导致待优化的参数在最小值附近波动，不收敛。而指数衰减学习率，是指学习率随着训练轮数变化而动态更新。用tensorflow的函数表示为：learning_rate = tf.train.exponential_decay(LEARNING_RATE_BASE,global_step,LEARNIN...
2019-03-18 22:53:52
705
原创 tensorflow框架基础——交叉熵
1.交叉熵（Cross Entropy）表示两个概率分布之间的距离。交叉熵越大，两个概率分布距离越远，两个概率分布越相异。交叉熵越小，两个概率分布越近，两个概率分布越相似。计算公式：用tensorflow函数表示为：ce = -tf.reduce_mean(y_*tf.log(tf.clip_by_value(y,1e-12,1.0)))tf.clip_by_value(y...
2019-03-14 22:51:25
287
原创 深度学习数学基础学习笔记——线性代数(持续更新中)
该笔记只是记录我现在不太熟悉的知识点。1.矩阵相乘 记分别为mxn和nxp的矩阵。 两个矩阵中对应元素的乘积称为元素对应乘积或者Hadamard乘积，记为，而要求和的维数相同。深度学习里面常用到这个运算，之前在论文里面有看到这个符号。 而标准乘积，，得到的是一个mxp的矩阵。2.标量、向量、矩阵和张量 张量就是多位数组，用“阶”表示张量的维度。...
2019-03-14 19:45:14
629
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人