- 博客(51)
- 收藏
- 关注
RSS订阅
原创 David Silver 强化学习Lecture5：Model-Free Control
    David Silver强化学习系列博客的内容整理自David Silver 强化学习的PPT和知乎叶强强化学习专栏。1 Introdu
2018-07-13 08:58:22
1066
原创 David Silver 强化学习Lecture4：Model-Free Prediction
    David Silver强化学习系列博客的内容整理自David Silver 强化学习的PPT和知乎叶强强化学习专栏。1 Introduct
2018-07-12 15:01:00
915
3
原创 David Silver 强化学习Lecture3：Dynamic Programming
    David Silver 强化学习系列博客的内容整理自David Silver 强化学习的PPT和知乎叶强强化学习专栏。1 Introd
2018-07-12 10:16:23
663
原创 David Silver 强化学习Lecture2：MDP
    David Silver 强化学习系列博客的内容整理自David Silver 强化学习的PPT和知乎叶强强化学习专栏。1 Markov Processes1.1 Introduction to MDPs&n
2018-07-11 18:45:38
795
原创 David Silver 强化学习Lecture1：Introduction
1 About Reinforcement Learning    强化学习是多学科多领域交叉的一门学问，它属于机器学习三个分支（监督学习、无监督学习、强化学习）中的一个单独的分支。简单来讲，强化学习的本质是解决decision making问题，即学会自动进行决策。具体来说，强化学习是一个Sequenti
2018-07-11 14:33:26
1043
3
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation 论文笔记
0 摘要
2018-08-10 14:41:00
497
原创 Deep learning-based human motion recognition for predictive context-aware human-robot collaboration
0 摘要    智能制造领域中，提高人机协作（HRC）的运营效率和安全性的关键是工人和机器人之间实时的情境感知（context awareness）。通过对工人的行为分析，可以提高情境感知的准确性和可靠性。为实现这一目标，本文利用深度学习技术，进行连续人体运动分析和HRC需求预测，从而改进机器人计划和控制，共同完成任务。 我们提出的方法运动到发动机装配的...
2018-07-13 14:48:44
836
原创 Densely Connected Convolutional Networks 论文笔记
0 摘要    最近的成果显示，如果神经网络各层到输入和输出层采用更短的连接，那么网络可以设计的更深、更准确且训练起来更有效率。本文根据这个现象，提出了Dense Convolutional Network (DenseNet)，它以前馈的方式将每个层都连接到其他每一层。然而传统的LLL层卷积神经网络有LLL连接（每一层与其后面的一层相连接），而Dens...
2018-07-11 10:06:12
440
原创 ResNet相关论文笔记
1.Deeply-Supervised Nets     网络结构如下图所示。在DSN中，每一个卷积层/全连接层后，模型都会为他们接一个旁路的全连接层，并用输出的结果和数据的真实结果做比较，计算预测结果和真实结果的误差，并将由此产生的梯度回传给前面的参数。    &a
2018-07-10 17:19:17
531
原创 How transferable are features in deep neural networks? 论文笔记
0 摘要    在自然图像上训练的深度神经网络都表现出一种奇怪的现象：模型第一层的参数和Gabor filters的参数非常相似（也就是说模型拥有经典图像算法中具有的优秀性质，Gabor filter是比较通用的滤波器，也就是说模型在一开始也要完成一些常规模式的计算过程，这一点和经典图像算法是一样的）。第一层的特征并不是特定于某一数据集或者某一任务，而是...
2018-07-10 13:17:21
7544
2
原创 权重初始化
1.Xaiver初始化1.1 目标 每一层输出的方差应该尽量相等，每一层的梯度的方差也应该保持相同。那么，每一层的权重应该满足哪种条件。1.2 结论 权重的方差应该满足：∀i，Var[Wi]=2nin+nout∀i，Var[Wi]=2nin+nout\forall i，Var[W^i]=\f...
2018-07-09 16:58:33
495
1
原创 神经网络与深度学习笔记（六）
第六章 深度学习介绍卷积网络 使用全连接层的网络进行图像分类的时候，全连接层的网络架构不会考虑图像的空间结构。它平等对待相距很远和彼此接近的输入像素。图像的空间结构必须从训练数据中学习。而卷积神经网络是一种设法利用图像空间结构的网络。 卷积神经网络采用了三种基本概念：局部感受野，共享权重，池...
2018-07-09 14:13:30
431
原创 神经网络与深度学习笔记（五）
第五章 深度神经网络为何很难训练    在深度网络中，不同的层学习的速度差异很大。当网络中后面的层学习的情况很好的时候，先前的层常常会在训练时停滞不变，基本学不到东西。根本原因是学习的速度下降了，学习速度的下降和基于梯度的学习技术有关。5.1 消失的梯度问题  &nbsp
2018-07-09 11:06:00
355
原创 神经网络与深度学习笔记（四）
第四章 神经网络可以计算任何函数的可视化证明    神经网络的一个最显著的事实就是它可以计算任何的函数。不管这个函数是什么样，总会确保有一个神经网络能够对任何可能的输入xxx，其值f(x)f(x)f(x)（或者某个足够准确的近似）是网络的输出。即使这个函数有很多输入和输出，这个结果都是成立的。这个结果表明神经网络拥有一种普遍性。4.1 两个预先声明...
2018-07-08 20:04:35
1105
原创 神经网络与深度学习笔记（三）
第三章 改进神经网络的学习方法3.1 交叉熵代价函数    理想的情况：我们希望神经网络可以从错误中快速地学习。 &a
2018-07-07 22:08:33
647
原创 神经网络与深度学习笔记（二）
第二章 反向传播算法如何工作如何计算代价函数的梯度？——反向传播 反向传播的核心：一个代价函数C关于任何权重w（或者偏置b）的偏导数的表达式。2.1 热身：神经网络中使用矩阵快速计算输出的方法 2.2 关于代价函数的两个假设第一个假设第二个假设：代价函数可以写成神经网络输出的函数 2.3 Hadamard 乘积 &nb...
2018-07-07 10:34:56
573
原创 神经网络与深度学习笔记（一）
第一章 使用神经网络识别手写数字1.1 感知器一个感知器    一个感知器接受几个二进制输入，并产生一个二进制输出：     神经元的输出：0或者1，由分配权重后的总和大于或小于阈值来决定。权重衡量这个输入的重要程
2018-07-07 10:23:11
1038
转载 卷积神经网络在无人驾驶中的应用
    无人驾驶的感知部分作为计算机视觉的领域范围，也不可避免地成为CNN发挥作用的舞台。本文将深入介绍CNN（卷积神经网络）在无人驾驶3D感知与物体检测中的应用。1 无人驾驶双目3D感知    在无人车感知中，对周围环境的3D建模是重中之重。激光雷达能提供高精度的3D点云，但密集的3D信息就需
2018-06-25 12:30:02
3662
转载 基于计算机视觉的无人驾驶感知系统
本文着重介绍基于计算机视觉的无人驾驶感知系统。在现有的无人驾驶系统中，LiDAR是当仁不让的感知主角。但是由于LiDAR的成本高等因素，业界有许多是否可以使用成本较低的摄像头去承担更多感知任务的讨论。本文探索了基于计算机视觉的无人驾驶感知方案。首先，验证一个方案是否可行需要一个标准的测试方法，我们介绍了广泛被使用的无人驾驶视觉感知数据集KITTI。...
2018-06-20 10:31:58
9027
2
转载 GPS及惯性传感器在无人驾驶中的应用
GPS是当前行车定位不可或缺的技术，但是由于GPS的误差、多路径以及更新频率低等问题，我们不能只依赖于GPS进行定位。而惯性传感器拥有很高的更新频率，可以跟GPS形成互补。而使用传感器融合技术，我们可以融合GPS与惯性传感器数据，各取所长，以达到较好的定位效果。1 无人驾驶定位技术 行车定位是...
2018-06-20 09:49:04
1377
1
转载 光学雷达在无人驾驶技术中的应用
1 无人驾驶技术简介 无人驾驶技术是多个技术的集成，包括传感器、定位与深度学习、高精地图、路径规划、障碍物检测与规避、机械控制、系统集成与优化、能耗与散热管理等。 在系统的感知端由不同的传感器组成，其中包括GPS用于定位，光学雷达用于定位及障碍物检测，照相机用于深度学习的物体识别，以及定位辅助。...
2018-06-20 09:22:48
693
转载 无人车绪论
1 自动驾驶分级 按照美国国家公路交通安全管理局指定的定义： Level 0：无自动化，司机对汽车所有功能拥有绝对控制权。任何驾驶辅助技术（前向碰撞预警、车道偏离预警、自动前灯控制等），只要仍需要人为控制汽车，都属于Level 0。 Level 1：单一功能级的自动化，驾驶员仍然对行车安全负责，驾驶员无法做到手和脚同时不操控。不过可以放弃部分...
2018-06-19 21:51:45
444
转载 白化深度学习与tensorflow——强化学习
绪论 强化学习（增强学习）是一种人工智能在训练中得到策略的训练过程。强化学习是希望让机器人（不管是人形机器人还是非人形机器人，总之是带有策略指导输出类型的机器人）有学习功能的一种学习方式。11.1 模型核心几个概念： Agent &...
2018-06-19 18:36:32
1006
转载 Tensorflow系统架构
1 TF依赖视图 TF的依赖视图如图1所示，描述了TF的上下游关系链。 TF托管在github平台，有google groups和contributors共同维护。TF提供了丰富的深度学习相关的API，支持Python和C/C++接口。TF提供了可视化分析工具Tensorboard，方便分析和调整模型。TF支持Linux平台，Wi...
2018-06-15 09:42:43
2256
原创 BinaryConnect: Training Deep Neural Networks with binary weights during propagations 论文笔记
0 摘要 深度神经网络在大量任务中取得了最先进的成果。GPU因为其更快的计算速度，帮助深度网络实现了这些突破。未来，在训练和测试时更快的计算速度对于进一步发展，以及能够在低功耗设备上的消费级别的应用可能至关重要。因此，对深度学习专用硬件的研究和开发展开了新的热潮。二值权重，即仅限于两个可能值（例如-1或1）的权重，通过用简单累加代替许多乘法—累加操...
2018-06-08 09:14:36
2906
原创 XNOR-Net: ImageNet Classification Using Binary Convolutional Neural Networks 论文笔记
0 摘要 我们针对标准卷积神经网络提出了两种有效的近似网络：二元权重网络和XNOR网络。二元权重网络中，卷积核用两个值来近似表示，从而节省32倍的存储空间。在XNOR网络中，卷积核和卷积层输入都是用两个值（1和-1）表示的。 XNOR网络主要使用二元运算进行卷积运算。这使得卷积操作速度提高了58倍，节省了32倍的内存。 XNOR网络实现了在CPU（...
2018-06-07 09:35:51
4743
2
原创 （大话数据结构）第三章 线性表
3.1 线性表的定义零个或多个数据元素的有限序列。 关键点： 1.它是一个序列，元素之间是有个先来后到的顺序。 2.若元素存在多个，则第一个元素无前驱，而最后一个元素无后继，其他元素都有且只有一个前驱和后继。 3.线性表强调是有限的。3.2 线性表的抽象数据类型数据类型：例如说整型，浮点型，字符型这些就是数据类型。性质相同的，集合在一块。 例如在c语言中，数据类型可以分为两类...
2018-06-06 17:12:39
661
1
原创 （剑指offer python）二维数组中的查找
题目 二维数组中的查找题目描述在一个二维数组中，每一行都按照从左到右递增的顺序排序，每一列都按照从上到下递增的顺序排序。请完成一个函数，输入这样的一个二维数组和一个整数，判断数组中是否含有该整数。 例如下面的二维数组就是每行、每列都递增排序。如果在这个数组中查找数字7，则返回true；如果查找数字5，由于数组不含有该数字，则返回false。 1 2 8 9 2 4...
2018-06-05 19:54:49
1442
原创 Decoupled Networks 论文笔记
0 摘要    基于内积运算的卷积操作一直是卷积神经网络（CNN）的核心组件，也是学习视觉表示的关键。我们观察发现，CNN学习的特征是类内差异（特征的幅值）和类间差异（特征间的夹角，语义差异）的耦合。我们提出了一种通用的解耦学习框架，该框架对类内差异和类间差异进行独立的建模。具体而言，我们首先将内积重新分解为解耦的形式，然后将其推广到解耦卷积算子，利用该...
2018-06-05 15:34:16
2771
3
原创 （剑指offer python）数组中重复的数字
题目 找出数组中重复的数字题目描述在一个长度为n的数组里的所有数字都在0到n-1的范围内。 数组中某些数字是重复的，但不知道有几个数字是重复的。也不知道每个数字重复几次。请找出数组中任意一个重复的数字。 例如，如果输入长度为7的数组{2,3,1,0,2,5,3}，那么对应的输出是第一个重复的数字2或者3。解题思路这里要特别注意： 1.找到任意重复的一个值并赋值到duplicati...
2018-06-04 17:22:28
1767
1
原创 CNN Features off-the-shelf: an Astounding Baseline for Recognition 论文笔记
0 摘要    最近的结果表明，卷积神经网络提取的通用描述符非常强大。本文添加了许多证据，证明确实如此。我们针对不同识别任务进行了一系列实验，这些实验使用了OverFeat网络，经过训练后可以在ILSVRC13上进行图像分类。我们使用从OverFeat网络提取的特征作为通用图像表示来处理图像分类，场景识别，细粒度识别，属性检测和图像检索等多种识别任务。令...
2018-06-04 12:59:39
3785
1
原创 深度学习中的评价指标
0 分类问题评价指标根据分类器在测试数据集上的预测或正确或不正确可以分为四种情况： TP——将正类预测为正类数 FN——将正类预测为负类数 FP——将负类预测为正类数 TN——将负类预测为负类数记忆方法： T=True=+1      &nbs
2018-06-03 09:44:40
7272
原创 Evaluation of Deep Convolutional Nets for Document Image Classification and Retrieval 论文笔记
0 摘要    本文基于深度卷积神经网络学习的特征，提出了一种新的文档图像分类和检索的技术。 在物体分类和场景分析中，深度神经网络能够从像素级别的输入中学习到分层的抽象特征，并简洁地表达出来。目前在文档分析领域探索的一些工作表明，深度学习的特征表达策略优于传统流行的手工提取特征。实验还表明： （i）从CNN中提取的特征对于压缩具有鲁棒性； （ii）在...
2018-06-02 18:33:24
1547
原创 Fast CNN-based document layout analysis 论文笔记
0 摘要    自动文档布局分析是认知计算和处理的关键步骤，它从文档图像中提取信息（如特定领域知识库的创建，图表和图像理解，从表格中提取结构化的数据等）。即使在过去几年中在这个领域取得了一些进展，但是挑战仍然存在：准确地将检测内容分类到语义上有意义的类别中。随着移动设备和云服务的普及，对数据使用既快速又经济的方法的需求已成为现实。在本文中，我们提出了一种...
2018-06-01 14:01:28
2422
2
转载 初学机器学习——直观解读KL散度的数学概念
转自机器之心：https://zhuanlan.zhihu.com/p/374526541 基础概念首先让我们确立一些基本规则。我们将会定义一些我们需要了解的概念。1.1 分布（distribution）分布可能指代不同的东西，比如数据分布或概率分布。我们这里所涉及的是概率分布。假设你在一张纸上画了两根轴（即 X 和 Y），我可以将一个分布想成是落在这两根轴之间的一条线。其中 X ...
2018-05-31 15:39:11
1013
原创 Learning a Similarity Metric Discriminatively, with Application to Face Verification 论文笔记
0 摘要我们提出了一种从数据中训练相似性度量的方法。该方法可以用于识别或验证应用，其中类别的数量非常大且在训练期间不知道，并且单个类别的训练样本的数量非常小。这个想法是学习一个将输入模式映射到目标空间的函数，使得目标空间中的L1范数接近输入空间中的“语义”距离。该方法应用于人脸验证任务。学习过程使差别损失函数最小化，该函数驱使相似性度量对于来自同一个人的一对面部而言较小，并且对于来自不同人员的...
2018-05-31 14:35:52
1452
原创 A Discriminative Feature Learning Approach for Deep Face Recognition 论文笔记
0 摘要       卷积神经网络已被广泛应用于计算机视觉领域，显着改善了最先进的技术。在大多数可用的CNN中，使用softmax loss（作为监督信号）训练深度模型。为了增强深度学习特征的判别力，本文提出了一种新的监督信号，称为center loss，用于人脸识别任务。具体而言，center loss为每个类（在人脸模型中，一个类就对应一个人）指定了...
2018-05-29 16:54:11
720
1
原创 FaceNet: A Unified Embedding for Face Recognition and Clustering 论文笔记
0 摘要       尽管有一些研究已经在人脸识别领域取得了重大进展，但大规模地实施人脸验证和识别仍然是一个严峻的挑战。在本文中，我们提出了FaceNet，它可以将人脸图像映射到欧几里得空间（人脸图像-&
2018-05-28 17:07:55
1983
1
原创 零基础刷题总结系列一（数理统计+机器学习+python编程）
来源：牛客网题目一链接：https://www.nowcoder.com/questionTerminal/ce5b813660b94c2bb27c5a274bce6d90 分析大牛的理解：信息增益通俗讲就是指区分度。如果对于一个属性，其结果都是等概率出现的，即信息熵为1，信息增益为0，那么这个属性就没有任何区分度，无实际意义。（个人理解：结果都是等概率出现意思就是结果的不确定性...
2018-05-10 14:32:13
2316
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人