2015年11月_阿炜

12月 11月 01月

转载 0 范数、1 范数、2 范数有什么区别？

0 范数、1 范数、2 范数有什么区别？JI Weiwei你是问向量范数还是矩阵范数？要更好的理解范数，就要从函数、几何与矩阵的角度去理解，我尽量讲的通俗一些。我们都知道，函数与几何图形往往是有对应的关系，这个很好想象，特别是在三维以下的空间内，函数是几何图像的数学概括，而几何图像是函数的高度形象化，比如一个函数对应几何空间上若干点组成的图形。但当函数与几何超出三维空间

2015-11-30 22:02:41 8354

转载贝叶斯决策实例

【此文介绍了贝叶斯公式】现在举一个例子说明怎么使用贝叶斯公式来做决策。例子：假设有100个人，每个人都有自己的生日。1年有12个月，假设这100个人的生日从1月到12月的人数的分布情况如下： 3 4 5 7 10 13 14 15 12 8 5 4那么1月到12

2015-11-30 19:29:43 2111

转载线性代数A矩阵乘以A的转置的含义或者几何意义

（下面以A(T)表示A的转置.）先从奇异值说起.我个人的理解,奇异值是特征值的一种推广.因为只有方阵才可能具有特征值,对于实际遇到的一些问题（比如最小二乘问题）,往往遇上长方阵,长方阵根本没有特征值.因而就有必要对特征值做推广,这就是奇异值.再看什么是奇异值.对于任意矩阵A（甚至是非方的）,A(T)A（这个时候就变成方阵了,可以算特征值了）的特征值就称为A的奇异值.奇异值有个特性,就是

2015-11-22 22:53:15 58341

转载浅谈协方差矩阵

统计学的基本概念学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标准差。首先我们给你一个含有n个样本的集合X={X1,……Xn}，依次给出这些概念的公式描述，这些高中学过数学的孩子都应该知道吧，一带而过。很显然，均值描述的是样本集合的中间点，它告诉我们的信息是很有限的，而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例，[0，

2015-11-22 22:01:17 876

转载 10 种机器学习算法的要点（附 Python 和 R 代码）

10 种机器学习算法的要点（附 Python 和 R 代码）英文出处：SUNIL RAY。欢迎加入翻译组。前言谷歌董事长施密特曾说过：虽然谷歌的无人驾驶汽车和机器人受到了许多媒体关注，但是这家公司真正的未来在于机器学习，一种让计算机更聪明、更个性化的技术。也许我们生活在人类历史上最关键的时期：从使用大型计算机，到个人电脑，再到现在的云计算。关键的不是

2015-11-21 11:23:07 1267

转载奇异值分解(SVD) --- 几何意义

奇异值分解(SVD) --- 几何意义 PS：一直以来对SVD分解似懂非懂，此文为译文，原文以细致的分析+大量的可视化图形演示了SVD的几何意义。能在有限的篇幅把这个问题讲解的如此清晰，实属不易。原文举了一个简单的图像处理问题，简单形象，真心希望路过的各路朋友能从不同的角度阐述下自己对SVD实际意义的理解，比如个性化推荐中应用了SVD，文本以及Web挖掘的时候

2015-11-21 10:54:07 646

转载卷积神经网络CNN

卷积神经网络CNN2014年09月05日近来在了解深度学习。深度神经网络的一大特点就是含有多隐含层。卷积神经网络（CNN）算是深度神经网的前身了，在手写数字识别上在90年代初就已经达到了商用的程度。本文中将简要介绍CNN，由于相应的博文资料已经很多，也写的很好，本篇最有价值的是参考资料部分。前向神经网络数字识别假设我们的图片是28*28像素

2015-11-17 16:27:33 666

转载 Deep Learning（深度学习）学习笔记整理系列之常用模型

Deep Learning（深度学习）学习笔记整理系列之常用模型（四、五、六、七）九、Deep Learning的常用模型或者方法9.1、AutoEncoder自动编码器 Deep Learning最简单的一种方法是利用人工神经网络的特点，人工神经网络（ANN）本身就是具有层次结构的系统，如果给定一个神经网络，我们假设其输出与输入是

2015-11-11 21:44:07 4218 1

转载 PCA （主成分分析）详解（写给初学者）结合matlab

一、简介 PCA（Principal Components Analysis）即主成分分析，是图像处理中经常用到的降维方法，大家知道，我们在处理有关数字图像处理方面的问题时，比如经常用的图像的查询问题，在一个几万或者几百万甚至更大的数据库中查询一幅相近的图像。这时，我们通常的方法是对图像库中的图片提取响应的特征，如颜色，纹理，sift，surf，vlad等等特征，然后将其保存

2015-11-08 17:11:17 917

转载笔记：Delaunay三角剖分(Delaunay Triangulation)相关知识

笔记：Delaunay三角剖分(Delaunay Triangulation)相关知识最近接触到计算Delaunay三角剖分的问题，也算是计算几何的一个经典问题了。按照别人的算法，也自己实现了个（源代码下载），发现点集大的时候，程序计算起来特慢。后来分析发现，别人程序号称的都是O(nlogn)的，我的却成了O(n*n)的，算法都是一样，后来才发现是数据结构的问题，看来程序＝算法＋数据结构，

2015-11-05 09:03:38 991

转载从二维点集重建平面形状-浅议凹包算法 - Jumanco&Hide

从二维点集重建平面形状-浅议凹包算法 - Jumanco&Hide主题算法向量游戏开发问题背景近期遇到一个计算几何问题，需要从点集中重建一个合理的几何形状。这个问题既有二维的也有三维的，二维的情况相对简单一点，即给出平面区域的一系列散点，求出一定程度上反映这些散点轮廓的平面多边形，给出边的连接方式即可。如从下图的左图散点重建为右图的形状：

2015-11-01 18:43:35 13894 4

LX1815-RTL-Driver lenovo 联想蓝牙 5.0 驱动 8761B windows 7/10 linux/ubuntu

联想LX1815 usb蓝牙5.0 驱动 windows 下和linux下都有，可连接蓝牙鼠标、耳机等

2020-11-13

mnist库jpg图像版-32*32大小

我把mnist库转成jpg格式了，3通道，32*32像素的。文件的第一个数字是类别。

2018-05-10

libcuda.so.1

nvidia中cuda的一个关键文件，有错误操作时容易丢失。

2018-01-21

Outrageously Large Neural Networks： The Sparsely-Gated Mixture-of-Experts Layer

Google：One Model To Learn Them All，一个模型什么都能学。

2017-06-23

Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer

神经网络吸收信息的能力受限于其参数的数量。在这篇论文中，我们提出一种新类型的层——稀疏门控专家混合层（Sparsely-Gated Mixture-of-Experts(MoE)），它能够在仅需增加一点计算的基础上被用于有效提升模型的能力。这种层包含了多达数万个前向的子网络（feed-forward sub-networks，被称为专家（expert）），总共包含了多达数百亿个参数。一个可训练的门网络（gating network）可以确定这些专家的稀疏组合以用于每一个样本。我们将这种 MoE 应用到了语言建模任务上——在这种任务中，模型能力对吸收训练语料库中可用的大量世界知识而言是至关重要的。我们提出了将 MoE 层注入堆叠 LSTM（stacked LSTM）的新型语言模型架构，得到的模型的可用参数数量可比其它模型多几个数量级。在语言建模和机器翻译基准上，我们在更低的成本上实现了可与当前最佳表现媲美或更好的结果，其中包括在 1 Billion Word Language Modeling Benchmark 上测得的 29.9 的困惑度（perplexity），以及在 WMT'14 En to Fr（英法翻译）和 En to De（英德翻译）上分别得到了 40.56 和 26.03 的 BLEU 分数。

2017-06-23

A simple neural network module for relational reasoning -《简单事实关系推理模块》

模块化的、具有关系推理能力的深度神经网络架构 RN介绍，可以“即插即用”，提升其他深度神经网络结构（如 CNN）关系推理的能力。

2017-06-17

Visual Interaction Networks -《视觉互动网络》

DeepMind 的论文，视觉互动网络 VIN，能够预测视觉场景中各个物体在未来几百步所处位置

2017-06-17

nvidia-docker_1.0.1-1_amd64.deb

更方便配置的能利用nvidia GPU的docker. docker是硬件无关和平台无关的，但是在使用 nvidia GPU的时候，需要依赖nvidia-driver，此时就想到将nvidia driver安装到Container内，但是Container内的nvidia driver版本要和host主机的版本一样，所以这样就不符合docker的平台无关硬件无关的特性了。所以现在的nvidia-docker的解决方案是在image里不安装nvidia driver，而是在启动container时通过挂载driver文件或者指定特定的硬件的方式来启动container。

2017-03-19