自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

永远飞翔的鸟

专注于人工智能和大数据,以永恒之心,书写技术之美

  • 博客(208)
  • 资源 (6)
  • 论坛 (1)
  • 收藏
  • 关注

转载 caffe卷积神经网络中im2col 详解

转载:caffe im2col详解本文讲解的是caffe中卷积过程,众所周知caffe中卷积采用的是im2col和sgemm的方式。网上已经有很多的im2col的讲解。原本不打算写这篇文章(在此不得不吐槽下,网上有不少的讲解caffe im2col的过程的文章多是错的。一些文章和caffe的具体实现对不上,真不知道他们到底有没有看caffe代码的具体实现,正是因为那些文章,浪费了不少时间。)本文举例讲解caffe中im2col 和 sgemm的具体过程。在此之前先说明下:caffe中的数据是行优

2020-10-25 22:10:07 28

转载 Python, C-Python, Cython代码与GIL的交互

这篇笔记相对Python来说,有点底层,先来解释几个名词:C-Python: 或者CPython,指C实现的Python虚拟机的基础API。最通用的Python就是是基于C实现的,它的底层API称为C-Python API,所有Python代码的最终变成这些API以及数据结构的调用,才有了Python世界的精彩;Cython:准确说Cython是单独的一门语言,专门用来写在Python里面import用的扩展库。实际上Cython的语法基本上跟Python一致,而Cython有专门的“编译器”先将

2020-10-25 21:14:36 26

原创 Cython简介

.pxd文件.pxd 文件是由 Cython 编程语言 "编写" 而成的 Python 扩展模块头文件。.pxd 文件类似于 C 语言的 .h 头文件,.pxd 文件中有 Cython 模块要包含的 Cython 声明 (或代码段)。.pxd 文件可共享外部 C 语言声明,也能包含 C 编译器内联函数。.pxd 文件还可为 .pyx 文件模块提供 Cython 接口,以便其它 Cython 模块可使用比 Python 更高效的协议与之进行通信。可用 cimport ...

2020-10-25 11:14:45 26

转载 解决虚拟机提示VMware Workstation cannot connect to the virtual machine的问题

转载:https://blog.csdn.net/baigoocn/article/details/42267261今天打开VMware Workstation 11虚拟机时,弹出对话框,提示下述问题:VMware Workstation cannot connect to the virtual machine. Make sure you have rights to run the program, access all directories the program uses, and.

2020-10-25 10:20:22 52

原创 Linux 升级 Python 至 3.x

相关参考:https://blog.csdn.net/liang19890820/article/details/51079633https://www.cnblogs.com/yaradish/p/10503563.htmlhttps://blog.csdn.net/qq_28903377/article/details/96474035

2020-10-25 10:08:44 11

原创 scikit-learn源码编译

参考:https://scikit-learn.org/dev/developers/advanced_installation.html#install-bleeding-edge按照如上说明编译完毕代码后后,既可以使用sklean了。要点1:NoteYou will have to run thepipinstall--no-build-isolation--editable.command every time the source code of a Cython f...

2020-10-24 22:25:51 52

原创 darknet中gemm实现

darknet对卷积计算的处理实际上是:先使用im2col将input_channel*(height*width)的输入特征图(实际存储是按照行存储的,即是1*(input_channel*height*width)的一维数组)转化成(input_channel*kernel_size*kernel_size)*(out_height*out_width)的特征矩阵,这里同样是按行存储的。之后通过gemm函数实现通用的矩阵乘法实现卷积计算,即让卷积核矩阵*im2col后的输入特征矩阵。其中卷积核的

2020-10-24 10:48:58 31

原创 c++的矩阵乘法加速trick

最近读RNNLM的源代码,发现其实现矩阵乘法时使用了一个trick,这里描述一下这个trick。首先是正常版的矩阵乘法(其实是矩阵乘向量)void matrixXvector(float* destvect, float* srcmatrix, int srcmatrix_rownum, int srcmatrix_colnum, float* srcvect, int srcvect_size){ for(int row=0;row<srcmatrix_rownum;++row){

2020-10-18 09:16:05 23

原创 -O1 -O2 -O3 优化的原理是什么?

一般来说,如果不指定优化标识的话,gcc就会产生可调试代码,每条指令之间将是独立的:可以在指令之间设置断点,使用gdb中的 p命令查看变量的值,改变变量的值等。并且把获取最快的编译速度作为它的目标。当优化标识被启用之后,gcc编译器将会试图改变程序的结构(当然会在保证变换之后的程序与源程序语义等价的前提之下),以满足某些目标,如:代码大小最小或运行速度更快(只不过通常来说,这两个目标是矛盾的,二者不可兼得)。 O1优化会消耗少多的编译时间,它主要对代码的分支,常量以及表达式等进...

2020-10-17 22:26:16 108

原创 BLAS之GEMM和GEMV

BLAS简介BLAS全称是Basic Linear Algebra Subprograms是规定了一套低级的执行常见线性代数操作的规范。其实现经常针对特殊的机器进行优化,比较著名的·BLAS库有ACML, ATLAS, MKL, OpenBLAS。许多常见的数值软件均采用兼容BLAS规范的实现库来进行线性代数计算,比如Matlab, Numpy, Mathematica`。其中,Level 1 BLAS主要提供向量操作Level 2 BLAS提供矩阵向量操作(gemv)gemv

2020-10-17 09:56:28 65

原创 STL中二分查找函数的用法-关于lower_bound( )和upper_bound( )的常见用法

lower_bound( )和upper_bound( )都是利用二分查找的方法在一个排好序的数组中进行查找的。在从小到大的排序数组中,lower_bound( begin,end,num):从数组的begin位置到end-1位置二分查找第一个大于或等于num的数字,找到返回该数字的地址,不存在则返回end。通过返回的地址减去起始地址begin,得到找到数字在数组中的下标。upper_bound( begin,end,num):从数组的begin位置到end-1位置二分查找第一个大于num的数字

2020-08-23 22:43:46 123

转载 C++中的using namespace std的作用

转载:C++中的using namespace std的作用C++中的using namespace std的作用所谓namespace,是指标识符的各种可见范围。C++标准程序库中的所有标识符都被定义于一个名为std的namespace中。 iostream和iostream.h的区别: 后缀为.h的头文件C++标注已经明确提出不支持了。早些的实现将标准库功能定义在全局空间里,声明在带...

2020-05-01 13:13:38 136

转载 c++11&14-智能指针专题

学c++的人都知道,在c++里面有一个痛点,就是动态内存的管理,就我所经历的一些问题来看,很多莫名其妙的问题,最后都发现是内存管理不当引起的。但像java等其他一些语言则不会有这样的问题,为什么呢,因为它们有很好的处理内存的方法,比如java的垃圾回收机制,现在,我们c++终于也有了智能指针。什么是智能指针简单地说,智能指针是用对象去管理一个资源指针,同时用一个计数器计算引用当前指针对...

2020-04-28 23:24:11 74

转载 tensorflow源码分析

tensorflow源码分析

2020-04-18 10:34:19 99

转载 Bazel入门:编译C++项目

tensorflow的C和C++源码采用bazel进行编译,因此学习一下Bazel工具相关编译规则。文章已经写的很详细,不在赘述。转载:https://blog.csdn.net/elaine_bao/article/details/78668657Bazel入门:编译C++项目...

2020-04-18 10:26:08 125

原创 Ubuntu16.04查看用户和密码以及忘记密码后重置解决方案

要想修改Ubuntu系统密码,第一步是要进入GRUB界面,网上有一些方法介绍怎么进入,介绍说开机时,长按shift,或者点击ESC,刚开始的时候我怎么点击就是进不去,还有一种方法说点击e,我也试了,后来发现是点击的时间不对,要在刚出现进入系统的进度条的时候就点击,这个时间只有1-2秒,使用上面三种方法都可以,但是需要在刚出现加载界面的时候就点击,进入之后界面如下:注意:刚开机,会出现如下...

2020-04-12 13:23:00 1537

原创 C与C++编程复习

前言最近要用C++写tensorflow程序,所以特来复习一下,以作记录。数组的表示和指向数组的指针

2020-04-10 21:38:58 38

原创 VS2015的下载和安装以及VS2015头文件和库文件目录环境设置

一、VS中添加LIb库及头文件(外部依赖项)的步骤:1、添加工程的头文件目录:工程—属性—配置属性—c/c++ —常规—附加包含目录:加上头文件存放目录。2、添加文件引用的lib静态库路径:工程—属性—配置属性—链接器—常规—附加库目录:加上lib文件存放目录。然后添加工程引用的lib文件名:工程—属性—配置属性—链接器—输入—附加依赖项:加上lib文件名。3、添加工程引用的dll动态库:...

2020-04-08 21:39:12 400

原创 win10+cuda10.0+vs2015搭建tensorflow的C++编译环境

转载:https://blog.csdn.net/qq_32095699/article/details/80855402参考链接:1、https://blog.csdn.net/zzpong/article/details/802828142、https://blog.csdn.net/u013165921/article/details/77891913总结一下方...

2020-04-07 20:25:39 225

原创 window10系统英伟达NVIDIA显卡驱动和CUDA软件的安装和升级

目录一.如何查看电脑是否支持CUDA及支持的CUDA版本二、如何知道我的显卡是否支持CUDA加速三、查看显卡是否支持CUDA及支持的版本如下方案亲测试可用一.如何查看电脑是否支持CUDA及支持的CUDA版本一般NVIDA的GPU才支持CUDA,可直接跳到2进行查看,1是使用GPU-z软件进行检测。1、如何知道我的显卡是否支持CUDA加速2、查看显卡是否支...

2020-04-07 08:31:26 2530 2

原创 ububtu16下安装Bazel

1.本人参考使用二进制安装程序(推荐)方法,安装成功。2.官方参考https://docs.bazel.build/versions/master/install-ubuntu.html3.bazel 各个版本下载:https://github.com/bazelbuild/bazel/releases==========================================...

2020-04-06 21:09:15 106

原创 回溯法 子集树模板 系列 ——0-1背包问题(回溯法和动态规划及其比较)

问题给定N个物品和一个背包。物品i的重量是Wi,其价值位Vi ,背包的容量为C。问应该如何选择装入背包的物品,使得放入背包的物品的总价值为最大?一、回溯法分析显然,放入背包的物品,是N个物品的所有子集的其中之一。N个物品中每一个物品,都有选择、不选择两种状态。因此,只需要对每一个物品的这两种状态进行遍历。解是一个长度固定的N元0,1数组。套用回溯法子集树模板,做起来不要太爽...

2020-03-29 19:59:26 140

原创 回溯法概述

前言虽然之前也用过回溯法,但总是过一段时间,又会忘记。思来想去,得出一个结论”看(做)一两个回溯法的例子,思想仍然是别人;看(做)多个回溯法的例子,思想才能成为自己的“,于是决定对回溯法进行一个系统的整理和学习,挖掘其精髓,整理出系统的思路和模板,以期待自己能够对该类问题游刃有余。回溯法有“通用的解题法”之称。1.定义:也叫试探法,它是一种系统地搜索问题的解的方法。2.基本...

2020-03-29 11:04:41 105

原创 迷宫问题的三种求解方法(递归求解、回溯求解和队列求解)

目录一、迷宫问题的三种求解方法递归求解回溯求解队列求解二、华为迷宫问题一、迷宫问题的三种求解方法在迷宫问题中,给定入口和出口,要求找到路径。本文将讨论三种求解方法,递归求解、回溯求解和队列求解。在介绍具体算法之前,先考虑将迷宫数字化。这里将迷宫用一个二维的list存储(即list嵌套在list里),将不可到达的位置用1表示,可到达的位置用0表示,并将已经到过的位置用...

2020-03-25 17:37:24 176

原创 leetcode 46-47. 全排列

给定一个 没有重复 数字的序列,返回其所有可能的全排列。示例:输入: [1,2,3]输出:[ [1,2,3], [1,3,2], [2,1,3], [2,3,1], [3,1,2], [3,2,1]]解法1:class Solution: def permute(self, nums: List[int]) -> List[List[i...

2020-03-24 18:58:16 42

原创 leetcode 按摩师

一个有名的按摩师会收到源源不断的预约请求,每个预约都可以选择接或不接。在每次预约服务之间要有休息时间,因此她不能接受相邻的预约。给定一个预约请求序列,替按摩师找到最优的预约集合(总预约时间最长),返回总的分钟数。注意:本题相对原题稍作改动示例 1:输入: [1,2,3,1]输出: 4解释: 选择 1 号预约和 3 号预约,总时长 = 1 + 3 = 4。示例 2:输入:...

2020-03-24 08:27:57 100

原创 leetcode 142. 环形链表 II

思考:对如下图的分析,将头部的线往后合并,则-3刚好在2的位置。可以看成从-3(2)的位置出发,快指针是慢指针的两倍,所以第一次他们相遇,是快指针转动了2圈,慢指针只转动了1圈。此时,慢指针在2处。(注意:3算第一步,4算第二部,第五步是2),注意:相遇的时候,不是在环形入口点。相遇的点到入口点的距离和最开始点到入口点的距离相等class Solution(object):...

2020-03-22 20:47:41 47

原创 特征提取器transformeCNN、RNN的对比

2020-03-18 14:15:28 282

转载 在线最优化求解

转载:https://www.cnblogs.com/yymn/category/691549.html在线最优化求解(Online Optimization)之五:FTRL在线最优化求解(Online Optimization)之四:RDA在线最优化求解(Online Optimization)之三:FOBOS在线最优化求解(Online Optimization)之二:截断梯度...

2020-03-16 09:56:37 228

转载 天池离线赛 - 移动推荐算法

因为思路已经总结的比较好了,所以,我就不多说了。拿过来作记录,供学习。转载网址:https://blog.csdn.net/Snoopy_Yuan/article/details/72454636天池离线赛 - 移动推荐算法(二)天池离线赛 - 移动推荐算法(三)...

2020-03-13 09:27:40 121

原创 阿里移动推荐算法大赛分享记录

fenxiang2pooling应用在图像中,是为了解决图像旋转不变性问题的在我们推荐系统中,我们需要尽可能保存原有的信息,因此,我们不使用pooling...

2020-03-10 17:40:45 117

转载 天池历届大赛答辩PPT及视频

1、阿里移动推荐算法: 答辩视频:https://space.dingtalk.com/c/gQHOEnXdXw2、资金流入流出预测: 答辩视频:https://space.dingtalk.com/c/gQHOEnXi6w3、阿里移动推荐&资金流入流出预测答辩PPT下载:https://tianchi.shuju.aliyun.com/mini/reply.htm?s...

2020-03-10 14:19:13 224

原创 机器学习实战之销量预测(kaggle:Rossmann Store Sales)

一、评价指标实现代码1 def evaluate(self): if self.train_ratio == 1: return 0 total_sqe = 0 num_real_test = 0 for record, sales in zip(self.X_val, self.y_va...

2020-03-07 21:27:31 1148

转载 推荐系统/机器学习(Machine Learning)/点击率(CTR)/转化率(CVR)预估/点击率预估汇总

转载:https://www.ctolib.com/mJackie-RecSys.htmlhttps://github.com/mJackie/RecSysRoadMap推荐系统 计算广告 统计学习模型 技术文章 实践工具 深度学习模型 技术文章 实践代码 相关比赛 Criteo Display Advertising Challenge Avaz...

2020-03-07 08:54:17 410

原创 FTRL之FM和LR实战(使用稀疏数据进行实战)

目录一、FTRL之FM实战1.建模并进行训练2、 修改正则参数重新进行训练二、FTRL之LR实战1.建模,并进行训练2.修改参数,重新进行训练一、FTRL之FM实战代码参考:https://github.com/comadan/FM_FTRLhttps://www.kaggle.com/c/avazu-ctr-prediction/discussi...

2020-03-06 11:47:43 581

转载 Kaggle 数据挖掘比赛经验分享

转载:https://zhuanlan.zhihu.com/p/26820998简介Kaggle 于 2010 年创立,专注数据科学,机器学习竞赛的举办,是全球最大的数据科学社区和数据竞赛平台。笔者从 2013 年开始,陆续参加了多场 Kaggle上面举办的比赛,相继获得了 CrowdFlower 搜索相关性比赛第一名(1326支队伍)和 HomeDepot 商品搜索相关性比赛第三名(21...

2020-03-06 08:29:10 154

转载 FTRL的FM公式推导和实现

注解:如上是针对y的取值为-1或者1.当y的取值为0或者1时,公式为:(后续添加)、y平 是sigmoid的输出值,即预测值。针对不同的算法,该值对应的X的表达式步一样。如果是LR,后期优化,算法就是最简单的LR+FTRL如果是FM,后期优化,算法就是FM+FTRL。FTRL是框架,如上这一步,针对所有的算法都相同。不同之处在于y平的表达式,再求W的导数的时候不同...

2020-03-05 20:11:45 148

原创 FTRL实战之tf.train.FtrlOptimizer(代码采用的稠密数据)

该代码适用与稠密数据# %load FTRL_Optimizer.py# Date: 2018-08-17 09:09# Author: Enneng Yang# Abstract:FTRLimport sysimport numpy as npimport matplotlib.pyplot as pltimport tensorflow as tffrom mpl_to...

2020-03-05 15:03:45 1024

原创 FTRL实战之LR+FTRL(代码采用的稠密数据)

FTRL(Follow The Regularized Leader)是一种优化方法,就如同SGD(Stochastic Gradient Descent)一样。这里直接给出用FTRL优化LR(Logistic Regression)的步骤: 其中pt=σ(Xt⋅w)是LR的预测函数,求出pt的唯一目的是为了求出目标函数(在LR中采用交叉熵损失函数作为目标函数)对...

2020-03-05 14:33:44 474

原创 在线学习算法的比较(从SGD-OGD-FOBOS-RDA-FTRL到FTML )

动机全量训练的问题,样本量大,训练时间长,特征量大,同步时间长,每日全量训练,花费高,生效迟增量训练的好处,增量训练花销低,生效块发展SGD-OGDFOBOSRDAFTRLFTML全部代码:https://github.com/YEN-GitHub/OnlineLearning_BasicAlgorithmSGD:梯度下降法(学习率为恒定)下面以逻辑回归为例实现...

2020-03-05 12:23:41 791 1

FTRL_FM_LR.html

使用FM和LR分别进行了FTRL优化,包含详细的调试步骤

2020-03-06

alphaFM-master.zip

FM_FTRL实现

2020-03-05

OnlineLearning_BasicAlgorithm-master.zip

在线学习优化方法SGD-OGD-FOBOS-RDA-FTRL-FTML 总结

2020-03-05

train_mnist.zip

采用dcoker搭建tensorflow_sever对外服务。代码采用minist数据集,训练了模型,并保存为PB文件,然后使用docker容器搭建了tensorflow_sever,并进行了测试。

2020-02-26

minist_tensorflow_pb_train_predict.zip

tensorflow训练手写数字识别模型,保存为pb文件,并采用pb文件进行预测。 tensorflow训练手写数字识别模型,保存为pb文件,并采用pb文件进行预测。 tensorflow训练手写数字识别模型,保存为pb文件,并采用pb文件进行预测。 tensorflow训练手写数字识别模型,保存为pb文件,并采用pb文件进行预测。 tensorflow训练手写数字识别模型,保存为pb文件,并采用pb文件进行预测。

2020-02-22

Word2Vec中的数学原理详解.pdf

从数学角度详细讲解word2vec模型的原理,目录如下:(一)目录和前言(二)预备知识(三)背景知识(四)基于 Hierarchical Softmax 的模型(五)基于 Negative Sampling 的模型(六)若干源码细节

2020-02-12

m0_37870649的留言板

发表于 2020-01-02 最后回复 2020-01-02

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除