学渣的博客

成长之路。github地址:https://github.com/wangbohy123/

TVM(端到端的优化栈)概述

陈天奇团队宣布推出 TVM,在微博上表示,「我们今天发布了 TVM,和 NNVM 一起组成深度学习到各种硬件的完整优化工具链,支持手机,cuda, opencl, metal, javascript 以及其它各种后端。欢迎对于深度学习,编译原理,高性能计算,硬件加速有兴趣的同学一起加入 dmlc ...

2019-07-30 23:32:11

阅读数 20

评论数 0

用tensorflow实现带批标准化(BN)的MNIST数据集识别训练程序

引入 这也是笔者第一次接触面向对象版的神经网络程序——其实也不难发现,我们每一次定义的层级结构中有很多重复的定义或操作,一旦引入面向对象编程方法将大大提高程序的可复用性。 并且我们本次要做的是带有BN结构的CNN程序。我们可以把BN操作看成一个放在激活函数操作之后的一个功能单元或层级结构,这样我们...

2019-07-23 13:23:01

阅读数 35

评论数 0

关于Batch Normalization(批标准化)的理解与代码实现

今天看了《深度学习》中关于批标准化的小节,一开始感觉有些困惑,后来搜集了资料后也有了自己的理解,总结如下。 概念问题 我认为要理解批标准化首先要理解标准化概念。 那么,什么是标准化? 通过中心化或标准化处理,得到均值为0,标准差为1的服从标准正态分布的数据。 事实证明,一个神经网络接收一张白...

2019-07-23 00:26:06

阅读数 30

评论数 0

深度学习中学习率的更新策略(MNIST实践)

引入 随机梯度下降(SGD)算法是现如今使用较为广泛的优化算法(此处的SGD指的是小批量梯度下降)。具体执行方法是不断迭代直到满足停止准则,在每次的迭代中取小批量训练集,计算损失函数对于权重参数的梯度,并以一定学习率执行权重更新。 《深度学习》一书中指出学习率(ε\varepsilonε)是SGD...

2019-07-20 23:09:57

阅读数 20

评论数 0

numpy与tensorflow中的随机函数总结

笔者感觉numpy、tensorflow中的随机函数有些杂,用的时候总是不知道用哪一个,所以在本篇博客中对其进行一个简单的总结。 numpy的随机函数 我们可以利用numpy随机(random)模块生成我们想要的随机序列或进行一系列随机操作。常用api如下: np.random.randint(...

2019-07-19 21:45:52

阅读数 22

评论数 0

Tensor Comprehensions(TC)语言语法简述

背景 Tensor Comprehensions 是一种可以构建 just in time(JIT)系统的语言,程序员可通过该语言用高级编程语言去高效的实现 GPU 等底层代码。该项目由face book开源发布。 我的理解是我们通过该语言可以更加有效的理解张量、运算图等。虽然tensorflow...

2019-07-17 15:45:41

阅读数 18

评论数 0

CNN(卷积神经网络)实现手写数字识别并与django集成

任务 设计一个卷积神经网络来实现对MNIST手写数字集的识别任务。 为了增加模型复杂度并进一步练习tensorflow的使用方法,所以模型设计的稍微复杂一些。网路结构总共包括五个层级,包括四个隐藏单元、一个输出单元。 层级结构如下图所示 包、数据集载入 import tensorflow as ...

2019-07-16 16:13:01

阅读数 45

评论数 0

深度学习之手写数字识别——用bp神经网络实现

任务 设计一个bp神经网络是实现对MNIST手写数字集的识别任务。 网路结构包含一个输入层、一个隐层和一个输出层。 其实总共只有两个层级结构。 包、数据集载入 我们使用tensorflow来简化我们的操作。 import tensorflow as tf import numpy as np fr...

2019-07-16 00:17:21

阅读数 18

评论数 0

机器学习算法之主成分分析——代码实现与相关理论分析

引入 主成分分析(PCA)是一种常见的数据分析方法,通过该方法我们可以对数据进行降维操作,并且保留方差较大(信息量大)的维度。 为了引入相关概念,我们先看一组数据: import pandas as pd import numpy as np import matplotlib.pyplot as...

2019-07-13 15:17:00

阅读数 30

评论数 0

贝叶斯线性回归

将均方误差应用到线性回归问题中 首先我们先回顾频率派的解决方法,即常规解法——利用最小二乘法解决问题。损失函数采用均方误差函数。 关于模型容量问题: 在《深度学习》中专门指出,模型的容量也是一个需要用户指定的超参数,即拟合的多项式次数。此处为了简化操作,暂定为一次多项式。 解决代码如下: impo...

2019-07-12 01:22:19

阅读数 35

评论数 0

tensorflow2.0GPU版本的环境配置与安装教程

现在tensorflow2.0也已经问世了,自然忍不住会想要安装一下,将安装过程记录如下: 一、创建虚拟环境 虚拟环境自然是在Anaconda下创建。因为tf2.0对应的是python3.7版本,所以我们在Anaconda Prompt或cmd下输入命令: conda create -n your...

2019-04-18 16:20:10

阅读数 3290

评论数 2

12行实现一个简易神经网络

准备工作 现实现一个具有三层的最简单的神经网络,激活函数采用sigmod函数。整体结构如下所示: x是输入的样本值。设定为5*3的矩阵,即代表5个样本值,每个样本有3个特征值。 y是标签,为5*1的矩阵代表每一个样本的标签。且取值范围为0或1。即完成一个简单的分类问题。 w0、w1为中间的权重...

2019-03-27 17:28:00

阅读数 108

评论数 0

线性回归的讨论

线性回归的概念 给定一个数据集D={(x1,y1),(x2,y2),(x3,y3)…},所谓线性回归就是模拟出一个线性模型f(X)=k∗X+bf(X) = k * X + bf(X)=k∗X+b,使得对所有的x∈\in∈D得到 f(X) ≈\approx≈ y ∈\in∈ D,即尽可能准确的...

2019-01-03 15:45:39

阅读数 129

评论数 0

利用opencv实现随机线条的绘制

刚发现一个比较好玩的方法,利用opencv创建一幅图片,之后在上面一直不停的绘制线条(实现一万次),线条的起始点、终止点、颜色都是随即设定。 就结果图片而言,有些凌乱,不过实现过程看起来很有意思! 代码如下: #include <opencv2\opencv.hpp&...

2019-01-02 17:08:24

阅读数 140

评论数 0

初探opencv——提高图片对比度与亮度(像素操作)

亮度与对比度的操作 我们用较原始的方法实现对亮度与对比度的调节,运算实质如下: 提升对比度主要调节 α\alphaα ,即使得每一个像素点之间数值的差距更大,对比度就提高了(对比更强烈了)。 提升亮度主要调节β\betaβ,令每一个像素点值大一些。 代码如下: #include &amp...

2019-01-02 15:28:09

阅读数 224

评论数 0

初探opencv——对像素进行操作(像素值取反、图片混合)

像素的操作 对像素进行操作,我们自然想到首先要提取像素点,上一篇文章中我们利用了Mat对象的ptr()函数可以返回一个指针类型的像素点,但是对指针进行操作似乎总是不和我们的常规,感觉有些危险。。。所以这篇文章主要用到at()函数 关于at(): at<template&...

2019-01-02 15:17:38

阅读数 607

评论数 0

初探opencv——Mat对象相关操作

Mat对象的相关操作 1.构造函数、拷贝方法、为像素赋初值 #include <opencv2\opencv.hpp> #include <iostream> #include <math...

2019-01-02 14:54:34

阅读数 51

评论数 0

初探opencv——利用矩阵掩膜操作提高对比度

今天开始更新opencv的学习。 笔者的开发环境选在vs2017+opencv3.2。 何为矩阵的掩膜操作?其实就是选定一部分我们自己感兴趣的区域,在这个区域内对像素进行操作,利用掩膜我们可以重新计算每个像素的像素值。 比如矩阵A: (1)0−10−15−10−10 \begin{matrix...

2019-01-02 14:39:07

阅读数 67

评论数 0

andorid之AlertDialog的实现

package com.example.administrator.myapplication; import android.content.DialogInterface; import android.support.v7.app.AlertDialog; import android.s...

2018-05-25 17:41:02

阅读数 146

评论数 0

android之进度条的实现

package com.example.administrator.progress; import android.app.Activity; import android.os.Bundle; import android.os.Handler; import android.os.Mess...

2018-05-25 17:16:02

阅读数 2782

评论数 1

提示
确定要删除当前文章?
取消 删除