自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(32)
  • 资源 (2)
  • 收藏
  • 关注

原创 AI应用中的若干思考

前文介绍了人工智能(AI)的“能”与“不能”(https://blog.csdn.net/foreseerwang/article/details/80531756),这里继续介绍一些学习和应用AI过程中的感想和心得。 个人理解,AI的应用目的是捕捉大量繁杂干扰下的数据中的规律。暂时不考虑数据是否“大量”的问题,这里还有两个关键词:干扰、规律。干扰是不需要的、随机化的影响因素;规律则是希望捕捉的影...

2018-06-21 09:09:44 499

原创 人工智能“能” “不能”

国家政策利好,民间资本追捧下,人工智能一股气吹成了一个大风口。不少人言必提及,外能刷格调,内可提自信……做人工智能的公司更是雨后春笋,PR倒是天花乱坠,但实际到底是人工还是智能,谁做谁知道。对人工智能的态度保守者认为不过是又一轮潮流而已,毕竟也不是第一次了;激进者则认为机器不日可统治人类,下一个“吓尿单位”指日可待。但是不讲逻辑的炒态度,都是耍流氓。咱可以理性聊聊,人工智能能不能?(请注意:这里说...

2018-05-31 23:30:36 814

原创 Tensorflow图像random_shift函数似乎有问题

环境:Python 3.6,TensorFlow 1.15希望对图像进行augmentation,使用tf.keras.preprocessing.image.random_shift函数系统报错:unsupported operand type(s) for *: 'Dimension' and 'float'找到提示的错误语句:tensor_shape.py中的line 446是 return self * other尝试修改该错误语句return self * other -->

2021-02-17 18:17:53 581

原创 神经网络基础结构演进趋势洞察

自从2012年AlexNet激起新一轮深度学习热潮以来,深度神经网络快速发展,众多教授、博士迅速挖坑、填坑,把神经网络的基础结构研究的透透彻彻。最近整体看了几十篇神经网络基础结构的文章,作为备忘,简单整理记录如下:名称 推出时间 核心创新点 AlexNet 2012 深度学习开山之作,ReLU、DropOut、池化 VGG 2014.9 小尺寸卷积核...

2019-02-06 19:38:17 460

原创 手写中文文章识别(5)——训练及验证结果

手写中文文章识别(1)——问题描述https://blog.csdn.net/foreseerwang/article/details/80833749手写中文文章识别(2)——样本集构建https://blog.csdn.net/foreseerwang/article/details/80842498手写中文文章识别(3)——data feedinghttps://blog...

2018-07-20 18:37:23 1930 8

原创 手写中文文章识别(4)——模型搭建

手写中文文章识别(1)——问题描述https://blog.csdn.net/foreseerwang/article/details/80833749手写中文文章识别(2)——样本集构建https://blog.csdn.net/foreseerwang/article/details/80842498手写中文文章识别(3)——data feedinghttps://blog...

2018-07-17 11:38:44 1081

原创 手写中文文章识别(3)——data feeding

手写中文文章识别(1)——问题描述https://blog.csdn.net/foreseerwang/article/details/80833749手写中文文章识别(2)——样本集构建https://blog.csdn.net/foreseerwang/article/details/80842498前文提到,样本集构建会形成文章文件(.code/.char/.len)和手写中文图片文件,本文...

2018-07-04 16:14:21 997 1

原创 手写中文文章识别(2)——样本集构建

首先要明确思路。假设有10万篇文章,每篇1000字,共计1亿字。很显然,不可能按照文章内容,逐字把图片都读取、保存下来形成样本集,这个存储量会是一个天文数字,其中有大量的冗余。更好的办法是分别保存文章和手写汉字图片集,在训练时即时生成样本集batch,训练完毕便扔掉,再重新生成下一batch。按照这一思路以及上文(https://blog.csdn.net/foreseerwang/article...

2018-06-28 14:16:43 2007

原创 手写中文文章识别(1)——问题描述

从本文开始,介绍近期学习和练习的一个项目:手写中文文章识别。简单举例,就是如下这样一篇手写文章的识别。 这张图是我构造的,可以看出来很规整。实际需要识别的文章可能是扫描或拍照获得的,肯定不会这么干净。 针对这样一篇手写文章的识别,首先需要进行图片预处理:包括纠正畸变、降噪、文字图片切割等等。输出可能包括两种情况:第一种是切出每个字,第二种是切出每句话或每行文字。考虑到通用性,这里使用第一种情况,即...

2018-06-27 19:08:41 2667

原创 Tensorflow Dataset.from_generator使用示例

之前的博文介绍了使用Tensorflow Dataset进行数据导入的方法及其优势。最近在实际使用中越发感觉到这个方式非常好用,尤其是发现了.from_generator这个method。 关于Dataset.from_generator的简单介绍,请参见如下两个链接:https://tensorflow.google.cn/versions/master/api_docs/python/tf/d...

2018-06-06 18:38:49 32372 10

原创 Tensorflow两种数据读取方法应用、对比及注意事项

本文对比介绍了两种Tensorflow针对大数据集的数据读取方法,具体来说是:方法1:tf.train.slice_input_producer+流水线(这里用这个API指代这一类,其实还有其他的API)。方法2:Dataset方法,据说是Tensorflow 1.3版本之后引入的新API。使用起来比方法1更方便直观。关于这两种方法的具体介绍,这里不再赘述,建议参考何之源的这两篇文章:https:...

2018-05-02 19:52:22 2195

原创 简单Tensorflow线性拟合类及tf.get_variable()使用示例

在完成cs224d第二个大作业(assignment2)之后,个人认为它的模型类封装做的不错,为方便以后学习使用,特简化形成一个简单的线性拟合类(class),以备后续学习使用。同时,在其中探索了利用tf.variable_scope()和tf.get_variable()进行变量共享的方法。代码见后面。在完成cs224d assignment2作业时,用到variable_scope()和get...

2018-03-09 16:43:47 505

原创 Word2vec:CBOW和Skip-Gram算法简介

本文主要来自于斯坦福大学CS224d课程笔记note1,文后给出的范例来自于该课程作业assignment1。在完成该作业的时候参考了如下链接中的代码: http://blog.csdn.net/han_xiaoyang/article/details/51760923 参考的意思是,在有些无法理解的地方会阅读这个代码,理解之后自己再实现。 这个文档网上流传很广,但其中是有些笔误的,譬如:nega...

2018-02-09 17:01:33 5694

原创 非线性SSM问题:从EKF到UKF再到PF

SSM问题(State space models)即:z为隐变量,y为观测量% 状态转移函数:z(k) = f(z(k-1)) + v% 状态观测函数:y(k) = h(z(k)) + n% 已知:y(1:k)% 目标:计算z的估计值当函数f和h为线性变换时,此为线性高斯SSM(LG-SSM)问题或线性动态系统(LDS)问题,详见MLaPP式(18.3)-(18

2018-01-09 14:18:48 978

原创 卡尔曼滤波及卡尔曼平滑不等间距示例

在之前的一篇博客里(http://blog.csdn.net/foreseerwang/article/details/77883616)介绍了卡尔曼滤波和卡尔曼平滑的理解,后来发现,MLaPP这本书的第18章里已有介绍本文给出了一个更加完整的卡尔曼滤波和卡尔曼平滑子程序,并基于该子程序,给出观测点序列间不等间距情况下的卡尔曼滤波和卡尔曼平滑应用示例。如下是结果:卡尔曼

2018-01-05 16:02:42 3496

原创 粒子滤波(particle filtering)梳理

本文根据MLaPP第23章,从importance sampling开始梳理,直至导出粒子滤波,并给出相应的范例程序。

2017-12-25 10:25:28 9482 1

原创 Gibbs Sampling for Gaussian Mixture Model

使用Gibbs Sampling算法进行GMM模型聚类

2017-12-12 18:19:38 1749 2

原创 Gibbs Sampling for Ising model

给出了Gibbs sampling用于Ising模型的实现

2017-11-24 10:48:04 811

原创 Variational Inference入门:variational bayesian EM

实现了variational bayesian EM进行聚类,并与之前的k-means和EM求解高斯混合模型(GMM)的结果进行了对比。

2017-11-02 17:41:13 2883

原创 Variational Inference入门:Mean field for the Ising model

本文实现了MLaPP一书21.3.2节中的一个范例:Mean field for the Ising model是。回头来看,完成这个范例非常简单,就是一个公式(21.52)。但是,更重要的是理解这个公式的推导过程原理,并不容易。

2017-10-25 16:40:59 1275

原创 关于卡尔曼滤波和卡尔曼平滑关系的理解

对比分析卡尔曼滤波(Kalman Filter)和卡尔曼平滑(Kalman smoother)的不同,提醒注意卡尔曼平滑在离线数据处理中的重要作用。

2017-09-07 16:38:45 25133 7

原创 隐马尔科夫(HMM)的Matlab实现

实现了隐马尔科夫模型的EM求解,并与K-means和GMM聚类进行了对比。

2017-09-01 15:05:02 16701 11

原创 卡尔曼滤波示例

卡尔曼滤波5个公式,看起来简单,但想弄明白并不容易。从直接理解上,个人感觉比较有帮助的是这篇博客:http://blog.csdn.net/u013453604/article/details/50301477 ;但卡尔曼滤波本质上是一种linear dynamical systems,想理解透彻最好还是搞清楚这个东西,可参考PRML第13章。现在先把最简单的示例传上来,后续根据lin

2017-08-23 11:18:37 5198 3

原创 澄清核函数(kernel)的几个问题

各种学术书籍上对kernel的定义和解释比较准确,但一些网文中存在概念混淆。我从个人理解的角度澄清三个容易弄错的概念,还是那句话,学术书籍里写的很清楚,我这里只不过是再啰嗦一遍。

2017-08-11 15:41:02 556

原创 RVM算法的matlab实现

相比于SVM,MLaPP对RVM评价颇高。这里用Matlab实现了简单的RVM算法,具体算法详见PRML 7.2节。

2017-08-01 10:47:28 8426 8

原创 k-means和EM算法的Matlab实现

说明:1. 本文实现了K. P. Murphy的MLaPP一书第11章的k-means和GMM/EM算法;2. Matlab代码;3. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;MLaPP书中说的很明白,k-means可以看做是GMM的一个特例。既然是特例,就有不适用的地方。本文构造出如图1所示的通用GMM数据

2017-07-17 11:50:52 2104 3

原创 茆诗松《贝叶斯统计》第二版勘误

1. 第11页,例1.3.1中,sigma0的定义应该是:sigma0^2=sigma^2/n,书中把n写成pi了2. 第12页,1.3.4公式的第二部分,应该是:1/tao1^2 = 1/ sigma0^2 + 1/tao^2,原文把+写成=了待续...

2017-02-16 18:01:19 3679 3

原创 机器学习技法作业三题目19-20

说明:1. 此处是台大林轩田老师主页上的hw7,对应coursera上“机器学习技法”作业二;2. 本文给出大作业(19-20题)的代码;3. Matlab代码;4. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;5. 对结果没把握。如有问题,欢迎指教,QQ:50834。相比于题目13-18,题目19-20需要修改主程序和一个函数

2016-09-28 10:40:30 317

原创 机器学习技法作业三题目16-18

说明:1. 此处是台大林轩田老师主页上的hw7,对应coursera上“机器学习技法”作业二;2. 本文给出大作业(13-15题)的代码;3. Matlab代码;4. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;5. 对结果没把握。如有问题,欢迎指教,QQ:50834。题目16-18仅更新主程序,函数可继续使用题目1

2016-09-28 10:34:08 872

原创 机器学习技法作业三题目13-15

说明:1. 此处是台大林轩田老师主页上的hw7,对应coursera上“机器学习技法”作业二;2. 本文给出大作业(13-15题)的代码;3. Matlab代码;4. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;5. 如有问题,欢迎指教,QQ:50834。题目13-15,分为主程序和四个函数主程序:c

2016-09-27 18:59:34 587

原创 机器学习技法作业二题目19-20

说明:1. 此处是coursera上“机器学习技法”作业二,对应台大林轩田老师主页上的hw6;2. 本文给出大作业(19-20题)的代码;3. Matlab代码;4. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;5. 如有问题,欢迎指教,QQ:50834。题目19-20,分为主程序和一个函数。主程序:clear all;close a

2016-09-20 14:41:52 508

原创 机器学习技法作业二题目12-18

说明:1. 此处是coursera上“机器学习技法”作业二,对应台大林轩田老师主页上的hw6;2. 本文给出大作业(12-18题)的代码;3. Matlab代码;4. 非职业码农,代码质量不高,变量命名也不规范,凑合着看吧,不好意思;5. 如有问题,欢迎指教,QQ:50834。题目12-18:分为主程序和两个函数主程序clear all;close all

2016-09-20 14:27:18 1549

cs224d assignment2

CS224d assignment2作业解答代码。网上目前能找到的解答好像都是基于低版本tensorflow,在tensorflow r1.3下会出错。此次上传的代码经过了个人修改,确保可以在tf r1.3下成功运行。

2018-03-08

cs224d assignment1

斯坦福大学cs224d课程作业1,包括课程笔记note1、作业assignment1及相关实现代码。

2018-02-09

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除