神经网络与机器学习
灰太狼1号
C++,Java,数字图像处理,数据结构与算法,机器学习
展开
-
神经网络与机器学习-0导言
0.1 什么是神经网络人脑是一个高度复杂的,非线性的和并行的计算机器;且其基本单位是神经元。神经网络是有简单处理单元构成的大规模并行分布式处理器,天然的具有存储经验知识和使之可用的特性。神经网络在两个方面与大脑类似:1.神经网络是通过学习过程从外界外景中获得知识的。2.互联神经元的连接强度,即突触权值,用于存储获取的知识。Human brain computes ind原创 2014-01-21 14:25:39 · 1123 阅读 · 0 评论 -
MachineLearning---Hebbian Learning
MachineLearning---Hebbian Learning引言前面介绍了许多“监督式”学习方式,比如PNN、Backpropagation、LMS等。这些算法有一个共同点:提供的数据中,有目标值。相当于一本带有答案的练习本。接下来将介绍“非监督式”学习方式。 首先就介绍Hebbian Learnig。一、HebbianLearning 算转载 2015-06-30 09:35:30 · 7565 阅读 · 0 评论 -
Machine Learning---感知器学习算法
MachineLearning---PNN引言这篇将介绍machine learning中另一个较为经典的一个算法。之前介绍的几个算法(Backpropagation、LMS……)这些算法有一个明显的特点就是,它们都需要先训练算法,都会通过训练数据集调整算法的内部参数。这次介绍的算法就摆脱了这种过程。一、PNN算法基本介绍1.算法思想PN转载 2015-06-30 09:29:14 · 574 阅读 · 0 评论 -
AI中的几种搜索算法---Tabu搜索算法
AI中的几种搜索算法---Tabu搜索算法引言Tabu相对于启发式算法家族中其他成员,要简单易懂的多。关于启发式算法的基本概念可以参见笔者的《AI中的几种搜索算法---A*搜索算法》。这里就不多介绍了。一、Tabu搜索算法的基本介绍1.局部最优和全局最优局部最优(Local Optimums)和全局最优(Global Optimums)这对概念在搜索中,经常转载 2015-06-30 09:39:04 · 1101 阅读 · 0 评论 -
AI中的几种搜索算法---基因算法
AI中的几种搜索算法---基因算法引言进化计算(Evolutionary Computation)这个涵盖的范围比较广,其中包括基因算法(Genetic Algorithm)、进化式策略(Evolutionary Strategy)、基因程序(Genetic Programming)等等。这篇是进化计算的开篇,我会从基因算法入手,进而介绍进化计算中的一些基本思想。一、基因算转载 2015-06-30 09:38:00 · 743 阅读 · 0 评论 -
Machine Learning---LMS 算法数学说明
Machine Learning---LMS 算法数学说明引言这篇文章主要是为了《Machine Learning---LMS 算法》中做一些数学上的解释,虽然LMS算法实现比较简单,但是里面所用的数学知识还是有必要讲一下。一、梯度这里得先介绍梯度这个概念,因为算法就是用了所谓的“梯度下降法”。1.方向导数对于方向函数的详细定义就不写了,这里就大概讲转载 2015-06-30 09:31:54 · 1489 阅读 · 0 评论 -
AI中的几种搜索算法---A*搜索算法
AI中的几种搜索算法---A*搜索算法引言A*搜索算法作为一种典型的启发式搜索(Informed Search)算法,这种算法与一般的算法相比,便是其在搜索过程中,会利用一些引导机制,来引导整个搜索。相比于盲目的搜索,其性能是不言而喻的。而运用A*最广泛的地方便是游戏中的路径搜索(Path Finding)。这篇文章主要会基本地介绍A*算法,并会介绍一个游戏路径搜索的例子。转载 2015-06-30 09:41:19 · 7338 阅读 · 0 评论 -
AI中的几种搜索算法---SA搜索算法
AI中的几种搜索算法---SA搜索算法引言SA (Simulated Annealing)搜索算法,就如它的名字,是模仿了退火的处理过程。在提到TSP问题的时候,经常会使用该算法进行解决。一、SA搜索算法的基本介绍1.SA算法流程该算法的流程如下1. 首先便是初始化工作,设置初始温度(temperature),获得一个随机的解决方案,并将其设转载 2015-06-30 09:40:04 · 1094 阅读 · 0 评论 -
Machine Learning---决策树
Machine Learning---决策树引言决策树(Decision Trees),一个非常经典的监督式学习案例。一、决策树基本介绍1.决策树在建立决策树时候,计算机使用已分类的数据,建立一个具有预测功能的树形结构。建立决策树有许多种算法,这里我只介绍ID3算法。2.核心算法在建立决策树的时候,首先要选出哪一个属性作为最重要的属性转载 2015-06-30 09:36:17 · 676 阅读 · 0 评论 -
MachineLearning---PNN
MachineLearning---PNN引言这篇将介绍machine learning中另一个较为经典的一个算法。之前介绍的几个算法(Backpropagation、LMS……)这些算法有一个明显的特点就是,它们都需要先训练算法,都会通过训练数据集调整算法的内部参数。这次介绍的算法就摆脱了这种过程。一、PNN算法基本介绍1.算法思想PN转载 2015-06-30 09:34:27 · 768 阅读 · 1 评论 -
Machine Learning---Backpropagation
Machine Learning---Backpropagation引言反向传播法(backpropagration),是一个非常经典的监督学习方法。在前面已经介绍过LMS算法,所以对于这两种之间的公共部分不会再做详细介绍。一、Backpropagation算法基本介绍1.算法思想反向传播算法是监督式学习最流行的方法。它其中的算法思想就如它的名字一样转载 2015-06-30 09:33:24 · 675 阅读 · 0 评论 -
Machine Learning---LMS 算法
Machine Learning---LMS 算法引言简单的感知器学习算法(《Machine Learning---感知器学习算法》)会将真个集合正确分类后,才会停止,显然当测试数据多的时候,这种算法会变得迟钝。所以这里,引入一个理念,最小均方算法(Least Mean Square)。一、LMS算法基本介绍1.历史LMS算法首先由Bernard Wid转载 2015-06-30 09:30:50 · 1598 阅读 · 0 评论 -
AI 学习规划
2017.8.1第一步:理论基础方面:以 Andrew NG 在 courera 2012 年 11 讲 Machine Learning 为入门途径,内容包括:线性回归,逻辑回归,人工神经网络,BP 算法,优化方法,泛化方法。这些都是机器学习最基本的知识,也是学习深度学习更复杂的算法和问题分析的基础。以 Andrew Ng 在斯坦福公开课 2008 年 20 讲 Machine Le原创 2017-08-01 16:18:51 · 716 阅读 · 0 评论