神经网络和深度学习
文章平均质量分 91
马鹏森
这个作者很懒,什么都没留下…
展开
-
可信度方法
C-F模型C-F模型是基于可信度表示的不确定性推理的基本方法,其它可信度方法都是在此基础上发展起来的。知识不确定性的表示在该模型中,知识是用产生式规则表示的,其一般形式为: IF E THEN H (CF(H,E))其中,CF(H,E)是该条知识的可信度,称为可信度因子或规则强度,即静态强度。一般CF(H,E)∈[-1,1]。证据的不确定性证据的不确定性也用可信度因子表示。 如CF(E)=0.6注意: CF(H...原创 2020-12-17 11:17:37 · 27625 阅读 · 1 评论 -
决策树学习
决策树学习是应用最广的归纳推理算法之一,它是一种逼近离散值函数的方法。在这种方法中学习到的函数被表示为一颗决策树,学习得到的决策树也能再被表示为多个if-then规则,以提高可读性。决策树学习方法对噪声数据有很好的健壮性且能够学习析取表达式。决策树学习算法有很多,比如ID3、C4.5、ASSISTANT等等。这些决策树学习方法搜索一个完整表示的假设空间,从而避免了受限假设空间的不足。决策树学习的归纳偏置是优先选择较小的树。决策树表示法决策树通过把实例从根节点排列(sort)到某个叶子节点来分类实原创 2020-12-16 16:26:12 · 18238 阅读 · 0 评论 -
归结演绎推理
定理证明即证明P→Q即(¬P∨Q)的永真性。根据反证法,只要证明其反面(P∧¬Q)的不可满足性即可。海伯伦(Herbrand)定理为自动定理证明奠定了理论基础;鲁滨逊(Robinson)提出的归结原理使机器定理证明成为现实。海伯伦(Herbrand)定理参考:https://blog.csdn.net/weixin_43135178/article/details/111186342...原创 2020-12-15 20:57:25 · 17343 阅读 · 0 评论 -
公式集的合一
定义3.3 设有公式集F={F1,F2,…,Fn},若存在一个代换λ使得 F1λ=F2λ=…=Fnλ ,则称λ为公式集F的一个合一,且称F1,F2,…,Fn是可合一的。例如,设有公式集 F={P(x,y,f(y)),P(a,g(x),z)} 则下式是它的一个合一:λ={a/x,g(a)/y,f(g(a))/z} a/x:a代换x的意思,并不是a除x一个公式集的合一一般不唯一。 定义3.4 设σ是公式集F的一个合一,如果对任一个合一θ都存在一个代换λ,使得θ=σ°λ 则称σ是一个最一般的合...原创 2020-12-15 20:51:28 · 25765 阅读 · 4 评论 -
归结反演介绍
归结原理给出了证明子句集不可满足性的方法。如欲证明Q为P1,P2,…,Pn的逻辑结论,只需证 (P1∧P2∧…∧Pn)∧¬Q 是不可满足的。应用归结原理证明定理的过程称为归结反演。 设F为已知前提的公式集,Q为目标公式(结论),用归结反演证明Q为真的步骤是:1.否定Q,得到¬Q;2.把¬Q并入到公式集F中,得到{F, ¬Q};3.把公式集{F, ¬Q}化为子句集S;4.应用归结原理对子句集S中的子句进行归结,并把每次归结得到的归结式都并入S中。如此反复进行,若出现了空子句,则停止归结,此时就证明原创 2020-12-15 15:47:31 · 19835 阅读 · 2 评论 -
海伯伦定理
在谓词逻辑中,把原子谓词公式及其否定统称为文字。定义3.5:任何文字的析取式称为子句。 例如: P(x)∨Q(x), ¬P(x,f(x))∨Q(x,g(x))定义3.6:不包含任何文字的子句称为空子句。 空子句不含有文字,不能被任何解释满足,所以空子句是永假的,不可满足的。任何谓词公式都可通过等价关系及推理规则化成相应的子句集。1. 利用等价关系消去“→”和“↔” 例如公式可等价变换成2. 利用等价关系把“¬”移到紧靠谓词的位置上 上式经等价变换后3. 重新命名变元,...原创 2020-12-14 22:02:37 · 21872 阅读 · 0 评论 -
主观贝叶斯方法
1.不确定性的表示2.证据的不确定性:在主观Bayes方法中,证据的不确定性也用概率表示。对于证据E,由用户根据观察S给出P(E|S),即动态强度。 由于主观给定P(E|S)有所困难,所以实际中可以用可信度C(E|S)代替P(E|S)。例如在PROSPECTOR中C(E|S)和P(E|S)遵从如下关系3.组合证据的不确定性:可以采用最大最小法。1.当组合证据是多个单一证据的合取时,即 E=E1 AND E2 AND … AND En则:P(E|S)=min{P(E1|S),P.原创 2020-12-14 18:47:35 · 28607 阅读 · 0 评论 -
贝叶斯学习
目录贝叶斯学习贝叶斯学习的特点:朴素贝叶斯方法:贝叶斯学习贝叶斯学习就是基于贝叶斯理论(Bayesian Theory)的机器学习方法。贝叶斯法则 也称为贝叶斯理论(Bayesian Theorem,或Bayesian Rule,或Bayesian Law),其核心就是贝叶斯公式:先验概率(Prior Probability) 就是还没有训练数据之前,某个假设h(h∈H)的初始概率,记为P(h)。 先验概率反映了一个背景知识,表示h是一个正确假设的可原创 2020-12-14 15:12:47 · 22204 阅读 · 1 评论 -
logistics回归分析+代码详解
1.2 Logistic 回归的引入Logistic 回归是概率非线性模型,用于处理二元分类结果,名为回归实为分类。下面给出一个二元分类的例子,如下图所示:图中数据分成两类,打叉的一类用 y = 1 表示,另一类为圆圈用 y= 0 表示。现在我们要对数据进行分类,要找到一个分类函数(边界线),我们很容易得出一个线性函数对其分类:z= θ0+θ1x1+θ2x2。但我们想要的函数应该是,能接受所有的输入然后预测类别。例如:在两个分类的情况下,函数输出 0 或 1。因此,我们就需要引入Sigm...原创 2020-12-11 20:15:55 · 22302 阅读 · 0 评论 -
logistic回归详解
逻辑斯谛回归(logistic regression)是统计学习中的经典分类方法,虽然带有回归的字眼,但是该模型是一种分类算法,逻辑斯谛回归是一种线性分类器,针对的是线性可分问题。利用logistic回归进行分类的主要思想是:根据现有的数据对分类边界线建立回归公式,以此进行分类。这里的“回归”一词源于最佳拟合,表示要找到最佳拟合参数集,因此,logistic训练分类器时的做法就是寻找最佳拟合参数,使用的是最优化方法,接下来我们都会讲到。一、Logistic回归函数:...原创 2020-12-02 15:57:04 · 23220 阅读 · 1 评论 -
2.1 二分类(Binary Classification)
这周我们将学习神经网络的基础知识,其中需要注意的是,当实现一个神经网络的时候,我们需要知道一些非常重要的技术和技巧。例如有一个包含个样本的训练集,你很可能习惯于用一个for循环来遍历训练集中的每个样本,但是当实现一个神经网络的时候,我们通常不直接使用for循环来遍历整个训练集,所以在这周的课程中你将学会如何处理训练集。另外在神经网络的计算中,通常先有一个叫做前向暂停(forward pause)或叫做前向传播(foward propagation)的步骤,接着有一个叫做反向暂停(backward pau原创 2020-11-04 19:04:50 · 28219 阅读 · 7 评论 -
1.4 为什么深度学习会兴起?(Why is Deep Learning taking off?)
深度学习和神经网络之前的基础技术理念已经存在大概几十年了,为什么它们现在才突然流行起来呢?在过去的几年里,很多人都问我为什么深度学习能够如此有效。当我回答这个问题时,我通常给他们画个图,在水平轴上画一个形状,在此绘制出所有任务的数据量,而在垂直轴上,画出机器学习算法的性能。比如说准确率体现在垃圾邮件过滤或者广告点击预测,或者是神经网络在自动驾驶汽车时判断位置的准确性,根据图像可以发现,如果你把一个传统机器学习算法的性能画出来,作为数据量的一个函数,你可能得到一个弯曲的线,就像图中这样,它的性能一开始在增原创 2020-11-04 16:32:27 · 16290 阅读 · 0 评论 -
1.3用神经网络进行监督学习
In supervised learning, we are given a data set and already know what our correct output should look like,having the idea that there is a relationship between the input and the output.Supervised learning problems are categorized into “regression” and “cl原创 2020-11-04 15:36:24 · 16271 阅读 · 0 评论 -
1.2什么是神经网络
What is neural network? It is a powerful learning algorithm inspired by how the brain works. Example 1 – single neural network Given data about the size of houses on the real estate market and you want to fit a function that will predi...原创 2020-11-03 21:46:41 · 15992 阅读 · 0 评论