深度学习
AJR_LY
热爱生活
展开
-
深度学习入门篇(一)
首先明确什么是机器学习,换言之机器学习程序相较于其他计算机硬编码程序有哪些能力?硬编码计算机程序试图以极其复杂的形势化规则描述这个世界,但是对于人类而言非常简单的语音和图像却好像不是那么容易以一种形式化的语言来描述的。在追逐计算机智能发展的进程中,人们为此做了大量的努力,比如“知识库方法(Cyc)”和大量的专家系统。最后都难以在业界取得成功,因为尽善尽美形式化描述本身就是难以实现的。所以A...原创 2019-07-16 10:19:04 · 114 阅读 · 0 评论 -
概率之基础概念
1 概率分布(probability distribution)用来描述随机变量或一簇随机变量在每一个可能取到的状态的可能性大小。描述概率分布的方式取决于随机变量是离散的还是连续的。离散型变量和概率质量函数(probability mass function, PMF)离散型随机变量的概率分布可以用PMF来描述。通常使用大写字母P来表示PMF。例如。PMF将随机变量能够取得的每个状...原创 2019-07-25 14:56:05 · 1887 阅读 · 0 评论 -
概率之常用概率分布
1. Bernoulli分布单个二值随机变量的分布。它由单个参数控制,给出了随机变量等于1的概率。它具有如下的一些性质。2. Multinoulli分布Multinoulli分布(multinoulli distribution)或者范畴分布(categorical distribution)是指在具有k个不同状态的单个离散型随机变量上的分布,其中k是一个有限值。...原创 2019-07-25 19:48:12 · 1230 阅读 · 0 评论 -
概率之常用函数
某些函数在处理概率分布时经常会出现,尤其是深度学习的模型中用到的概率分布。logistic sigmoid函数:通常用来产生Bernoulli分布中的参数。softplus函数:可以用来产生正态分布的和参数,因为它的值域是以上两个函数的重要性质:函数在统计学中被称为分队数(logit),但是这个函数在机器学习中...原创 2019-07-25 20:25:19 · 1405 阅读 · 0 评论 -
数值计算
花书上的第四章学习,做笔记一方面是为了打卡激励自己学习,一方面是为了让看的书多过一遍脑子,帮助记忆。希望有相同学习兴趣的小伙伴留言讨论,包括但不限于网络安全(本行)、深度学习(工具)以及其他纬度和层面的知识。**********************************************************************************************...原创 2019-07-31 09:51:59 · 634 阅读 · 0 评论 -
概率之信息论
信息论的基本想法是一个不太可能发生的事情发生了,具有更多的信息量。自信息(self-information)定义为: 以log表示自然对数,其底数为e,单位是奈特(nats)。底数为2的对数,单位是比特(bit)或者香农(shannons...原创 2019-07-26 10:43:11 · 387 阅读 · 0 评论 -
概率之结构化概率模型
结构化概率模型(structured probabilistic model)也称为图模型(graphical model),是指使用图论中的“图”的概念来描述概率分布的分解。有两种主要的图模型:有向图和无向图。两种图模型都使用图,其中图的每个节点都对应着一个随机变量,连接两个随机变量的边意味着概率分布可以表示成这两个随机变量之间的直接作用。有向(directed)模型使用带有有向边的图,...原创 2019-07-26 11:21:36 · 773 阅读 · 1 评论