L2-Basics of Probability Theory

Outline

  1. Univariate Probability Distributions
  2. Multivariate Probability–Bayes’ Theorem
  3. Parameter Estimation

1. Univariate Probability Distributions

Univariate-单变量的,Multivariate-多变量的
单变量概率分布:

1.1 Binomial and Bernoulli Distributions

–二项分布和伯努利分布
二项分布和伯努利分布的数学描述

1.2 Multinomial Distribution

– 多项分布
二项分布对应扔硬币,只有正/反两面。多项分布对应扔骰子,有6面。
在这里插入图片描述

1.3 Categorical Distribution

二项分布:n次独立重复实验
伯努利分布:n=1的二项分布

多项分布:结果有不止两个类别的n次独立重复实验
Categorical Distribution:n=1的多项分布

one-hot向量:该向量中,只有1个1,其余都是0,比如[0 0 0 0 0 1 0 0 0 0]
categorical distribution数学描述

1.4 Gaussian(Normal) Distribution

正态分布的数学描述


2. Multivariate Probability

2.1 Joint probability mass function

mass - 随机变量是离散的
如果随机变量是连续的,就会用联合概率密度函数

联合概率质量函数
P(Rent, Type):特征2个,每个特征有三个取值

2.2 Multivariate Gaussian Distributions

连续的变量,常用的联合分布是多元高斯分布
2元高斯分布图形

2.3 Marginal probability

Marginal probability

2.4 Conditional probability

在这里插入图片描述

2.5 Marginal independence

for any state x of X and any state y of Y,
P(X=x| Y=y)=P(X=x), whenever P(Y=y) != 0.
Y contains no information about X and vice versa.
如果说X和Y边缘独立,那么有:
P(X|Y)=P(X)
P(Y|X)=P(Y)
P(X,Y) = P(X)P(Y)

2.6 Conditional independence

如果说X和Y条件独立,那么有:
P(X|Y,Z) = P(X|Z)
P(X,Y|Z) = P(X|Z)P(Y|Z)

2.7 Bayes Rule

先验概率:P(H)
后验概率:P(H|E)
likelihood: P(E|H),又用L(E|H)表示

如果有:P(H1|E)>P(H2|E), 那么说明在已有的E条件下,H1比H2更有可能导致/引起E
机器学习中,通常用数据D,模型M,描述一个模型解释数据D的程度,就用likelihood
L(M|D) = P(D|M)
贝叶斯理论


3. Parameter Estimation

3.1 Maximum Likelihood Estimation

最大似然估计

L(theta | D) = P(D | theta)
theta 有若干个取值,在这若干个取值中条件概率P(D | theta)最大的对应的theta的值就是通过最大似然估计得到的theta*

3.1.1 i.i.d

i.i.d – 事件之间相互独立,概率分布相同
假设数据集中的数据满足i.i.d,那么可以通过把联合概率化成若干个概率联乘进行计算。
i.i.d

3.1.2 Loglikelihood

介绍独立同分布时,引入了Binomial likelihood.
他是假设数据集中每个数据都符合同一个二项分布,在计算似然值时转化为概率联乘。

此处的Loglikelihood,就是在原来的L(theta | D)外面加了log运算,用l(theta | D)来表示:
即, l(theta | D) = log L(theta | D)
Loglikelihood

3.1.3 Drawback of MLE

无法从估计出来的结果判断数据集是否量不够。
比如,抛一个质量均匀的硬币,已有的经验告诉我们抛到正面的概率是0.5. 但是数据集中的数据刚好是7次正面,3次反面,通过MLE我们得出正面的概率是0.7。然而,如果抛到正面的次数是700000,反面300000,通过MLE得出正面的概率还是0.7. MLE不能区分出来这两种情况。

3.2 Bayesian Estimation

非本课关注,后续补充(slides P47-52)。
比起最大似然估计,贝叶斯估计可以加入先验知识进行参数估计,但是数学上的运算稍微复杂一点。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
完整版:https://download.csdn.net/download/qq_27595745/89522468 【课程大纲】 1-1 什么是java 1-2 认识java语言 1-3 java平台的体系结构 1-4 java SE环境安装和配置 2-1 java程序简介 2-2 计算机中的程序 2-3 java程序 2-4 java类库组织结构和文档 2-5 java虚拟机简介 2-6 java的垃圾回收器 2-7 java上机练习 3-1 java语言基础入门 3-2 数据的分类 3-3 标识符、关键字和常量 3-4 运算符 3-5 表达式 3-6 顺序结构和选择结构 3-7 循环语句 3-8 跳转语句 3-9 MyEclipse工具介绍 3-10 java基础知识章节练习 4-1 一维数组 4-2 数组应用 4-3 多维数组 4-4 排序算法 4-5 增强for循环 4-6 数组和排序算法章节练习 5-0 抽象和封装 5-1 面向过程的设计思想 5-2 面向对象的设计思想 5-3 抽象 5-4 封装 5-5 属性 5-6 方法的定义 5-7 this关键字 5-8 javaBean 5-9 包 package 5-10 抽象和封装章节练习 6-0 继承和多态 6-1 继承 6-2 object类 6-3 多态 6-4 访问修饰符 6-5 static修饰符 6-6 final修饰符 6-7 abstract修饰符 6-8 接口 6-9 继承和多态 章节练习 7-1 面向对象的分析与设计简介 7-2 对象模型建立 7-3 类之间的关系 7-4 软件的可维护与复用设计原则 7-5 面向对象的设计与分析 章节练习 8-1 内部类与包装器 8-2 对象包装器 8-3 装箱和拆箱 8-4 练习题 9-1 常用类介绍 9-2 StringBuffer和String Builder类 9-3 Rintime类的使用 9-4 日期类简介 9-5 java程序国际化的实现 9-6 Random类和Math类 9-7 枚举 9-8 练习题 10-1 java异常处理 10-2 认识异常 10-3 使用try和catch捕获异常 10-4 使用throw和throws引发异常 10-5 finally关键字 10-6 getMessage和printStackTrace方法 10-7 异常分类 10-8 自定义异常类 10-9 练习题 11-1 Java集合框架和泛型机制 11-2 Collection接口 11-3 Set接口实现类 11-4 List接口实现类 11-5 Map接口 11-6 Collections类 11-7 泛型概述 11-8 练习题 12-1 多线程 12-2 线程的生命周期 12-3 线程的调度和优先级 12-4 线程的同步 12-5 集合类的同步问题 12-6 用Timer类调度任务 12-7 练习题 13-1 Java IO 13-2 Java IO原理 13-3 流类的结构 13-4 文件流 13-5 缓冲流 13-6 转换流 13-7 数据流 13-8 打印流 13-9 对象流 13-10 随机存取文件流 13-11 zip文件流 13-12 练习题 14-1 图形用户界面设计 14-2 事件处理机制 14-3 AWT常用组件 14-4 swing简介 14-5 可视化开发swing组件 14-6 声音的播放和处理 14-7 2D图形的绘制 14-8 练习题 15-1 反射 15-2 使用Java反射机制 15-3 反射与动态代理 15-4 练习题 16-1 Java标注 16-2 JDK内置的基本标注类型 16-3 自定义标注类型 16-4 对标注进行标注 16-5 利用反射获取标注信息 16-6 练习题 17-1 顶目实战1-单机版五子棋游戏 17-2 总体设计 17-3 代码实现 17-4 程序的运行与发布 17-5 手动生成可执行JAR文件 17-6 练习题 18-1 Java数据库编程 18-2 JDBC类和接口 18-3 JDBC操作SQL 18-4 JDBC基本示例 18-5 JDBC应用示例 18-6 练习题 19-1 。。。
磁共振成像(MRI)是一种非侵入性的医学影像技术,通过使用强磁场和无害的无线电波,生成高分辨率的人体内部图像。MRI的基本原理包括磁共振现象和信号处理。 首先,MRI利用强磁场产生静态磁场。这个强磁场使得人体内的原子(通常是氢)的原子核在磁场中定向,使其自旋沿磁场方向预先排列。 其次,MRI利用无线电频率的脉冲来激发人体内的原子核,使其从平衡状态中倾斜。 然后,MRI探测激发后原子核的归位,这个过程称为回波信号。原子核的归位过程会产生微弱的无线电信号。 接下来,MRI系统采集这些回波信号并进行信号处理。信号处理包括一个复杂的计算过程,其基本目标是确定回波信号的来源和特征。通过这种方式,系统可以构建数百个不同方向上的切片图像。 最后,计算机将切片图像组合在一起,形成三维结构,可以帮助医生观察和分析人体内部组织和器官的详细结构。 MRI是一种非常有用的影像技术,因为它能够提供清晰的高对比度图像,并且不涉及使用有害的X射线。它在医学诊断中广泛应用,特别是用于观察脑部、骨骼、关节、脊椎和内脏器官等结构。同时,MRI还可以用来检测肿瘤、损伤、疾病和其他异常,并且具有较高的准确性和灵敏度。 总之,MRI是一种基于磁共振原理的医学影像技术,可生成高分辨率、非侵入性的人体内部图像,对于医学诊断和研究具有重要意义。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值