Statistical Decision Theory and Bayesian Analysis 笔记

最新推荐文章于 2021-07-31 09:22:54 发布
最新推荐文章于 2021-07-31 09:22:54 发布
阅读量1k 收藏 1
点赞数
分类专栏： notes statistics Bayesian 文章标签： Bayesian 笔记本
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/snailontower/article/details/51188680
版权
这篇笔记探讨了Statistical Decision Theory和Bayesian Analysis中的核心概念，包括Bayesian expected loss与Frequentist Risk的对比，以及各种决策原则，如条件Bayes决策原则和最小化Bayes风险。同时提出了对于这些概念如何在机器学习算法如逻辑回归中体现的疑问。
摘要由CSDN通过智能技术生成

Statistical Decision Theory and Bayesian Analysis 笔记

目录

一些概念不太理解

对于很多概念的区别不太清晰，如：
Decision rule vs action
Bayesian expected loss vs Bayes risk vs frequentist risk vs risk function of a decision rule
Risk vs Loss
Bayes action vs Bayes rule
action vs Bayes action
Rule vs Bayes rule

Bayesian expected loss

这里写图片描述
Note: 这里为何叫Bayesian？

Frequentist Risk

Decision rule: A function from X(data) to A(action). For no-data problem, a decision rule is simply an action.

最低0.47元/天 解锁文章
laokongzhaung
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Statistical Decision Theory and Bayesian Analysis (2nd Edition)
03-08
统计决策论及贝叶斯分析第二版英语版，概率论和统计学的经典读物。
贝叶斯推理导论：如何在‘任何试验之前绝对一无所知’的情况下计算概率
最新发布
deephub
04-30 4573
对统计结果(如P值或置信区间)的常见和反复的误解表明，我们有一种强烈的自然倾向，想要根据逆概率来思考推理。难怪这种方法统治了150年。Fisher和其他人批评幼稚地使用统一先验是武断的，这当然是正确的，但这在很大程度上是通过参考先验和采用频率匹配覆盖等指标来解决的，这些指标量化了先验代表无知的意义。正如伯杰所说，
Statistical Decision Theory and Bayesian Analysis, 2nd edition
09-06
Statistical Decision Theory and Bayesian Analysis, 2nd edition
Statistical Decision Theory and Bayesian Analysis
01-26
Statistical Decision Theory and Bayesian Analysis
Statistical Decision Theory and Bayesian Analysis.pdf
06-13
领域内的经典，非常值得一看的红宝书，推荐
2.4 statistical decision theory
weixin_30918633的博客
07-28 76
在讲完最小二乘（linear regression）和K近邻后，进入本节。 引入符号： $X\in R^p$ X为维度为p的输入向量 $Y\in R$ Y为输出，实数 $P(X,Y)$ 为两者的联合概率分布 $f(X)$ 为预测函数，给定X，输出Y a.使用squared error loss(L2)作为损失函数 $L(Y,f(X))={(Y-f(X))}^2$ EPE（...
《贝叶斯数据分析(英文导读版·原书第3版)》（Bayesian Data Analysis）
09-23
这本书2014年出版，一直没看，发现2016年出版了带导读的英文版，就把它放上来了。它从贝叶斯讲到马尔科夫、吉布斯抽样、回归模型，洋洋洒洒六百多页，挺厚的一本，
Bayesian Inference in Statistical Analysis .zip
05-20
The object of this book is to explore the use and relevance of Bayes' theorem to problems such. as arise in scientific investigation in which inferences must be made concerning parameter values about which little is known a priori.
Bayesian Theory
05-10
1994年版Bayesian_Theory，Bernardo著。贝叶斯理论基础教材
对频率论（Frequentist）方法和贝叶斯方法（Bayesian Methods）的一个总结
厚积薄发
08-14 1360
注： 本文是对《IPython Interactive Computing and Visualization Cookbook》一书中第七章【Introduction to statistical data analysis in Python – frequentist and Bayesian methods】的简单翻译和整理，这部分内容主要将对统计学习中的频率论方法和贝叶斯统计方法进
如何简单理解贝叶斯决策理论（Bayes Decision Theory）
07-31 1711
贝叶斯的底层思想就是： 如果我能掌握一个事情的全部信息，我当然能计算出一个客观概率（古典概率）。 可是生活中绝大多数决策面临的信息都是不全的，我们手中只有有限的信息。既然无法得到全面的信息，我们就在信息有限的情况下，尽可能做出一个好的预测。也就是，在主观判断的基础上，你可以先估计一个值（先验概率），然后根据观察的新信息不断修正(可能性函数)。
MLaPP Chapter 6 Frequentist statistics 频率学派统计学
张小彬的专栏
02-08 2628
6.1 Introduction频率学派统计学（frequentist statistics），经典统计学（classical statistics），或者叫正统的统计学（orthodox statistics），设计了一些不把参数当做随机变量的统计推断方法，从而避免了使用贝叶斯法则和先验。频率学派依赖于抽样分布（sampling distribution），而贝叶斯学派则依赖后验分布（poster
最小采样频率计算公式_机器学习MLAPP随笔——第六章频率学派统计
weixin_39542850的博客
11-22 778
本章目录：频率学派统计学不再将模型参数看做随机变量，因此也不涉及先验。贝叶斯依赖后验分布，而频率学派依赖采样分布。Sampling distribution of an estimator：频率学派中，一个参数的估计值 通过给数据 加上估计器（estimator，谷歌翻译成估计量） 来计算：。在频率学派中，参数被视为固定存在的，数据是随机的（贝叶斯方法恰恰相反，数据是固定存在的，而参数是估计...
贝叶斯决策(Bayesian Decision Theory)
一直大萝北的萝北坑
01-02 7152
贝叶斯决策 学习了一个学期的模式识别课程，老师讲的很好，深入浅出，无奈我脑子不够用没有理解到其中精髓，现在整理了一下听课笔记，以备以后需要时翻阅。这篇文章记录的是贝叶斯决策，其中包括最大后验、最大似然和贝叶斯决策的直观理解和数学理论。 关于先验和后验 关于什么是先验概率和后验概率， 余生最年轻在他的博客里解释的很好。先验(Priori )概率直观上理解，所谓“先”，就是在事情之前，即在事情发生之前...
9 empirical risk minimization(ERM)
天道酬勤，做一个务实的理想主义者
02-14 3196
本集内容 1. 偏差/方差(Bias/variance) 2. 经验风险最小化(empirical risk minimization (ERM)) 3.  联合界引理union bound/Hoeffding不等式 4. 一致收敛(uniform convergence) 开篇Andrew Ng[大概]:  To me what really separeates th
statistical decision theory and bayesian analysis pdf
07-09
### 回答1： 《统计决策理论和贝叶斯分析》是一本介绍统计决策理论和贝叶斯分析的PDF电子书。统计决策理论和贝叶斯分析是统计学中两个重要的分支，可以用于帮助我们做出基于数据的决策和推断。 在统计决策理论中，我们根据一些决策准则（例如期望损失最小化），利用概率和统计方法来做出决策。为了做出最优决策，我们需要考虑可能的不确定性和风险，并根据给定的概率模型计算出相应的决策。 贝叶斯分析是基于贝叶斯定理的统计推断方法。它通过将先验知识和数据进行结合，更新我们对未知参数的估计。贝叶斯分析提供了一个灵活而强大的框架，可以用于推断未知参数的分布和进行模型比较。 《统计决策理论和贝叶斯分析》这本书通过讲解这两个领域的基本原理和技术方法，帮助读者理解统计决策和贝叶斯分析的重要性和应用价值。它涵盖了从基本概念到高级技术的内容，包括估计、假设检验、决策分析、模型选择等。 这本书通过理论和实例相结合的方式，帮助读者深入了解统计决策和贝叶斯分析的原理和应用。它适用于统计学和相关领域的研究人员、学者和学生，也可以作为参考书用于实际问题中的决策和推断。 总之，该书详细介绍了统计决策理论和贝叶斯分析的基本原理和实际应用。通过学习这本书，读者可以获得在统计决策和推断中的必要知识和技能，以更好地处理实际问题。 ### 回答2： 统计决策理论（statistical decision theory）和贝叶斯分析（bayesian analysis）是统计学中重要的方法和理论。 统计决策理论是一种将统计学方法应用于决策问题的理论。它涉及确定最佳决策的数学模型和方法。在统计决策理论中，我们考虑的是在面对不确定性情况下，如何采取最佳决策。它通过将决策问题转化为统计模型，利用统计推断方法来进行决策评估。统计决策理论的基本思想是在不确定性下进行最佳决策，通过考虑不确定性因素，降低决策风险。 贝叶斯分析是统计学的一种方法，它用于从观测到的数据中获取有关未知参数的信息。贝叶斯分析的基本框架是贝叶斯定理，根据贝叶斯定理，我们可以更新对未知参数的先验概率分布，得到后验概率分布。贝叶斯分析的特点是可以结合先验知识和实际观测数据进行推断，相较于传统的频率主义统计方法，贝叶斯方法更加灵活和个性化。 关于《统计决策理论和贝叶斯分析》这本书的PDF，我无法提供具体的内容，但可以肯定的是，这本书涵盖了统计决策理论和贝叶斯分析的基本概念、方法和应用。读这本书可以帮助读者理解和应用这两个领域的重要理论和方法，提高决策和推断的准确性和效率。它有助于读者了解如何在不确定性条件下进行最佳决策，如何将先验知识和观测数据结合起来进行推断和预测。 总而言之，《统计决策理论和贝叶斯分析》这本书是关于统计决策理论和贝叶斯分析的重要参考资料，它涉及的内容广泛且有实用价值。 ### 回答3： 统计决策理论（Statistical Decision Theory）是一种通过统计推断和决策论来做出决策的方法。它基于数据分析和概率推断的理论，结合决策论的原则，旨在找到最优的决策策略。 Bayesian分析是统计学中的一种方法，它基于贝叶斯定理，通过将先验信息和观测数据结合起来，更新概率分布，从而得出最优的统计推断结果。Bayesian分析强调对概率的主观解释，并利用已有的信息进行判断。 《Statistical Decision Theory and Bayesian Analysis》（统计决策理论和贝叶斯分析）是一本关于这两种方法的书籍。这本书结合了这两种方法，并讨论了它们在统计学中的应用。 这本书详细介绍了统计决策理论和贝叶斯分析的基本原理、推断方法和模型选择的技术。它通过数学模型和实例分析，讲解了如何利用统计推断和决策论来做出准确和可靠的决策。 此外，《Statistical Decision Theory and Bayesian Analysis》还讨论了这两种方法的优点和局限性，并提供了一些实际应用的案例研究，帮助读者理解和应用这些方法。 总之，统计决策理论和贝叶斯分析是统计学中重要的方法，它们通过统计推断和决策论来做出决策，并在实践中得到广泛应用。《Statistical Decision Theory and Bayesian Analysis》这本书详细介绍了这两种方法的原理和应用，对于学习和应用这些方法的人们来说是一本重要的参考书籍。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值