R语言和STAN,JAGS：用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据

于 2022-08-24 14:18:45 发布
阅读量287 收藏 1
点赞数
文章标签： r语言 线性回归 开发语言 机器学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tecdat/article/details/129387245
版权

全文链接：http://tecdat.cn/?p=21978

本文将介绍如何在R中用rstan和rjags做贝叶斯回归分析，R中有不少包可以用来做贝叶斯回归分析，比如最早的（同时也是参考文献和例子最多的）R2WinBUGS包。这个包会调用WinBUGS软件来拟合模型，后来的JAGS软件也使用与之类似的算法来做贝叶斯分析。然而JAGS的自由度更大，扩展性也更好。近来，STAN和它对应的R包rstan一起进入了人们的视线。STAN使用的算法与WinBUGS和JAGS不同，它改用了一种更强大的算法使它能完成WinBUGS无法胜任的任务。同时Stan在计算上也更为快捷，能节约时间。

相关视频

例子

设Yi为地区i=1，…，ni=1，…，n从2012年到2016年支持率增加的百分比。我们的模型

2069b23643f3053f28b573d049825324.png

式中，Xji是地区i的第j个协变量。所有变量均中心化并标准化。我们选择σ2∼InvGamma（0.01,0.01）和α∼Normal（0100）作为误差方差和截距先验分布，并比较不同先验的回归系数。

加载并标准化选举数据

# 加载数据



 load("elec.RData")

 Y    <- Y[!is.na(Y+rowSums(X))]
 X    <- X[!is.na(Y+rowSums(X)),]
 n    <- length(Y)
 p    <- ncol(X)
## [1] 3111
p
## [1] 15
X    <- scale(X)

# 将模型拟合到大小为100的训练集，并对剩余的观测值进行预测

 test  <- order(runif(n))>100
 table(test)
## test
## FALSE  TRUE 
##   100  3011
Yo    <- Y[!test]    # 观测数据
 Xo    <- X[!test,]

 Yp    <- Y[test]     # 为预测预留的地区
 Xp    <- X[test,]

选举数据的探索性分析 

boxplot(X, las = 3

62d9b4a237c6bc60a63c8e2eda02c196.png

image(1:p, 1:p, main = "预测因子之间的相关性")

点击标题查阅往期内容

67ae75057fa5595d82b9c6f6ea9f5b96.jpeg

R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归

outside_default.png

左右滑动查看更多

outside_default.png

01

2b93fbf39c0e6a3cb0a0b46b06569e6f.png

02

8f7d12c0a5d526e2a958820792aa6d71.png

03

fcb5b0276851d5d3e5c4e30eb57fc4dd.png

04

5a653af843b3d16e7c2847afb40a1c77.png

c07da41c09d32cd860996527a44d5517.png

rstan中实现

统一先验分布

如果模型没有明确指定先验分布，默认情况下，Stan将在参数的合适范围内发出一个统一的先验分布。注意这个先验可能是不合适的，但是只要数据创建了一个合适的后验值就可以了。

data {
  int<lower=0> n; // 数据项数
  int<lower=0> k; // 预测变量数
  matrix[n,k] X; // 预测变量矩阵
  vector[n] Y; // 结果向量
}
parameters {
  real alpha; // 截距
  vector[k] beta; // 预测变量系数
  real<lower=0> sigma; // 误差
rstan_options(auto_write = TRUE)

#fit <- stan(file = 'mlr.stan', data = dat)
print(fit)

8e53947944e563a46da90637dee74a87.png

hist(fit, pars = pars)

0cc1155436e5fd7c695173662b28bb4c.png

dens(fit)

0b1361df4c99b6bdd26b6d6b5de00f6a.png

traceplot(fit)

81e860ed4bd986d97be8be1b10ac3247.png

e50a4cf5fa70df7bb8980d348b232ab8.png

ddc362c70472fb7b7667aa87663071f7.png

797130830b789b828a3a577de1065631.png

00c7ab9bc682beddf2387370fc0d651a.png

5246521e8d8bce5a2dccf0c0bf73bf59.png

rjags中实现

用高斯先验拟合线性回归模型

library(rjags)

model{
#  预测
  for(i in 1:np){
    Yp[i]  ~ dnorm(mup[i],inv.var)
    mup[i] <- alpha + inprod(Xp[i,],beta[])

  # 先验概率

  alpha     ~ dnorm(0, 0.01)
  inv.var   ~ dgamma(0.01, 0.01)
  sigma     <- 1/sqrt(inv.var)

在JAGS中编译模型

# 注意：Yp不发送给JAGS
jags.model(model, 
                    data = list(Yo=Yo,no=no,np=np,p=p,Xo=Xo,Xp=Xp))
coda.samples(model, 
        variable.names=c("beta","sigma","Yp","alpha"),

e7622355fd590c096e67419ea9072de8.png

350a20747a6de60b66ff87f1be8bffef.png

从后验预测分布(PPD)和JAGS预测分布绘制样本

#提取每个参数的样本

 samps       <- samp[[1]]
 Yp.samps    <- samps[,1:np] 

#计算JAGS预测的后验平均值

 beta.mn  <- colMeans(beta.samps)


# 绘制后验预测分布和JAGS预测

 for(j in 1:5)
    # JAGS预测
    y  <- rnorm(20000,mu,sigma.mn)
    plot(density(y),col=2,xlab="Y",main="PPD")

    # 后验预测分布
    lines(density(Yp.samps[,j]))

    # 真值
    abline(v=Yp[j],col=3,lwd=2)

48e4c7e2cc2886a4f24262143a2b21d8.png

f722af3869632f2059018079467ec5dd.png

d738e3d323f37bcda2c8da81d0c55f5c.png

b2befad9cc1878822ae6c24aae77850d.png

3fde604fe99016cf436b582d11edc21f.png

# 95% 置信区间
 alpha.mn+Xp%*%beta.mn - 1.96*sigma.mn
 alpha.mn+Xp%*%beta.mn + 1.96*sigma.mn
## [1] 0.9452009
# PPD 95% 置信区间
 apply(Yp.samps,2,quantile,0.025)
 apply(Yp.samps,2,quantile,0.975)
## [1] 0.9634673

请注意，PPD密度比JAGS预测密度略宽。这是考虑β和σ中不确定性的影响，它解释了JAGS预测的covarage略低的原因。但是，对于这些数据，JAGS预测的覆盖率仍然可以。

3ec89cec260d91772bcf9050ac4edab9.jpeg

点击文末“阅读原文”

获取全文完整代码数据资料。

本文选自《R语言和STAN,JAGS：用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据》。

f1f51f9d58e78c0d7b3c5e5d414ee1c1.jpeg

本文中的选举数据分享到会员群，扫描下面二维码即可加群！

dca87be5abe8105678360e56b2be9017.png

点击标题查阅往期内容

R语言中贝叶斯网络（BN）、动态贝叶斯网络、线性模型分析错颌畸形数据

使用贝叶斯层次模型进行空间数据分析

MCMC的rstan贝叶斯回归模型和标准线性回归模型比较

python贝叶斯随机过程：马尔可夫链Markov-Chain，MC和Metropolis-Hastings，MH采样算法可视化

Python贝叶斯推断Metropolis-Hastings（M-H）MCMC采样算法的实现

matlab贝叶斯隐马尔可夫hmm模型实现

贝叶斯线性回归和多元线性回归构建工资预测模型

Metropolis Hastings采样和贝叶斯泊松回归Poisson模型

贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据

R语言RSTAN MCMC：NUTS采样算法用LASSO 构建贝叶斯线性回归模型分析职业声望数据

R语言STAN贝叶斯线性回归模型分析气候变化影响北半球海冰范围和可视化检查模型收敛性

PYTHON用户流失数据挖掘：建立逻辑回归、XGBOOST、随机森林、决策树、支持向量机、朴素贝叶斯和KMEANS聚类用户画像

贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析免疫球蛋白、前列腺癌数据

R语言JAGS贝叶斯回归模型分析博士生延期毕业完成论文时间

R语言Metropolis Hastings采样和贝叶斯泊松回归Poisson模型

Python决策树、随机森林、朴素贝叶斯、KNN（K-最近邻居）分类分析银行拉新活动挖掘潜在贷款客户

R语言贝叶斯MCMC：用rstan建立线性回归模型分析汽车数据和可视化诊断

R语言贝叶斯MCMC：GLM逻辑回归、Rstan线性回归、Metropolis Hastings与Gibbs采样算法实例

R语言贝叶斯Poisson泊松-正态分布模型分析职业足球比赛进球数

随机森林优化贝叶斯预测分析汽车燃油经济性

R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病

R语言用Rcpp加速Metropolis-Hastings抽样估计贝叶斯逻辑回归模型的参数

R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归

Python贝叶斯回归分析住房负担能力数据集

R语言实现贝叶斯分位数回归、lasso和自适应lasso贝叶斯分位数回归分析

Python用PyMC3实现贝叶斯线性回归模型

R语言用WinBUGS 软件对学术能力测验建立层次（分层）贝叶斯模型

R语言Gibbs抽样的贝叶斯简单线性回归仿真分析

R语言和STAN,JAGS：用RSTAN,RJAG建立贝叶斯多元线性回归预测选举数据

R语言基于copula的贝叶斯分层混合模型的诊断准确性研究

R语言贝叶斯线性回归和多元线性回归构建工资预测模型

R语言贝叶斯推断与MCMC：实现Metropolis-Hastings 采样算法示例

R语言stan进行基于贝叶斯推断的回归模型

R语言中RStan贝叶斯层次模型分析示例

R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化

R语言随机搜索变量选择SSVS估计贝叶斯向量自回归（BVAR）模型

WinBUGS对多元随机波动率模型：贝叶斯估计与模型比较

R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样

R语言贝叶斯推断与MCMC：实现Metropolis-Hastings 采样算法示例

R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化

视频：R语言中的Stan概率编程MCMC采样的贝叶斯模型

R语言MCMC:Metropolis-Hastings采样用于回归的贝叶斯估计

92f066056c106662e195359f87529f48.png

8835046c08c4e746e5f3160dcdc1c7e3.jpeg

a1d4458feb9e2702313081c1ced79bf7.png

拓端研究室TRL
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
博客
【视频】LSTM模型原理及其进行股票收盘价的时间序列预测讲解|附数据代码
04-30 573
全文链接：https://tecdat.cn/?p=36092分析师：Yuehuan Wei时间序列预测在金融领域中扮演着举足轻重的角色，特别是在股票市场中。对于广大投资者和交易员而言，能够准确预测股票价格的变动趋势，不仅意味着能够在交易中做出更为明智的决策，还能够在风险管理中占据有利地位（点击文末“阅读原文”获取完整代码数据）。本文将通过视频讲解，展示如何用LSTM模型进行股票收盘价的时间序列预...
博客
【专题】2024年4月消费趋势报告合集汇总PDF分享（附原数据表）
04-30 6
原文链接：https://tecdat.cn/?p=36089随着科技的不断进步和全球化的深入发展，各行各业都面临着前所未有的机遇与挑战。从零售业的变革到美妆行业的崛起，从消费者行为的转变到营销策略的创新，每一个领域都在不断地演进和重塑（查看文末了解专题报告合集PDF版本免费获取方式）。在快速变化的市场环境中，消费趋势的洞察对于企业和品牌来说至关重要。它们不仅影响着产品策略的制定，也直接关系着品牌...
博客
【专题】2024年4月人工智能AI行业报告合集汇总PDF分享（附原数据表）
04-29 28
原文链接：https://tecdat.cn/?p=36066随着科技的飞速发展，人工智能（AI）已经成为引领新一轮产业革命的核心力量（查看文末了解专题报告合集PDF版本免费获取方式）。2024年，中国的人工智能产业继续保持蓬勃发展的态势，不仅在理论研究和技术创新上取得了显著突破，更在各行各业的应用中展现出了强大的生命力和广阔的市场前景。阅读原文，获取专题报告合集全文，解锁文末204份人工智能AI...
博客
随机森林填充缺失值、BP神经网络在亚马逊评论、学生成绩分析研究2案例合集...
04-29 456
全文链接：https://tecdat.cn/?p=36071神经网络作为一种强大的机器学习算法，具有强大的非线性映射和学习能力，能够处理复杂的模式识别和数据分类问题（点击文末“阅读原文”获取完整代码数据）。在亚马逊评论分析和学生成绩分析中，BP神经网络能够基于填充后的完整数据，提取出隐藏在数据中的有用信息，进而实现关键词识别、成绩预测等目标。鉴于此，本文将通过两个R语言案例——亚马逊评论分析和学...
博客
【专题】消费品行业的5G新时代：2024年消费品行业趋势洞察报告合集PDF分享（附原数据表）...
04-28 53
原文链接：https://tecdat.cn/?p=360592023年，我国社会消费品零售总额同比增长7.2%，呈现出稳健而强劲的增长态势（查看文末了解专题报告合集PDF版本免费获取方式）。与此同时，最终消费支出对经济增长的贡献率显著提升，达到了82.5%，比去年提高了3.1个百分点，这进一步凸显了消费在驱动我国经济发展中的核心作用。阅读原文，获取专题报告合集全文，解锁文末476份消费相关行业研...
博客
对用电负荷时间序列数据进行K-medoids聚类建模和GAM回归|附数据代码
04-28 256
原文链接：http://tecdat.cn/?p=4146通过对用电负荷的消费者进行聚类，我们可以帮助客户提取典型的负荷曲线，提高后续用电量预测的准确性，检测异常或监控整个智能电网（Laurinec等人（2016），Laurinec和Lucká（ 2016））（点击文末“阅读原文”获取完整代码数据）。第一个用例通过K-medoids聚类方法提取典型的电力负荷曲线。相关视频有50个长度为672的时间...
博客
【专题】2024中国零售业发展报告-拥抱“性价比时代”报告合集PDF分享（附原数据表）...
04-26 46
原文链接：https://tecdat.cn/?p=36050在消费升级与降级交织的复杂市场背景下，中国零售市场正迈向性价比主导新阶段，高价值追求成核心竞争力。国家统计局数据显示，一季度GDP和居民收入增长，但社零和零售增速放缓，消费信心待提振（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频2023年快消品零售市场销售额微降，但内容电商和便利店等新兴渠道表现亮眼，特别是内容电商平台通过...
博客
【专题】中国美妆行业白皮书报告合集PDF分享（附原数据表）
04-25 10
原文链接：https://tecdat.cn/?p=36047在过去的十年里，中国美妆市场持续增长，展现出巨大的活力和潜力。2023年，护肤与彩妆两大品类市场规模分别突破1700.9亿元和1193.5亿元，引领市场潮流（查看文末了解专题报告合集PDF版本免费获取方式）。国货美妆品牌在面膜、精华等领域表现出色，彩妆品类亦迅猛增长，底妆增速尤为亮眼，高达22.4%。这些品牌凭借高品质、中国特色成分及对...
博客
【专题】2023-2024年游客满意度调查报告合集PDF分享（附原数据表）
04-24 44
原文链接：https://tecdat.cn/?p=36043游客不仅是旅游服务质量的最终评判者，还是旅游业的界定者、城市旅游的评价者，更是塑造国家级和世界级旅游城市的关键力量（查看文末了解专题报告合集PDF版本免费获取方式）。他们的满意度直接揭示了旅游发展的动力与方向，为旅游城市的建设指明路径。2011年，我国荣获联合国世界旅游组织政策管理创新一等奖，开创先河。阅读原文，获取专题报告合集全文，解...
博客
【专题】2023-2024年二手车市场消费需求洞察报告合集PDF分享（附原数据表）
04-23 34
原文链接 :https://tecdat.cn/?p=360212023年，乘用车二手车市场展现出了蓬勃的发展态势，交易量攀升至1478万辆，同比增长高达15%，创下了近五年的新纪录（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频在这一繁荣景象的背后，以旧换新政策的助力功不可没，它极大地激发了消费者的换购热情，为二手车市场注入了源源不断的新活力，推动了市场的持续繁荣与发展。阅读原文，获...
博客
【视频】N-Gram、逻辑回归反欺诈模型文本分析招聘网站欺诈可视化讲解|附数据代码...
04-23 681
原文链接：https://tecdat.cn/?p=36028分析师：Zhuo Chen随着互联网的快速发展，招聘网站已成为求职者与雇主之间的重要桥梁。然而，随之而来的欺诈行为也日益猖獗，给求职者带来了极大的困扰和风险（点击文末“阅读原文”获取完整代码数据）。视频因此，如何帮助客户有效地识别和防范招聘网站上的欺诈行为，已成为一个亟待解决的问题。逻辑回归模型作为一种强大的分类工具，在识别欺诈行为方面...
博客
Python遗传算法GA对长短期记忆LSTM深度学习模型超参数调优分析司机数据|附数据代码...
04-22 29
全文链接：https://tecdat.cn/?p=36004随着大数据时代的来临，深度学习技术在各个领域中得到了广泛的应用。长短期记忆（LSTM）网络作为深度学习领域中的一种重要模型，因其对序列数据的强大处理能力，在自然语言处理、时间序列预测等领域中取得了显著的成果（点击文末“阅读原文”获取完整代码数据）。相关视频然而，LSTM模型的性能在很大程度上取决于其超参数的设置。因此，如何有效地帮助客户...
博客
【专题】2024年中国人工智能产业研究报告合集PDF分享（附原数据表）
04-22 33
原文链接:https://tecdat.cn/?p=36000纵观人类进化史，制造和使用工具无疑是我们发展进程中的一大里程碑。而在当今时代，如何更好地利用AI工具已成为社会各个层面——从产业应用到日常生活、学习工作——热议的焦点（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频特别是随着大模型和生成式AI技术的崛起，它们强大的数据处理、学习泛化及内容生成能力，极大地推动了各行业智能化进程...
博客
文本挖掘分析多元应用：新能源汽车股市、英国封锁、疫情旅游与舆情分析
04-19 542
全文链接：https://tecdat.cn/?p=35975分析师：Yaning Wu，Zexi Jin，Chang Zhang，Wei Zuo在当今信息爆炸的时代，文本分析作为一种重要的数据处理方法，已经广泛应用于各个领域的研究中（点击文末“阅读原文”了解更多）。相关视频本文旨在通过运用文本分析技术，帮助客户深入探究新能源汽车股市涨跌影响、英国全国性封锁对零售配送产业的影响、疫情下的旅游微博数...
博客
【专题】2024业务视角的中国企业AI+学习发展报告合集PDF分享（附原数据表）
04-19 105
原文链接：https://tecdat.cn/?p=35970学习型组织的数字化转型已成为企业竞相追逐的焦点。在数字战略的推动下，人才升级显得尤为关键，而数字化学习则成为了加速人才培养的强有力工具（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频AI技术的广泛运用，为企业的学习型组织插上了数字化转型的翅膀，助力其腾飞。这份报告合集深入解析了AI时代企业的学习发展，全面剖析了AI在业务赋能...
博客
【专题】2024新能源及储能参与电力市场交易白皮书报告合集PDF分享（附原数据表）...
04-18 73
原文链接：https://tecdat.cn/?p=359582019至2023年，我国新能源市场化交易电量持续增长，2023年更是达到6,845亿千瓦时，占新能源发电总量的47.3%（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频同年，国家电网公司绿电结算电量跃升至576亿千瓦时，绿证交易也激增15倍，达到2,364万张。阅读原文，获取专题报告合集全文，解锁文末204份电力相关行业研...
博客
【专题】2024年中国跨境进口电商B2C行业消费趋势白皮书报告合集PDF分享（附原数据表）...
04-17 15
原文链接：https://tecdat.cn/?p=35940报告合集指出，随着中国经济开放程度的加深和全球化的推进，跨境进口电商行业规模持续扩大，抖音电商全球购等平台成为国际品牌进入中国市场的重要跳板（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频消费者对品质生活的追求日益提升，对产品的专业性和真实性要求更加严格，更倾向于兴趣导向的购物决策。阅读原文，获取专题报告合集全文，解锁文末2...
博客
【专题】2024中国生成式AI开发者洞察报告合集PDF分享（附原数据表）
04-16 116
原文链接：https://tecdat.cn/?p=35908生成式人工智能正成为产业创新的关键力量，与实体经济的深度融合将推动新质产业的蓬勃发展（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频本报告合集重点关注那些在各行各业致力于生成式AI技术研发或利用AI工具高效工作，并具备相应专业技术能力的开发者。这些开发者不仅包括传统的AI程序员，还涵盖了数据分析师、运营人员、市场专员及测试工...
博客
【视频】R语言支持向量回归SVR预测水位实例讲解|附代码数据
04-16 717
全文链接：https://tecdat.cn/?p=35914分析师：Miaoqiao Wang当我们面对样本需要建立相应模型时，使用传统统计方法建立模型需要大量的样本数据，只有在样本量足够大时，该模型才具有一定的可靠性，而实际实验中，不一定每次实验都拥有足够大的样本，甚至是小样本，这时使用传统统计方法来建立出的模型，在可靠性方面就存在一定的局限，难以达到理想的效果（点击文末“阅读原文”获取完整代...
博客
R语言Stan贝叶斯回归置信区间后验分布可视化模型检验|附数据代码
04-15 20
全文链接：https://tecdat.cn/?p=35899贝叶斯回归是一种统计方法，它使用贝叶斯定理来估计回归模型的参数。与传统的频率派回归方法不同，贝叶斯回归提供了参数的后验分布，而不仅仅是点估计。这意味着我们可以得到参数的不确定性度量，而不仅仅是单一的估计值（点击文末“阅读原文”获取完整代码数据）。相关视频R语言用于拟合贝叶斯广义线性模型。我们可以方便地帮助客户拟合贝叶斯线性回归、逻辑回归...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值