R语言特征选择——逐步回归

于 2022-11-29 17:57:19 发布
阅读量617 收藏
点赞数
分类专栏： 拓端 拓端tecdat 拓端数据 文章标签： r语言 开发语言 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tecdat/article/details/128102603
版权
本文介绍了R语言中的变量选择方法，包括所有可能的回归分析，最佳子集回归，以及逐步前进回归的详细过程，特别强调了逐步前进回归在基于p值选择预测变量中的应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 
变量选择方法

所有可能的回归

model <- lm(mpg ~ disp + hp + wt + qsec, data = mtcars)
ols_all_subset(model)

## # A tibble: 15 x 6
##    Index     N      Predictors `R-Square` `Adj. R-Square` `Mallow's Cp`
##                                          
##  1     1     1              wt    0.75283         0.74459      12.48094
##  2     2     1            disp    0.71834         0.70895      18.12961
##  3     3     1              hp    0.60244         0.58919      37.11264
##  4     4     1            qsec    0.17530         0.14781     107.06962
##  5     5     2           hp wt    0.82679         0.81484       2.36900
##  6     6     2         wt qsec    0.82642         0.81444       2.42949
##  7     7     2         disp wt    0.78093         0.76582       9.87910
##  8     8     2         disp hp    0.74824         0.73088      15.23312
##  9     9     2       disp qsec    0.72156         0.70236      19.60281
## 10    10     2         hp qsec    0.63688         0.61183      33.47215
## 11    11     3      hp wt qsec    0.83477         0.81706       3.06167
## 12    12     3      disp hp wt    0.82684         0.80828       4.36070
## 13    13     3    disp wt qsec    0.82642         0.80782       4.42934
## 14    14     3    disp hp qsec    0.75420         0.72786      16.25779
## 15    15     4 disp hp wt qsec    0.83514         0.81072       5.00000

该plot方法显示了所有可能的回归方法的拟合  。

model <- lm(mpg ~ disp + hp +
最低0.47元/天 解锁文章
博客
Python+AI提示词糖尿病预测融合模型：伯努利朴素贝叶斯、逻辑回归、决策树、随机森林、支持向量机SVM应用
05-16 1030
其中，(w_i)为特征权重，反映症状对患病风险的影响程度。原始SVM模型（线性核）准确率仅68%，经网格搜索优化（AI提示词：用RBF核和网格搜索提升SVM在医疗数据中的分类性能），选定C=100、gamma=0.1，准确率提升至97%，表明非线性核函数能有效挖掘特征间复杂关联（图10、图11）。研究团队基于真实医疗数据集，系统对比了逻辑回归（LR）、决策树（DT）、随机森林（RF）、支持向量机（SVM）和伯努利朴素贝叶斯（BNB）等算法的表现，并通过模型融合技术实现预测性能的跨越式提升。
博客
2025年全球人工智能AI信任、态度与应用研究报告530+份汇总解读|附PDF下载
05-15 195
数据显示，新兴经济体在AI使用率与信任度上显著领先：印度、尼日利亚等国的AI使用率超90%，而荷兰、日本等发达经济体仅为43%-50%。在工作场景中，58%员工定期使用AI工具，其中73%采用公共生成式AI（如ChatGPT），但仅40%企业制定了生成式AI使用政策。值得关注的是，尽管发达经济体对AI技术能力的信任度达65%，但对其安全与伦理的信任仅52%，反映出技术乐观与社会风险的认知割裂。然而，仅49%教育机构提供AI使用政策指导，20%明确禁止生成式AI，导致59%学生存在违规使用行为。
博客
Python与MySQL网站排名数据分析及多层感知机MLP、机器学习优化策略和地理可视化应用|附AI智能体数据代码
05-15 627
值得关注的是，项目中开发的「数据清洗-特征工程-模型训练-可视化反馈」闭环框架，已在实际应用中帮助客户提升关键词排名30%以上，验证了技术方案的有效性。通过关联分析热力图（图4）发现：「页面加载速度」与「移动端适配性」呈强正相关（相关系数0.82），而「关键词密度」与「用户跳出率」呈负相关（-0.65）。使用K-means算法，将网站分为「高流量高转化」「低流量高粘性」等4类，为差异化优化提供依据（AI提示词：利用K-means聚类分析网站流量特征，划分用户群体）。
博客
2025数智化供应链白皮书90+份汇总解读|附PDF下载
05-14 32
例如，在智能采购中，AI大模型可以分析供应商历史数据、市场动态及价格趋势，智能匹配最优供应商，结合需求预测与库存状况，自动生成精准采购策略，实现成本与库存的双重优化。然而，面对日益复杂的供应链网络，传统的人工决策方式已经无法全面考虑到全局因素，制约了运作效率的提升，也更难以发现新的价值机会和渠道。本报告汇总解读将深入剖析数智化供应链在当前经济格局下的发展态势，通过对大量行业数据的分析，揭示其面临的挑战与机遇，并以安得智联等企业的实践为案例，探讨数智化供应链的创新模式与应用场景。
博客
SARIMA-LSTM融合模型对太阳黑子数量预测分析|附智能体数据代码
05-13 747
该流程图系统描述了太阳黑子数量序列的预测分析流程：首先进行数据稳定性检验，若序列非平稳，进行多次差分直到序列平稳，SARIMA侧重捕捉周期性特征，于是提取季节性与趋势数据对SARIMA进行参数优化与模型构建，得到SARIMA模型结果，与真实值的差值为残差序列。融合模型是通过结合多个基模型预测结果来提升整体预测性能的机器学习范式，在本研究中，基模型为SARIMA模型与LSTM模型，它们分别具备良好的处理数据中线性和季节性成分的性能与处理非线性或复杂成分的性能，在众多方向发展已经有研究。从而确保数据的有效性。
博客
2025政企行业智能体（AI Agent）研究报告380+份汇总解读|附PDF下载
05-13 111
社区AI Agent基于相关政策和数据，为居民提供信息查询、物业事项办理等服务，实现了“问”“查”“听”“做”的全方位服务，助力建设智慧便捷的高效服务体系，提高了企业和群众的办事满意度。为提升稳定性，需扩展通用及政企行业的工作流程，将其抽象并标准化，转化为经验数据，增强AI Agent的独立决策能力和环境适应性。该平台整合多级政策和行业知识资源，训练诊断咨询大模型，为企业提供政策服务、诊断评估等一站式服务，帮助中小企业解决“不想转、不会转、不敢转”的难题，推动中小企业数字化转型，提升区域数字经济发展水平。
博客
2025半导体行业投融资、薪酬报告60+份汇总解读|附PDF下载
05-09 30
B 轮融资有 131 起，占比约 20%，表明不少半导体公司进入中后期融资阶段，但 C 轮及以后的比例较低，只有少数具备持续创新、保持市场领先地位并实现规模化盈利的企业，才能成功获得 C 轮融资，如瀚博半导体作为高端 GPU 芯片提供商，就拿到了 C 轮融资。上海以 113 起融资事件断层领先，这得益于其拥有完整的半导体产业链，涵盖芯片设计、制造、封装测试、设备材料等环节，张江高科技园区更是聚集了中芯国际、紫光展锐、华虹半导体等龙头企业，形成协同效应，同时相关政策的扶持也为半导体产业发展提供了有力支持。
博客
ARIMA-ETS-LightGBM集成及随机森林在信用卡AMT关联、汇率波动与贷款违约预测中的跨模型协同应用实践
05-09 887
在信用卡与替代性最低税（AMT）关系的研究中，我们创新地将传统时间序列模型 ARIMA、ETS 与当下热门的 LightGBM 算法相结合，通过数据清洗、衍生变量构造，以集成学习加权平均的方式预测两者关联，弥补单一模型的不足。而银行贷款违约预测项目，我们从庞大的贷款借款人数据出发，经属性规约、数据清洗与变换，运用随机森林算法构建分类模型，实现对贷款违约风险的有效预测。而指数平滑法则兼容了全期平均和移动平均所长，不舍弃过去的数据，但是仅给予逐渐减弱的影响程度，即随着数据的远离，赋予逐渐收敛为零的权数。
博客
2024年中国企业跨境、出海、国际化、全球化行业报告汇总解读|附PDF下载
05-08 130
原文链接： https://tecdat.cn/?p=38542在当今全球化浪潮汹涌澎湃之际，中国企业的跨境、出海、国际化与全球化征程正深刻重塑着商业版图。本报告合集犹如一盏明灯，深入洞察这一宏大进程。开篇聚焦出海核心区域与行业布局，制造业于东南亚等区域的多元战略布局，以及各行业在国际化征途中的机遇挑战尽显无遗（点击文末“阅读原文”获取专题报告合集PDF版本）。继而转向新兴领域，数字贸易在亚太地区的崛起分化，新能源企业于中东、东南亚的崭露头角令人瞩目。文末455份跨境、出海、国际化、全球化行业研究报告最新趋
博客
CNN-LSTM、GRU、​XGBoost、LightGBM风电健康诊断、故障与中国银行股票预测应用实例
05-08 758
预训练模型是基于序列到序列框架的基于注意力机制的CNN-LSTM模型，该模型首先利用基于注意力机制的多尺度卷积来提取原始股票数据的深层特征，然后利用长短期记忆网络挖掘时间序列特征，最后采用XGBoost模型进行微调。而在股票价格预测领域，针对传统 ARIMA 模型的局限性，创造性提出结合注意力机制的 CNN-LSTM-ARIMA-XGBoost 混合模型，通过预训练 - 微调框架，显著提升预测精度。通过对原始序列和一阶差分序列进行ADF检验的结果表明，原始序列是非平稳的，一阶差分序列是平稳的。
博客
R语言混合效应逻辑回归（mixed effects logistic）模型分析肺癌数据|附AI智能体
05-07 939
在我们的案例中，我们首先将从医生那里取样，然后在每个取样的医生中，我们将从他们的病人那里取样。分布看起来相当正常和对称，你仍然可以看到长的右尾，即使使用了平方根刻度（注意，只有刻度被转移，数值本身没有被转换，这很重要，因为这让你看到并解释实际的分数，而不是分数的平方根）。下面我们使用glmer命令估计混合效应逻辑回归模型，Il6、CRP和住院时间为患者水平的连续预测因素，癌症阶段为患者水平的分类预测因素（I、II、III或IV），经验为医生水平的连续预测因素，还有DID的随机截距，医生ID。
博客
Python+AI提示词用LSTM和注意力机制的苹果公司股票价格预测
04-30 678
与传统的RNN不同，LSTM通过其独特的结构，包括输入门、遗忘门和输出门，能够有效地解决梯度消失的问题，从而保持长时间的信息记忆。AI提示词：使用yfinance库获取苹果公司最近60天的股票数据，选择收盘价并进行缩放处理，将处理后的数据转换为适合模型输入的格式，然后使用训练好的模型进行预测，并将预测结果转换回原始价格尺度并打印。AI提示词：在上述构建的LSTM模型基础上，添加注意力机制，包括进行必要的维度变换操作，如Permute和Reshape，以确保模型结构的兼容性，并添加一个全连接层和编译模型。
博客
2025年银行业展望报告200+份汇总解读|附下载
04-29 40
报告从全球银行业的整体运行状况切入，以详实的数据展现盈利、成本、业务增长等方面的现状，进而深入探讨地缘政治、技术、客户与员工需求等因素对银行业的影响，并针对这些挑战提出切实可行的应对策略，旨在为行业参与者和观察者提供全面且具前瞻性的洞察，助力其在充满变数的市场环境中精准把握趋势、制定有效决策。欧洲市场中，德国、法国、西班牙和意大利的银行贷款增长率将从2024年的0.2%升至2025年的3.1%，住房抵押贷款、消费信贷和商业贷款均呈现良好回升态势，这将推动2025年净利息收入预计增长3%（2024年为零）。
博客
2025年1-3月人工智能AI行业500+份报告汇总解读|附下载
04-29 181
原文链接：https://tecdat.cn/?p=41437在科技飞速发展的当下，人工智能（AI）已成为推动各行业变革的核心力量。从生命科学到制造业，从数据中心能耗到企业运营，AI正以前所未有的速度渗透到各个领域，改变着我们的生活和工作方式。本次汇总解读将深入剖析AI在多领域的应用现状、发展趋势以及面临的挑战，为行业从业者和关注者提供全面且深入的洞察，助力把握AI时代的机遇（点击文末“阅读原文”获取专题报告合集PDF版本）。本报告汇总洞察基于文末500+份人工智能行业研究报告的数据，报告合集已分享在交流群
博客
Python、R语言南方电网、电力负荷数据多模型构建：分位数回归、GAM样条曲线、指数平滑和SARIMA与预测实践
04-28 990
对于没有明显趋势或季节规律的预测数据，通常采用 SES 模型，该模型预测使用加权平均计算，最大的权重与最近的观测值相关，而最小的权重与最远的观测值相关。：对于数据，由于电费资金收入的规则、政策以及当地的产业情况变动频繁，时间较久远的日度收入规律不具有参考性，故采用最近一年的数据，即 2020 年 8 月至 2021 年 11 月的数据进行建模，其中 2020 年 8 月至 2021 年 7 月为训练集，2021 年 8 - 10 月为验证集，2021 年 11 月为测试集。
博客
2025中国生命科学行业概览及未来展望报告200+份汇总解读|附PDF下载
04-28 33
那些能够聚焦高增长细分领域，如牙科、服务领域，并且通过AI驱动的产品平台化创新，像达芬奇手术机器人那样实现差异化的企业，成为了行业的优胜者。在首席执行官的领导下，赛诺菲推出了全面的基因AI平台。从全球视角来看，生命科学行业正处于快速变革与发展的关键时期，中国市场更是凭借庞大的人口基数、不断提升的科研实力以及逐步完善的政策支持体系，成为全球生命科学领域中备受瞩目的重要力量。通过持续的技术创新、合理的市场布局以及积极的政策响应，中国生命科学行业有望在全球市场中占据更加重要的地位，为人类健康事业做出更大的贡献。
博客
2025年Q1消费者行业报告470+份汇总解读|附PDF下载
04-27 63
分市场来看，发达市场增长乏力，2024年销售额从2023年的7.7%降至4.5%，销量持平，这主要是高通胀使消费者支出集中于性价比高的产品，挤压了大众和价值产品市场份额。新兴市场则是增长主引擎，年同比增长11%，几乎贡献了全球消费品行业的全部销量增长，尽管中国和印度等关键市场增速低于预期，但仍实现两位数销售增长。早期，AI应用多为年轻的先锋人群所青睐，但在2024年，各年龄段的用户占比发生了显著变化，年长用户群体对AI应用的参与度逐步提升，使AI应用的年龄分布更趋近于整体移动互联网用户的年龄结构。
博客
视频讲解|Python贝叶斯优化长短期记忆网络BO-LSTM的能耗、黄金价格预测可视化
04-27 942
而在能源领域的项目里，我们基于 PyTorch 构建贝叶斯 LSTM 模型，利用蒙特卡罗 dropout 实现不确定性量化，让能耗预测不仅有了精准的数值，更附带了可靠的置信区间，为能源调度等工作提供了丰富的决策参考。通过对能耗数据的精心处理，为模型训练奠定了良好基础；AI提示词：定义实验次数，对测试集进行多次预测，将每次预测的结果存储在数据框中，计算预测值的均值和标准差，添加到数据框中，然后计算置信区间的上下界，并使用plotly.graph_objects绘制包含真实值、置信区间上下界的可视化图形。
博客
2025年Q1生命科学、医药、医疗器械行业报告300+份汇总解读|附PDF下载
04-24 58
在生物医药区域研发方面，从全国城市总体情况到五大城市群，再到长三角、环渤海、珠三角、成渝等地区城市，都对比了研发相关数据，展示了不同区域的研发实力和发展特点。医药研发外包行业受上游市场影响，企业格局呈现中外竞争等局面，CRO 企业数量、分布等情况明确，临床 CRO 业务能力各有差异，行业前景有机遇也有风险。头豹：2024年中国生物医药创新药的国际化征途-全球医药市场将达两万亿... 报告2024-08-01Meltwater融文：2024年消费者洞察报告：医疗健康 报告2024-08-01。
博客
Python+AI提示词出租车出行轨迹预测：梯度提升GBR、KNN、LR回归、随机森林融合及贝叶斯概率异常检测研究
04-23 809
在未来的研究中，我们可以进一步优化这些模型，比如调整模型的超参数、尝试更多的特征工程方法，或者结合多个模型的预测结果，以提高预测的准确性和可靠性。在对出租车出行数据进行了详细的探索性分析和异常数据检测后，我们进一步深入研究，尝试构建多种机器学习模型来对出租车的行程进行预测，以便更精准地把握出租车出行的规律，为城市交通规划和运营提供更有力的支持。从结果来看，不同的模型各有优劣。为了构建合适的机器学习模型，我们首先对数据进行了必要的预处理和特征工程，将数据划分为训练集和测试集，分别用于模型的训练和评估。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值