Kaggle 入门项目 Titanic 排名前 7%

已于 2025-04-10 08:23:09 修改
阅读量873 收藏 31
点赞数 22
分类专栏： 机器学习 文章标签： sklearn python
于 2025-04-09 21:25:30 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Galaxy_zero/article/details/147102598
版权

🚢泰坦尼克号 - 灾难中的机器学习（进阶版）

在这里插入图片描述

🎯目标描述

泰坦尼克号 的沉没是历史上最臭名昭著的沉船事件之一。

1912 年 4 月 15 日，在她的处女航中，被广泛认为 “永不沉没” 的 泰坦尼克号 在与冰山相撞后沉没。不幸的是，船上的每个人都没有足够的救生艇，导致 1502 名乘客和船员中有 2224 人死亡。虽然生存下来有一些运气因素，但似乎某些群体比其他人更有可能生存下来。

在本次挑战赛中，我们要求您构建一个预测模型，使用乘客数据（即姓名、年龄、性别、社会经济阶层等）回答 “什么样的人更有可能生存” 这个问题。

🏳️‍🌈数据集

数据被分成两组：

  • 训练集（train.csv）
  • 测试集（test.csv）

训练集 应该用于构建您的机器学习模型。对于训练集，我们为每个乘客提供结果（也称为 “ground truth” ）。你的模型将基于乘客的性别和阶级等 ***“特征”***。您还可以使用特征工程来创建新特性。

测试集 应该用于查看模型在未见过的数据上的表现。对于测试集，我们不提供每个乘客的真实情况。你的工作就是预测这些结果。对于测试集中的每个乘客，使用您训练的模型来预测他们是否在泰坦尼克号沉没时幸存下来。

我们还包括 gender_submission.csv 是一组假设所有且只有女性乘客存活的预测，作为提交文件应该是什么样子的示例。

特征定义其他类型
PassengerIdID\连续型
Survived是否幸存0 = No, 1 = Yes离散型
Pclass票类1 = 1st (Upper), 2 = 2nd (Middle), 3 = 3rd (Lower)离散型
Name姓名\\
Sex性别male 男性, female 女性离散型
Age年龄如果年龄小于1，则为小数连续型
SibSp兄弟姐妹/配偶人数兄弟姐妹 = 兄弟 + 姐妹 + 继兄弟 + 继姐妹
配偶 = 丈夫 + 妻子（情妇和未婚夫除外）		离散型
Parch父母/孩子父母 = 母亲 + 父亲
孩子 = 女儿 + 儿子 + 继女 + 继子
有些孩子只和保姆一起旅行，因此对他们来说parch=0		离散型
Ticket船票号码用于区分不同的乘客连续型
Fare票价英镑连续型
Cabin舱室乘客所住的船舱编号\
Embarked登船港口C = Cherbourg, Q = Queenstown, S = Southampton离散型

🚀模型选择与评估

逻辑回归

–> LogisticRegression

在这里插入图片描述

在这里插入图片描述

决策树

–> DecisionTreeClassifier

请添加图片描述

在这里插入图片描述

随机森林

–> RandomForestClassifier

在这里插入图片描述

AdaBoost

–> AdaBoostClassifier

在这里插入图片描述

GBDT

–> GradientBoostingClassifier

在这里插入图片描述

硬投票与软投票

–> VotingClassifier

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

堆叠

–> StackingClassifier

在这里插入图片描述

在这里插入图片描述

✅学习总结

本次使用全数据进行预处理，并将分类数据进行 One-Hot 编码。

进行了 卡方检验 ，找出了权重前十的特征进行训练。

利用 GridSearchCV 网格搜索 选出分数最高的最佳参数，训练提交。

共建立了 7 个模型，分别是：

  1. LogisticRegression : 逻辑回归
  2. DecisionTreeClassifier : 决策树
  3. RandomForestClassifier : 随机森林
  4. AdaBoostClassifier : 参数权重
  5. GradientBoostingClassifier : 梯度提升
  6. VotingClassifier : 投票
  7. StackingClassifier : 堆叠

目前来看 随机森林 的效果是最好的，分数从 0.76315 --> 0.79186 🔼 ，排名从只用逻辑回归的 12980 --> 1231 ⏫

排名的上升也是我没有想到的，仅仅提升 2.87% ，上升了 11749 名，这可能也代表了我正式入门了机器学习！

但仍旧有一些问题：

  • Boosting、Voting、Stacking 的效益竟然没有 决策树 和 随机森林 高，且使用 Boosting 时有十分严重的过拟合问题，按道理它能够有效防止过拟合的。
  • 根据两天的不断尝试，调整了各种参数，也怀疑了各种参数，但最终都没有将 score 提升到 0.80 以上（可能是数据预处理需要更加完善）。
  • 随机森林 使用特征选择后的数据比特征选择前更好，但理论上讲 随机森林 应该可以随机特征选择的。

想法：

  1. Cabin 特征即使空缺较多也是可以使用的
  2. 是否独自乘船？也可以作为特征之一
  3. 决策树 和 随机森林 可能需要增加剪枝
  4. 需要增加更多种的模型，以提供更多因素供 集成算法 的提升

总结来看，这些模型能够熟练掌握，但数据处理和模型实际运用上仍需提高！

虽然总结出这么多不足，但实际上这次相对于第一次提升很大了，也算是又上升一个台阶了。

❤️‍🔥继续加油！( •̀ ω •́ )✧

🪢资源链接

  1. Kaggle
  2. GitHub
  3. GitCode
  4. CSDN
基于Kaggle入门项目预测Titanic乘客的获救的数据进行的模型探究（二）
Chaos_Happy
06-26 441
基于Titanic的数据集做的模型探究（二） 今天没在状态，只用了one-hot提升了编码的效果 文章目录基于Titanic的数据集做的模型探究（二）一、One-hot编码 二、特征工程中的修改1.One-hot编码2.预测结果总结 一、One-hot编码  One-hot编码是一种编码方式，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效. 举个例子: 性别广义上只有2个状态，分别是‘男’和‘女’。使用one-ho
Kaggle入门指南（Kaggle竞赛）
热门推荐
Dontla的博客
11-02 2万+
Kaggle 的核心之一就是竞赛。在这里，用户可以找到来自各个行业的挑战，参与者需要根据给定的数据集构建模型，并在排行榜上竞争。竞赛的主题涵盖了从图像识别到自然语言处理等多个领域。Kaggle 是数据科学领域的重要平台，提供了丰富的学习与实践机会。从注册、数据集的使用，到参与竞赛与分享经验，Kaggle 帮助用户不断提高技能。在此过程中，不断学习和探索新知识，将是获得成功的关键。
kaggle商品数据集_kaggle项目之Titanic数据集
weixin_39778447的博客
01-12 656
本例主要针对kaggle上的Titanic数据集进行分析预测，文章主体分为以下两个部分：机器学习流程的回顾Titanic数据集的分析和处理imagePS:流程回顾来源于Udacity的机器学习入门课程，Titanic数据的处理参考了kaggle上众位大佬的分享。——————流程回顾——————在开始进行分析之前，让我们仔细回顾下一个机器学习项目的流程。数据集/问题——>特征处理——>算...
kaggle入门及titanic案例学习
千人斩的博客
11-12 607
本文长度20000字，约有300行python代码，建议阅读时间30分钟。 文章目录一. 准备工作1.1 注册账号1.2 基础课程学习1.3 安装jupyter二. 准备开发环境和数据三. 我的实现3.1 代码3.2 具体思路四. 更好的实现（翻译）4.1 前期准备4.1.1 库的导入4.1.2 数据导入4.2 处理缺失数据4.2.1 年龄4.2.2 票价4.2.3 船舱4.2.4 上船港口4.3...
Kaggle入门Titanic详解
splnn的博客
11-22 938
Kaggle入门Titanic详解 数据集下载 数据集处理 定义网络 训练 生成结果 提交结果
基于Kaggle入门项目预测Titanic乘客的获救的数据进行的模型探究（一）
Chaos_Happy
06-26 431
基于Titanic的数据集做的模型探究（一） 基于XGboost快速搭建分类模型 文章目录基于Titanic的数据集做的模型探究（一）前言一、数据的基本情况二、数据处理（简单处理）1.数据清洗及缺失值填充2.特征工程3. 模型的搭建（XGboost)4. 模型预测总结 前言 知道Kaggle已经好长时间了，账号也建立4年了，但是一直没有真正的动手来写过项目. 这个titanic的项目数据前前后后下载了太多次了，现在终于有点时间可以做了. 这个数据应该是比较简单的一个数据集了，所以我想通过这个数据集来对
Kaggle入门赛Titanic Tutorialsnotebook中翻
qq_45686454的博客
01-05 247
由于Kaggle中的notebook均为英文，学习起来不太方便，因此我将notebook翻译为中文并对代码进行了复现，且加上了自己的注释，方便阅读。最近，我在学习Kaggle的入门赛Titanic，针对python，重点学习了以下三篇Notebook。这三篇也是Kaggle Tutorials中向Beginner推荐的Notebook。
kaggle入门项目python完整代码详解——泰坦尼克幸存者
m0_74352594的博客
05-02 2001
test_df.isnull().sum() #在Jupyter Notebook中，单元格中的最后一个表达式的结果会被自动展示，这使得在一些情况下可以不必显式地使用print()函数。info（）方法详细列出了DataFrame中的每列，包括其名称、非空值的数量以及每列的数据类型。：这是 pandas 中的一个函数，用于计算两个（或更多）因子的简单交叉表。：这是 pandas 中的一个字符串方法，用来对字符串列应用正则表达式，并提取匹配的部分。：一个介于0和1之间的数值列表，用于指定计算哪些百分位数。
Kaggle入门——Titanic: Machine Learning from Disaster
开着奔驰种地的博客
02-02 672
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Ma...
Top-4-pct_Titanic_Kaggle:泰坦尼克号的前4％，这是Kaggle的标志性入门级比赛
03-16
`` Kaggle的标志性入门级比赛）在2020/05年排名前4％（833/22219）。 该分析是使用R进行的。 大纲 排行 数据集 脚步 重现Kaggle提供的训练数据的结果 公众排行榜在Kaggle上的排名和得分 细节6-1功能介绍6-2缺失值...
kaggle入门-Titanic
01-30
The sinking of the RMS Titanic is one of the most infamous shipwrecks in history. On April 15, 1912, during her maiden voyage, the Titanic sank after colliding with an iceberg, killing 1502 out of ...
kaggle泰坦尼克数据titanic
01-09
总的来说，"kaggle泰坦尼克数据titanic"涵盖了数据预处理、特征工程、模型选择、模型训练、模型评估以及结果提交等一系列数据科学流程，是初学者熟悉数据科学工作流和提升技能的好项目。通过这个项目，我们可以学习...
[sklearn] 特征工程
z1zyy的博客
05-09 766
输出结果：按照顺序，比如第一个样本city为北京，那么对应北京列的值为1，其它为0.
sklearn自定义pipeline的数据处理
LLMUZI123456789的博客
05-09 304
【代码】sklearn自定义pipeline的数据处理。
Scikit-learn：Python 机器学习库的全面指南
candy的博客
05-12 248
Scikit-learn是Python中广泛使用的机器学习库，提供丰富的工具和算法，支持数据挖掘和数据分析。其核心特点包括统一的API设计、高效的实现、良好的文档和易于扩展性。Scikit-learn适用于多种机器学习任务，如分类、回归、聚类和降维，但不擅长处理深度学习和超大规模数据。通过Pipeline和GridSearchCV等工具，用户可以简化工作流程并进行超参数调优。尽管存在一些局限性，Scikit-learn通过与其他库（如Dask、TensorFlow）的集成，能够满足更复杂的需求。
TGV之LTX：LTX-Video的简介、安装和使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-11 1075
​ TGV之LTX：LTX-Video的简介、安装和使用方法、案例应用之详细攻略 目录 LTX-Video的简介 LTX-Video的安装和使用方法 LTX-Video的案例应用 LTX-Video的简介 LTX-Video是第一个基于DiT的实时高质量视频生成模型。它能够以1216×704分辨率生成30 FPS的视频，速度快于观看视频本身。该模型在一个大型多样化视频数据集上进行训练，能够生成具有逼真和多样化内容的高分辨率视频。它支持文本到视频、图像到视频、关键帧动画、视
Python 基础语法与数据类型(八) - 函数参数：位置参数、关键字参数、默认参数、可变参数 (*args, **kwargs)
最新发布
晨的技术博客
05-13 396
本篇博客详细介绍了 Python 函数参数的四种主要类型：位置参数、关键字参数、默认参数和可变参数 (*args, **kwargs)。位置参数要求实参按顺序传递，关键字参数则通过参数名指定值，提高了代码的可读性。默认参数允许为参数提供默认值，但需注意避免使用可变对象作为默认值。可变参数 *args 和 **kwargs 分别用于接收任意数量的位置参数和关键字参数，增强了函数的灵活性。通过合理使用这些参数类型，可以编写出更通用和易维护的函数。
Python数据分析案例74——基于内容的深度学习推荐系统（电影推荐）
weixin_46277779的博客
05-10 1339
电影数据集构建推荐系统，结合内容推荐和深度学习两种方法。预处理、探索性分析，加权平均法和余弦相似度进行基于内容的推荐，计算电影的相似度并生成推荐结果。并且使用深度学习模型，构建评分预测和检索任务，用户个性化推荐和评分预测。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值