Kaggle 入门——titanic(SVM)

最新推荐文章于 2023-12-15 21:06:55 发布
最新推荐文章于 2023-12-15 21:06:55 发布
阅读量776 收藏 1
点赞数 2
文章标签： 机器学习 python 拓扑学
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43460251/article/details/105039716
版权
本文详述了机器学习的基本框架，包括定义问题、获取数据、数据准备、探索性分析、选择模型、验证数据模型及参数优化。重点介绍了使用Python进行数据预处理的方法，如缺失值填充、数据转换、特征工程等，以及特征编码和数据集划分。
摘要由CSDN通过智能技术生成

some of this article gets from 官网优秀指导

The framework of machine learning：

1、 define the problem
2、 get the data
3、 prepare the data
4、 perform exploratory analysis
5、 choose the appropriate model
6、 validate the data model
7、 optimize the parameter

data preparing

the method could be MATLAB or PYTHON to crush the data.
here i choose python to handle this.

data analysis`s tips:

1、 correct. There are some special columu of data such as age which couldn`t be 180. So check the data.
2、 complete. Some algorithm couldn`t get the NULL. So check it again.
3、 create. ceate some new columu or paremeter which is more meaningful.
4、 convering.

font converting is the most important thing in this period.
pandas 读取数据后得到的是DataFrame类型

数据处理部分

import pandas as pd
from sklearn.preprocessing import LabelEncoder
from sklearn import feature_selection
from sklearn import model_selection
from sklearn import metrics
path_train = 'D:\\AboutWork\\机器学习\\Example1_titanic\\train.csv'
path_test = 'D:\\AboutWork\\机器学习\\Example1_titanic\\test.csv'
raw_data = pd.read_csv(path_train)
test_data = pd.read_csv(path_test)
data_cleaner = [raw_data, test_data]
print(raw_data.sample(10))
print(raw_data.isnull().sum())

     PassengerId  Survived  Pclass  \
817          818         0       2   
54            55         0       1   
566          567         0       3   
769          770         0       3   
186          187         1       3   
208          209         1       3   
559          560         1       3   
340          341         1       2   
358          359         1       3   
483          484         1       3   

                                                Name     Sex   Age  SibSp  \
817                               Mallet, Mr. Albert    male  31.0      1   
54                    Ostby, Mr. Engelhart Cornelius    male  65.0      0   
566                             Stoytcheff, Mr. Ilia    male  19.0      0   
769                 Gronnestad, Mr. Daniel Danielsen    male  32.0      0   
186  O'Brien, Mrs. Thomas (Johanna "Hannah" Godfrey)  female   NaN      1   
208                        Carr, Miss. Helen "Ellen"  female  16.0      0   
559     de Messemaeker, Mrs. Guillaume Joseph (Emma)  female  36.0      1   
340                   Navratil, Master. Edmond Roger    male   2.0      1   
358                             McGovern, Miss. Mary  female   NaN      0   
483                           Turkula, Mrs. (Hedwig)  female  63.0      0   

     Parch           Ticket     Fare Cabin Embarked  
817      1  S.C./PARIS 2079  37.0042   NaN        C  
54       1           113509  61.9792   B30        C  
566      0           349205   7.8958   NaN        S  
769      0             8471   8.3625   NaN        S  
186      0           370365  15.5000   NaN        Q  
208      0           367231   7.7500   NaN        Q  
559      0           345572  17.4000   NaN        S  
340      1           230080  26.0000    F2        S  
358      0           330931   7.8792   NaN        Q  
483      0             4134   9.5875   NaN        S  
PassengerId      0
Survived         0
Pclass           0
Name             0
Sex              0
Age            177
SibSp            0
Parch            0
Ticket           0
Fare             0
Cabin          687
Embarked         2
dtype: int64

raw_data = pd.read_csv(path_train)
test_data = pd.read_csv(path_test)
data_cleaner = [raw_data, test_data]
for data in data_cleaner:
    data['Age'].fillna(data['Age'].median(), inplace=True)
    data['Embarked'].fillna(data['Embarked'].mode()[0], inplace=True)
    data.drop(['Ticket', 'Cabin', 'PassengerId'], axis=1, inplace=True)  # 删除列
print(raw_data.sample(10))
print(raw_data.isnull().sum())

     Survived  Pclass                                              Name  \
620         0       3                               Yasbeck, Mr. Antoni   
176         0       3                     Lefebre, Master. Henry Forbes   
568         0       3                               Doharr, Mr. Tannous   
863         0       3                 Sage, Miss. Dorothy Edith "Dolly"   
742         1       1             Ryerson, Miss. Susan Parker "Suzette"   
748         0       1                         Marvin, Mr. Daniel Warner   
279         1       3                  Abbott, Mrs. Stanton (Rosa Hunt)   
206         0       3                        Backstrom, Mr. Karl Alfred   
871         1       1  Beckwith, Mrs. Richard Leonard (Sallie Monypeny)   
317         0       2                              Moraweck, Dr. Ernest   

        Sex   Age  SibSp  Parch      Fare Embarked  
620    male  27.0      1      0   14.4542        C  
176    male  28.0      3      1   25.4667        S  
568    male  28.0      0      0    7.2292        C  
863  female  28.0      8      2   69.5500        S  
742  female  21.0      2      2  262.3750        C  
748    male  19.0      1      0   53.1000        S  
279  female  35.0      1      1   20.2500        S  
206    male  32.0      1      0   15.8500        S  
871  female  47.0      1      1   52.5542        S  
317    male  54.0      0      0   14.0000        S  
Survived    0
Pclass      0
Name        0
Sex         0
Age         0
SibSp       0
Parch       0
Fare        0
Embarked    0
dtype: int64

for data in data_cleaner:
    data['FamilySize'] = data['SibSp'] + data['Parch'] + 1
    data['IsAlone'] = 1
    data['IsAlone'].loc[data['FamilySize'] > 1] = 0  # DataFrame的loc函数需要会
    data['FareBin'] = pd.qcut(data['Fare'], 4)  # qcut将数据区分成几个区间，具体参照方式由系统自动确定
    data['AgeBin'] = pd.cut(data['Age'].astype(float), 5)  # cut是用数据里面的最大值减去最小值除以n作为区间间距分类。
print(raw_data.info())
print(raw_data.isnull().sum())

pandas.qcut() 将数据区分成几个区间，具体参照方式由系统自动确定
pandas.cut() 也是将数据分成几个区间，方式和区间长度由最大值减去最小值除以n决定

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 891 entries, 0 to 890
Data columns (total 13 columns):
 #   Column      Non-Null Count  Dtype   
---  ------      --------------  -----   
 0   Survived    891 non-null    int64   
 1   Pclass      891 non-null    int64   
 2   Name        891 non-null    object  
 3   Sex         891 non-null    object  
 4   Age         891 non-null    float64 
 5   SibSp       891 non-null    int64   
 6   Parch       891 non-null    int64   
 7   Fare        891 non-null    float64 
 8   Embarked    891 non-null    object  
 9   FamilySize  891 non-null    int64   
 10  IsAlone     891 non-null    int64   
 11  FareBin     891 non-null    category
 12  AgeBin      891 non-null    category
dtypes: category(2), float64(2), int64(6), object(3)
memory usage: 78.9+ KB
None
Survived      0
Pclass        0
Name          0
Sex           0
Age           0
SibSp         0
Parch         0
Fare          0
Embarked      0
FamilySize    0
IsAlone       0
FareBin       0
AgeBin        0
dtype: int64

label = LabelEncoder()
for data in data_cleaner:  # 分类为1与0属性
    data['Sex_Code'] = label.fit_transform(data['Sex'])
    data['Embarked_Code'] = label.fit_transform(data['Embarked'])
    data['AgeBin_Code'] = label.fit_transform(data['AgeBin'])
    # data['FareBin_Code'] = label.fit_transform(data['FareBin'])

raw_data_x = ['Sex', 'Pclass', 'Embarked', 'SibSp', 'Parch', 'Age', 'Fare', 'FamilySize', 'IsAlone']
raw_data_calc = ['Sex_Code', 'Pclass', 'Embarked_Code', 'SibSp', 'Parch', 'Age', 'Fare']
raw_data_xy = ['Survived'] + raw_data_x
print(raw_data_xy)

['Survived', 'Sex', 'Pclass', 'Embarked', 'SibSp', 'Parch', 'Age', 'Fare', 'FamilySize', 'IsAlone']

raw_data['FareBin_Code'] = label.fit_transform(raw_data['FareBin']) # 注意没有将test数据进行转化。

raw_data_x_bin = ['Sex_Code','Pclass', 'Embarked_Code', 'FamilySize', 'AgeBin_Code', 'FareBin_Code']
raw_data_bin = ['Survived'] + raw_data_x_bin

raw_data_dummy = pd.get_dummies(raw_data[raw_data_x])
raw_data_x_dummy = raw_data_dummy.columns.tolist()
raw_data_xy_dummy = ['Survived'] + raw_data_x_dummy
print('Dummy X Y: ', raw_data_xy_dummy, '\n')

Dummy X Y:  ['Survived', 'Pclass', 'SibSp', 'Parch', 'Age', 'Fare', 'FamilySize', 'IsAlone', 'Sex_female', 'Sex_male', 'Embarked_C', 'Embarked_Q', 'Embarked_S'] 

raw_data.describe(include = 'all')
SurvivedPclassNameSexAgeSibSpParchFareEmbarkedFamilySizeIsAloneFareBinAgeBinSex_CodeEmbarked_CodeAgeBin_CodeFareBin_Code
count891.000000891.000000891891891.000000891.000000891.000000891.000000891891.000000891.000000891891891.000000891.000000891.000000891.000000
uniqueNaNNaN8912NaNNaNNaNNaN3NaNNaN45NaNNaNNaNNaN
topNaNNaNLundahl, Mr. Johan SvenssonmaleNaNNaNNaNNaNSNaNNaN(7.91, 14.454](16.336, 32.252]NaNNaNNaNNaN
freqNaNNaN1577NaNNaNNaNNaN646NaNNaN224523NaNNaNNaNNaN
mean0.3838382.308642NaNNaN29.3615820.5230080.38159432.204208NaN1.9046020.602694NaNNaN0.6475871.5364761.2906851.497194
std0.4865920.836071NaNNaN13.0196971.1027430.80605749.693429NaN1.6134590.489615NaNNaN0.4779900.7915030.8126201.118156
min0.0000001.000000NaNNaN0.4200000.0000000.0000000.000000NaN1.0000000.000000NaNNaN0.0000000.0000000.0000000.000000
25%0.0000002.000000NaNNaN22.0000000.0000000.0000007.910400NaN1.0000000.000000NaNNaN0.0000001.0000001.0000000.500000
50%0.0000003.000000NaNNaN28.0000000.0000000.00000014.454200NaN1.0000001.000000NaNNaN1.0000002.0000001.0000001.000000
75%1.0000003.000000NaNNaN35.0000001.0000000.00000031.000000NaN2.0000001.000000NaNNaN1.0000002.0000002.0000002.000000
max1.0000003.000000NaNNaN80.0000008.0000006.000000512.329200NaN11.0000001.000000NaNNaN1.0000002.0000004.0000003.000000
train_x, test_x, train_y, test_y = model_selection.train_test_split(raw_data[raw_data_calc], raw_data['Survived'], random_state=0)
train_x_bin, text_x_bin, train_y_bin, test_y_bin = model_selection.train_test_split(raw_data[raw_data_x_bin], raw_data['Survived'], random_state=0)
train_x_dummy, test_x_dummy, train_y_dummy, test_y_dummy = model_selection.train_test_split(raw_data_dummy[raw_data_x_dummy], raw_data['Survived'], random_state = 0)

train_x_bin.head()
Sex_CodePclassEmbarked_CodeFamilySizeAgeBin_CodeFareBin_Code
105132110
68032711
253132212
320132110
706022121

数据图像处理部分

D-Dempsey
关注
kaggle比赛—Titanic.zip
08-24
在数据科学领域，Kaggle平台上的“泰坦尼克号”竞赛是一场经典的入门级比赛。这个挑战要求参赛者预测泰坦尼克号沉船事件中乘客的生存情况，基于一系列特征如年龄、性别、票价等。下面我们将深入探讨这个比赛涉及的...
kaggle | titanic幸存者预测 - SVM KNN K-Means RF
weixin_44845052的博客
02-23 422
用svm，knn，k-means，rf做titanic幸存者预测
泰坦尼克号分析
weixin_51221144的博客
06-14 964
利用泰坦尼克数据集训练一个 SVM 模型，对泰坦尼克号上的乘客是否遇难进行建模， 评估模型的效果并对结果进行适当的分析。 特征解读： Pclass:乘客所持票类，有三种值(1,2,3) SibSp:乘客兄弟姐妹/配偶的个数(整数值) Parch:乘客父母/孩子的个数(整数值) Ticket:票号(字符串) Fare:乘客所持票的价格(浮点数，0-500不等) Cabin:乘客所在船舱(有缺失) Embark:乘客登船港口:S、C、Q(有缺失) 一共有891组数据，其中’Age’这一特征存在一百多个缺失值，
机器学习支持向量机（SVM）
xyk2795950571的博客
12-15 1133
支持向量机（Support Vector Machine，SVM）是一种强大的监督学习算法，常用于分类和回归问题，广泛应用于文本分类、图像识别、生物信息学、金融预测等许多领域。在高维空间中有较好的分类性能，适用于复杂的非线性问题。可有效处理小样本情况，具有较好的泛化能力。使用支持向量的形式来表示分类决策函数，因此模型比较简洁。对大规模训练样本的计算复杂度较高。对参数的选择敏感，需要进行调参。对噪声数据比较敏感，可能导致过拟合。
python数字识别kaggle论文_Kaggle 实战之数字识别 -- 新手入门SVM分类算法(Python)
weixin_39744240的博客
12-05 213
介绍正如《机器学习实战》所说：“机器学习的主要任务就是分类。”这项数字识别竞赛就是在考验对机器学习的分类功能的掌握水平。这篇文章面向新手而写，自然有其局限性，但却很适合那些对这项竞赛无从下手的新手们。同为机器学习新手的我，也在这些实践中获益匪浅。首先我们导入相关的库：import pandas as pdimport matplotlib.pyplot as plt, matplotlib.ima...
Kaggle学习之Machine Learning from Disaster（2） -SVM
zhuxiaoqi
09-25 268
一、SVM介绍（以下来自百度百科词条SVM）SVM方法是通过一个非线性映射p，把样本空间映射到一个高维乃至无穷维的特征空间中（Hilbert空间），使得在原来的样本空间中非线性可分的问题转化为在特征空间中的线性可分的问题。简单地说，就是升维和线性化。升维，就是把样本向高维空间做映射，一般情况下这会增加计算的复杂性，甚至会引起“维数灾难”，因而人们很少问津．但是作为分类、回归等问题来说，很可能在低维样
[kaggle系列 三] 使用SVM判断是否能从泰坦尼克号生还
绝望的乐园
09-20 2239
题目连接：https://www.kaggle.com/c/titanic前言和前几篇差不多，这次换成svm，实际上，对于svm的理解是有了，知道是怎么做的了，但具体公式如何推导，还是不会，但是，这不影响写代码，使用现成的库函数就可以搞定，有时候，这些工具大大简化了我们的学习成本，知道基本原理，然后去使用就行了，具体的细节也不用去关心。用陶渊明的话来说，就是，“好读书,不求甚解；每有会意,便欣然忘食
Kaggle竞赛之Titanic存活预测2
最新发布
03-02
在Kaggle竞赛中，"Titanic存活预测2"是一个非常经典的入门级机器学习问题，旨在预测泰坦尼克号乘客的生存情况。这个任务对于初学者来说是个绝佳的实践平台，因为它涉及到数据预处理、特征工程和模型选择等多个重要...
kaggle_titanic:Kaggle Titanic ML竞赛
03-14
在本项目中，我们关注的是Kaggle上的一个著名机器学习竞赛——"Titanic: Machine Learning from Disaster"。这个竞赛要求参赛者利用提供的历史数据集，构建一个预测模型，以判断泰坦尼克号上的乘客在船沉没时是否有...
Titanic:来自Kaggle的Titanic数据集
04-05
接下来，我们将尝试不同的机器学习模型，如决策树、随机森林、支持向量机(SVM)和梯度提升机(XGBoost)，并利用交叉验证来评估模型的稳定性和泛化能力。每个模型都需要调整超参数以优化性能。例如，随机森林中的树的...
对泰坦尼克号数据集的简单分析（决策树，支持向量机，随机森林）
06-23
RMS泰坦尼克号的沉没是历史上最臭名昭著的沉船之一。1912年4月15日，在首次航行期间，泰坦尼克号撞上冰山后沉没，2224名乘客和机组人员中有1502人遇难。这场轰动的悲剧震撼了国际社会，并导致了更好的船舶安全条例。 海难导致生命损失的原因之一是没有足够的救生艇给乘客和机组人员。虽然幸存下来的运气有一些因素，但一些人比其他人更有可能生存，比如妇女，儿童和上层阶级。
kaggle-Titanic-competition:Kaggle的机器学习竞赛
03-26
接下来，我们引入各种机器学习模型，如逻辑回归、决策树、随机森林、支持向量机（SVM）以及现代的神经网络模型，例如深度学习的卷积神经网络（CNN）或循环神经网络（RNN）。每种模型都有其优势和局限性，需要通过...
使用SVM处理Kaggle上的Titannic沉船预测问题
x18774007530的博客
10-29 737
在Kaggle练习赛上的一题关于Titannic号上遇难者的预测问题，具体信息挂在下面参考 我的方法是采用SVM算法来做，不过得对获取的数据进行处理。其中Kaggle官方给了train.csv和test.csv以及一个参考提交文件。参考了Kaggle上一位大佬的做法，最后做出来的预测率为81%左右，虽然比较一般，但我感觉第一次这样还行。 下面附代码，具体文件可以去官方Kaggle或者下面下载。（代码中关键处都有相关的注释,predict.csv是我自己做出来的预测） impor...
学习笔记——Kaggle_Digit Recognizer (SVM算法 Python实现）
JayC糖爸-学习笔记
03-22 2320
本文是个人学习笔记，该篇主要学习SVM算法概念，并应用sklearn.svm算法包解决Kaggle入门级Digit Recognizer。 SVM 简述 经典SVM思想 SVM 线性不可分 SVM 多分类问题 Python 代码SVM 简述 之前参考学习很多大小牛的总结，发现对SVM理论的阐述主要还是结合数学上的推导过程。这种方式必然是严谨并且如果完整验证也有助于更通透的理解SVM机制。但对于
ML之SVM：基于Js代码利用SVM算法的实现根据Kaggle数据集预测titanic(泰坦尼克号)数据集生存人员
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
11-07 1万+
ML之SVM：基于Js代码利用SVM算法的实现根据Kaggle数据集预测titanic(泰坦尼克号)数据集生存人员。
Titanic数据分析（部分）
赵子的博客
05-23 1630
Titanic 文章来源：https://www.kaggle.com/ldfreeman3/a-data-science-framework-to-achieve-99-accuracy Machine Learning的hello world How a Data Scientist Beat the Odds克服困难 A Data Science Framework Define the ...
机器学习实战(入门级) ------ Kaggle 泰坦尼克号幸存者预测 (随机森林，KNN，SVM)
深度不学习！！的博客
04-08 9783
文章目录前言数据集介绍gender_submision.csv:train.csv：test.csv数据清洗数据预处理缺失值填充数据优化 前言 关于kaggle： 就是一个面向机器学习和数据科学打比赛的地方，根据精度有排行榜，会有企业在里面，你要是解决了企业发布的项目，还会有奖金啥的。 我们没那么强，就利用他的数据集和项目来做练习吧。 先下载一下泰坦尼克号的数据集。 kaggle官网下载地址:https://www.kaggle.com/competitions/titanic/data 浏览kaggle
Kaggle竞赛 —— 泰坦尼克号（Titanic）
热门推荐
massquantity的博客
08-04 2万+
kaggle Titanic数据分析
数据挖掘十大算法——SVM
TITANIC上的小景
08-19 1453
SVM两大分支Support Vector Classifier（SVC）与Support Vector Regressor（SVR）SVC函数间隔： minγ=wx+bmin \gamma=wx+b，此时如果我们倍增w,bw,b可以无限扩大函数间隔，因此，它并不能作为标准 几何间隔，是归一化的函数间隔： minγ=wx+b||w||min \gamma=\frac{wx+b}{||w||}为了
歌kaggle大赛——“猫狗大战数据集(cats vs dogs)”
12-28
“猫狗大战数据集”是Kaggle上一个非常受欢迎的比赛。这个比赛是一个图像分类问题，要求参赛者使用机器学习和深度学习技术，对包含猫和狗的图像进行分类。比赛的目的是通过算法自动识别图像中的动物是猫还是狗。 这...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值