kaggle-Prediction of Obesity Risk

已于 2024-03-26 15:56:37 修改
阅读量239 收藏
点赞数 3
文章标签： python 机器学习 开发语言
于 2024-03-26 15:53:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42645279/article/details/137048843
版权

使用 LGBMClassifier

# https://www.kaggle.com/code/ddosad/ps4e2-visual-eda-lgbm-obesity-risk
import pandas as pd
from lightgbm import LGBMClassifier
from sklearn.metrics import accuracy_score
from sklearn.model_selection import train_test_split, GridSearchCV

df_train = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\train.csv')
original = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\ObesityDataSet.csv')
df_test = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\test.csv')

df_train = pd.concat([df_train, original]).drop(['id'], axis=1).drop_duplicates()
id = df_test['id']
df_test = df_test.drop(['id'], axis=1)
obesityTypeDict = {'Insufficient_Weight': 0, 'Normal_Weight': 1, 'Obesity_Type_I': 2, 'Obesity_Type_II': 3,
                   'Obesity_Type_III': 4, 'Overweight_Level_I': 5, 'Overweight_Level_II': 6}
obesityNumDict = {0: 'Insufficient_Weight', 1: 'Normal_Weight', 2: 'Obesity_Type_I', 3: 'Obesity_Type_II',
                  4: 'Obesity_Type_III', 5: 'Overweight_Level_I', 6: 'Overweight_Level_II'}
df_train['BIM'] = df_train['Weight'] / (df_train['Height'] * df_train['Height'])
df_test['BIM'] = df_test['Weight'] / (df_test['Height'] * df_test['Height'])

Y = df_train['NObeyesdad'].map(lambda x: obesityTypeDict[x])
x_train_o = df_train.drop(['NObeyesdad'], axis=1)
X = pd.get_dummies(x_train_o, drop_first=False)

X_train, X_test, y_train, y_test = train_test_split(X, Y,
                                                    test_size=0.2, random_state=42)

model3 = LGBMClassifier()
parameters3 = {"n_estimators": [100, 200, 300, 400, 500],
               "learning_rate": [0.01, 0.05, 0.1, 0.5, 1],
               "random_state": [42],
               "num_leaves": [16, 17, 18]}

grid_search3 = GridSearchCV(model3, parameters3, cv=5, n_jobs=-1, scoring='accuracy')
grid_search3.fit(X_train, y_train)
print(grid_search3.best_score_)
best_parameters3 = grid_search3.best_params_
print(f"best_parameters3: {best_parameters3}")
model3 = LGBMClassifier(**best_parameters3)
model3.fit(X_train, y_train)
X_test_pred3 = model3.predict(X_test)
accuracy_score(y_test, X_test_pred3)

df_test = pd.get_dummies(df_test, drop_first=False)
df_preds = pd.DataFrame({'id': id, 'NObeyesdad': model3.predict(df_test)})

df_preds['NObeyesdad'] = df_preds['NObeyesdad'].map(lambda x: obesityNumDict[x])
df_preds.to_csv('submission_lgb.csv', index=False)

使用 XGBClassifier

# https://www.kaggle.com/code/ddosad/ps4e2-visual-eda-lgbm-obesity-risk
import pandas as pd
from sklearn.metrics import accuracy_score
from sklearn.model_selection import train_test_split, GridSearchCV
from xgboost import XGBClassifier

df_train = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\train.csv')
original = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\ObesityDataSet.csv')
df_test = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\test.csv')

df_train = pd.concat([df_train, original]).drop(['id'], axis=1).drop_duplicates()
id = df_test['id']
df_test = df_test.drop(['id'], axis=1)

obesityTypeDict = {'Insufficient_Weight': 0, 'Normal_Weight': 1, 'Obesity_Type_I': 2, 'Obesity_Type_II': 3,
                   'Obesity_Type_III': 4, 'Overweight_Level_I': 5, 'Overweight_Level_II': 6}
obesityNumDict = {0: 'Insufficient_Weight', 1: 'Normal_Weight', 2: 'Obesity_Type_I', 3: 'Obesity_Type_II',
                  4: 'Obesity_Type_III', 5: 'Overweight_Level_I', 6: 'Overweight_Level_II'}
df_train['BIM'] = df_train['Weight'] / (df_train['Height'] * df_train['Height'])
df_test['BIM'] = df_test['Weight'] / (df_test['Height'] * df_test['Height'])

Y = df_train['NObeyesdad'].map(lambda x: obesityTypeDict[x])
x_train_o = df_train.drop(['NObeyesdad'], axis=1)
X = pd.get_dummies(x_train_o, drop_first=False)

X_train, X_test, y_train, y_test = train_test_split(X, Y,
                                                    test_size=0.2, random_state=42)

model3 = XGBClassifier()
parameters3 = {
    "n_estimators": [50, 100, 150, 200, 300],  # 多少棵树
    "learning_rate": [0.05, 0.1, 0, 2, 0.3],  # 学习率
    "max_depth": [3, 4, 5, 6, 7],  # 树的最大深度
    "colsample_bytree": [0.4, 0.6, 0.8, 1],  # 选择多少列构建一个树
    "min_child_weight": [1, 2, 3, 4]  # 叶子节点最小样本数目
}
# 构建grid search 模型， 5折交叉验证。

# grid_search3 = RandomizedSearchCV(model3, parameters3, cv=5, n_jobs=-1, scoring='accuracy')


grid_search3 = GridSearchCV(model3, parameters3, cv=5, n_jobs=-1, scoring='accuracy')
grid_search3.fit(X_train, y_train)
print(grid_search3.best_score_)
best_parameters3 = grid_search3.best_params_
print(best_parameters3)
model3 = XGBClassifier(**best_parameters3)
model3.fit(X_train, y_train)
X_test_pred3 = model3.predict(X_test)
accuracy_score(y_test, X_test_pred3)

df_test = pd.get_dummies(df_test, drop_first=False)
df_preds = pd.DataFrame({'id': id, 'NObeyesdad': model3.predict(df_test)})

df_preds['NObeyesdad'] = df_preds['NObeyesdad'].map(lambda x: obesityNumDict[x])
df_preds.to_csv('submission_xbg.csv', index=False)

使用stacking

# https://www.kaggle.com/code/ddosad/ps4e2-visual-eda-lgbm-obesity-risk
import pandas as pd
import numpy as np

import seaborn as sns
import matplotlib.pyplot as plt
import ydata_profiling

from sklearn.metrics import roc_auc_score, accuracy_score
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.preprocessing import LabelEncoder
from sklearn.metrics import accuracy_score
from sklearn.ensemble import RandomForestClassifier, GradientBoostingClassifier, AdaBoostClassifier, StackingClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.svm import SVC
from sklearn.neighbors import KNeighborsClassifier
from sklearn.tree import DecisionTreeClassifier, ExtraTreeClassifier
from xgboost import XGBClassifier
from lightgbm import LGBMClassifier
from catboost import CatBoostClassifier

df_train = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\train.csv')
original = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\ObesityDataSet.csv')
df_test = pd.read_csv('D:\\python\\dataset\\PredictionOfObesityRisk\\playground-series-s4e2\\test.csv')

df_train = pd.concat([df_train, original]).drop(['id'], axis=1).drop_duplicates()
id = df_test['id']
df_test = df_test.drop(['id'], axis=1)
print(f'The Train dataset has {df_train.shape[0]} rows and {df_train.shape[1]} columns')
print(f'The Test dataset has {df_test.shape[0]} rows and {df_test.shape[1]} columns')

# df_train.describe().to_csv('output.csv')
# pfr = ydata_profiling.ProfileReport(df_train)
# pfr.to_file("profile.html")

obesityType = df_train[['NObeyesdad']].copy()
obesityType = obesityType.drop_duplicates(ignore_index=True)
print(obesityType)
obesityTypeDict = {'Insufficient_Weight': 0, 'Normal_Weight': 1, 'Obesity_Type_I': 2, 'Obesity_Type_II': 3,
                   'Obesity_Type_III': 4, 'Overweight_Level_I': 5, 'Overweight_Level_II': 6}
obesityNumDict = {0: 'Insufficient_Weight', 1: 'Normal_Weight', 2: 'Obesity_Type_I', 3: 'Obesity_Type_II',
                  4: 'Obesity_Type_III', 5: 'Overweight_Level_I', 6: 'Overweight_Level_II'}
df_train['BIM'] = df_train['Weight'] / (df_train['Height'] * df_train['Height'])
df_test['BIM'] = df_test['Weight'] / (df_test['Height'] * df_test['Height'])

# def cal_grade(bim):
#     if bim < 18.5:
#         return 'Insufficient_Weight'
#     elif 18.5 <= bim < 25:
#         return 'Normal_Weight'
#     elif 25 <= bim < 26.89:
#         return 'Overweight_Level_I'
#     elif 26.89 <= bim < 30:
#         return 'Overweight_Level_II'
#     elif 30 <= bim < 35:
#         return 'Obesity_Type_I'
#     elif 35 <= bim < 40:
#         return 'Obesity_Type_II'
#     else:
#         return 'Obesity_Type_III'


# df_train['cal_NObeyesdad'] = df_train['BIM'].map(cal_grade)
# same = df_train[df_train['cal_NObeyesdad'] == df_train['NObeyesdad']]
# print(same.shape)
# diff = df_train[df_train['cal_NObeyesdad'] != df_train['NObeyesdad']]
# print(diff.shape)
# BIMsort = df_train.sort_values(by=['BIM'])
# Overweight_Level_II = df_train[df_train['NObeyesdad']=='Overweight_Level_II'].sort_values(by = ['BIM'])
Y = df_train['NObeyesdad'].map(lambda x: obesityTypeDict[x])
x_train_o = df_train.drop(['NObeyesdad'], axis=1)
X = pd.get_dummies(x_train_o, drop_first=False)

X_train, X_test, y_train, y_test = train_test_split(X, Y,
                                                    test_size=0.2, random_state=42)

training_score = []
testing_score = []


def model_prediction(model):
    model.fit(X_train, y_train)
    y_pred_train = model.predict(X_train)
    y_pred_test = model.predict(X_test)
    train_accuracy = accuracy_score(y_train, y_pred_train)
    test_accuracy = accuracy_score(y_test, y_pred_test)
    training_score.append(train_accuracy)
    testing_score.append(test_accuracy)
    print(f"Training accuracy: {train_accuracy}")
    print(f"Testing accuracy: {test_accuracy}")


model_prediction(SVC())
model_prediction(RandomForestClassifier())
model_prediction(AdaBoostClassifier())
model_prediction(GradientBoostingClassifier())
model_prediction(LGBMClassifier())
model_prediction(XGBClassifier())
model_prediction(CatBoostClassifier(verbose=False))

models = ["SVC", "RandomForest", "AdaBoost", "GradientBoost", "LGBM", "XGB", "CatBoost"]

df = pd.DataFrame({'Model': models, 'Training Accuracy': training_score, 'Testing Accuracy': testing_score})

print(df)
# Plotting the above results as column-bar chart
df.plot(x='Model', y=['Training Accuracy', 'Testing Accuracy'], kind='bar', figsize=(10, 8))
plt.title('Training and Testing Accuracy for Each Model')
plt.ylabel('Accuracy')
plt.xlabel('Model')
plt.show()

# 过于耗时
model1 = LGBMClassifier(force_row_wise=True)

parameters1 = {"n_estimators": [200, 300, 400],
               "learning_rate": [0.01, 0.05],
               "random_state": [42],
               "num_leaves": [17, 18]}

grid_search1 = GridSearchCV(model1, parameters1, scoring='accuracy', n_jobs=-1, cv=5)
grid_search1.fit(X_train, y_train)
print(f"grid_search1.best_score_: {grid_search1.best_score_}")
best_parameters1 = grid_search1.best_params_
print(best_parameters1)

model1 = LGBMClassifier(**best_parameters1)
model1.fit(X_train, y_train)
X_test_pred1 = model1.predict(X_test)
accuracy_score(y_test, X_test_pred1)

#model2 = CatBoostClassifier(verbose=False)
# parameters2 = {"learning_rate": np.arange(0.1, 0.5),
#                "random_state": [42],
#                "depth": [9, 10],
#                "iterations": [40, 50]}
# grid_search2 = GridSearchCV(model2, parameters2, cv=5, n_jobs=-1, scoring='accuracy')
#
# grid_search2.fit(X_train, y_train)
# print(f"grid_search2.best_score_: {grid_search2.best_score_}")
# best_parameters2 = grid_search2.best_params_
# print(best_parameters2)
# model2 = CatBoostClassifier(**best_parameters2, verbose=False)
# model2.fit(X_train, y_train)
#
# X_test_pred2 = model2.predict(X_test)
# accuracy_score(y_test, X_test_pred2)

model3 = XGBClassifier()
parameters3 = {"n_estimators": [100, 150],
               "random_state": [42],
               "learning_rate": [0.1, 0.3, 0.5]}

grid_search3 = GridSearchCV(model3, parameters3, cv=5, n_jobs=-1, scoring='accuracy')
grid_search3.fit(X_train, y_train)
print(grid_search3.best_score_)
best_parameters3 = grid_search3.best_params_
model3 = XGBClassifier(**best_parameters3)
model3.fit(X_train, y_train)
X_test_pred3 = model3.predict(X_test)
accuracy_score(y_test, X_test_pred3)

model4 = RandomForestClassifier()
parameters4 = {'n_estimators': [300, 500, 550],
               'min_samples_split': [8, 9],
               'max_depth': [11, 12],
               'min_samples_leaf': [4, 5]}
grid_search4 = GridSearchCV(model4, parameters4, cv=5, n_jobs=-1, scoring='accuracy')
grid_search4.fit(X_train, y_train)
best_parameters4 = grid_search4.best_params_
model4 = RandomForestClassifier(**best_parameters4)
model4.fit(X_train, y_train)
X_test_pred4 = model4.predict(X_test)
accuracy_score(y_test, X_test_pred4)


stacking_model = StackingClassifier(estimators=[('LGBM', model1),
                                                ('XGBoost', model3),
                                                ('RandomForest', model4)])

stacking_model.fit(X_train, y_train)

X_train_pred5 = stacking_model.predict(X_train)
X_test_pred5 = stacking_model.predict(X_test)
print(f'Stacking model training data is {accuracy_score(y_train, X_train_pred5)}')
print(f'Stacking model testing data is {accuracy_score(y_test, X_test_pred5)}')

df_test = pd.get_dummies(df_test, drop_first=False)
df_preds = pd.DataFrame(
    {'id': id, 'NObeyesdad': stacking_model.predict(df_test)})

df_preds['NObeyesdad'] = df_preds['NObeyesdad'].map(lambda x: obesityNumDict[x])
df_preds.to_csv('submission1.csv', index=False)
yun呐
关注
  • 3
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
kaggle-Click-Through-Rate-Prediction
06-26
在kaggle平台上，有一项挑战就是对点击率进行预测，这个项目——"kaggle-Click-Through-Rate-Prediction"，为我们提供了深入学习和实践这一主题的宝贵机会。 1. 数据预处理： 在Python中，我们通常使用pandas库来...
kaggle-environments
05-15
pip install kaggle-environments TLDR； from kaggle_environments import make # Setup a tictactoe environment. env = make ( "tictactoe" ) # Basic agent which marks the first available cell. def my_...
kaggle-house-price-prediction
03-15
总的来说，“kaggle-house-price-prediction”项目涵盖了数据预处理、特征工程、模型选择与训练、性能评估和模型解释等多个关键环节，是学习和提升机器学习技能的理想实践。通过这个项目，数据科学家能够深入理解...
Kaggle-Client-Churn-Prediction
04-17
客户流失预测 介绍 该存储库包含针对此业务问题的解决方案（葡萄牙语）： : 该项目是“数据科学社区”（Comunidade DS）的一部分，该研究环境旨在促进，学习，讨论和执行数据科学项目。 有关更多信息，请访问...
kaggle-aes-seizure-prediction
06-12
去做 实施、测试、分析和重新实施一切 研究临床医生对癫痫患者的观察 数据探索 采样频率： 狗 400Hz 人类 5000Hz 降噪： 在观看了许多数据文件 FFT 图 (explore.py) 后，60hz 过滤器似乎不太合适 ...
Ansys Zemax｜场曲跟畸变图的前世今生
ueotek的博客
07-02 127
这里的y和z坐标和方向余弦是（Hx, Hy, Px, Py）=（X, X, 0 ,0）和（Hx, Hy, Px, Py）=（X, X, 0 ,0.001），在光线追迹像面的前一个平面的 z坐标和方向余弦。OpticStudio通过在X和Y方向（弧矢和子午方向）的傍轴光线追踪确定近轴图像平面的Z坐标，并测量该近轴焦平面与系统图像平面的Z坐标之间的距离。使用附件中的样本文件，近轴像面的全局Z坐标与视场0处的像面位置之差与场曲和畸变图中的的Tan Shift相同。近轴像面的定义是以下两个光线交点的全局Z坐标。
力扣第214题“最短回文串”
10年数据\经营分析经验，现任大厂数据分析负责人
06-28 1051
本文详细解读了力扣第214题“最短回文串”，通过使用 KMP 算法的方法高效地解决了这一问题，并提供了详细的解释和模拟面试问答。希望读者通过本文的学习，能够在力扣刷题的过程中更加得心应手。
10.javaSE基础_JDBC编译程序(Driver+Statement+Connection+mysql数据库连接)
m0_61086522的博客
07-02 755
JDBC是的缩写。它是Sun的Javasoft公司制定的Java数据库连接技术，是一套标准接口java.sql包中提供了JDBC API,通过它连接到各种数据库系统，编写访问数据库的程序。JDBC API不能直接访问数据库，它依赖于数据库厂商提供的JDBC Driver（JDBC驱动程序）
使用Python实现深度学习模型：序列建模与生成模型的博客教程
Echo_Wish的博客
07-02 209
本文介绍了使用Python实现深度学习模型的序列建模和生成模型的步骤。我们详细说明了每个步骤，并提供了相应的代码示例。通过学习本文，您将能够使用Python构建和训练序列建模和生成模型，并生成新的序列数据。希望本文对您有所帮助！如果您有任何问题或建议，请随时提出。
Java高级重点知识点-19-Lambda
最新发布
m0_72926194的博客
07-02 226
本文主要是讲解了如何使用lambda表达式来简介代码开发，同时讲解了函数式编程思想，该思想主要的是体现做什么，而不是怎么做。
Java的异常处理体系
落日的博客
06-28 1158
ControllerAdvice 注解用于定义全局控制器建议，在 Spring MVC 中，控制器建议由控制器中的 @ExceptionHandler 方法、@InitBinder 方法和 @ModelAttribute 方法组成。①、CheckedException （检查异常 必须在代码中显式处理 使用try catch捕获 或者 在方法上使用 throws 抛出 除了RuntimeException及其子类以外，其他的Exception类及其子类都属于受检查异常 ）
Scrapy框架与其他Python爬虫库的对比分析
wx_19970108018的博客
06-28 587
如果需要爬取大量网站的数据，并且需要复杂的处理操作，那么 Scrapy 框架是比较不错的选择；对于初学者来说，建议先学习其他 Python 爬虫库，掌握爬虫的基本技术，再考虑使用 Scrapy 框架进行深入的学习和开发。Scrapy 是一个专门为爬取网站数据而设计的框架，它内置了许多常用的爬虫功能，如自动模拟 HTTP 请求、页面解析、数据提取、数据存储等。BeautifulSoup 是 Python 中非常流行的 HTML 解析库，它可以快速、灵活地解析 HTML 页面，并提取需要的数据。
lambda_函数式编程_stream流
qq_30166465的博客
06-27 78
【代码】stream流使用案例。
Python布尔值：理解与应用
RetutghbxLouis的博客
06-26 364
Python中的布尔值是逻辑数据类型，用于表示真（True）或假（False）两种状态。布尔值在编程中广泛用于条件判断和逻辑运算，是程序中控制流程和逻辑判断的基础。Python的布尔值支持逻辑运算符（如and、or、not）以及与比较运算符（如==、!=、<、>等）的结合使用，使得开发者可以根据条件执行不同的代码分支，实现复杂的逻辑控制。
编译正则表达式模式re.compile
liujingwei8610的专栏
06-27 289
print("【执行】pattern.findall('这里有123个苹果和45个橘子')")result = pattern.findall('这里有123个苹果和45个橘子')print(f"【显示】pattern={pattern}")print(f"【显示】result={result}")根据给定的Python代码，哪个选项是正确的？A选项：返回值可以进行search操作。B选项：返回值可以进行match操作。D选项：参数为要编译的正则表达式模式。C选项：参数为要搜索的字符串。
使用container_of宏进行类型转换
java666668888的博客
06-28 431
本文详细介绍了。
【知识图谱系列】Neo4j使用Py2neo与python进行链接
2301_81199775的博客
06-28 302
目录 一、安装py2neo 二、打开Neo4j 三、使用Python操作Neo4j 一、安装py2neo pip install --upgrade py2neo -i https://pypi.tuna.tsinghua.edu.cn/simple 可以先阅读下文档：https://py2neo.org/v4/index.html 这个文档里有好多关于这个工具包的API介绍，也就是如何使用这个工具包。 二、打开Neo4j 在cmd里输入neo4j.bat console，然
01.Ambari自定义服务开发-项目初始化
jast
06-27 330
我们可以从下面几个目录找到项目代码所在位置，下面两个位置中的。进入服务器压缩依赖,将依赖下载到本地。项目代码，不然会找不到依赖。可以看到我们虚拟环境的目录。至此项目基础环境搭建完成。需要用到ambari中的。到这里空项目创建完成。点击项目中右下角环境。
《每天5分钟用Flask搭建一个管理系统》第5章：表单处理
eclipsercp的博客
06-28 329
本章介绍了Web表单的基本概念，以及如何使用Flask-WTF扩展来处理表单验证和文件上传。
打不开https://www.kaggle/c/mi-sales-prediction/data
03-16
在你提供的例子中，网址"https://www.kaggle/c/mi-sales-prediction/data"中似乎存在一个错误。正确的网址应该是"https://www.kaggle.com/c/mi-sales-prediction/data"。请注意，网址中的斜杠（/）和点号（.）的位置...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值