使用jupyter notebook

已于 2022-03-23 13:26:26 修改
阅读量2.5k 收藏 10
点赞数 2
分类专栏： ML 文章标签： python 机器学习
于 2022-03-23 13:19:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44940421/article/details/123683064
版权
本文介绍了使用Anaconda启动Jupyter Notebook进行机器学习实践的过程，特别是针对工业蒸汽量预测问题。通过加载数据，进行了数据探索、特征分析，并使用线性回归、随机梯度下降、支持向量机、决策树、随机森林等多种模型进行训练。同时，通过交叉验证评估模型性能，展示了学习曲线和超参数调整，如岭回归和套索回归。最终，分析了不同模型的泛化误差，并对新数据进行了预测。
摘要由CSDN通过智能技术生成

前提是正确安装好了Anaconda
1、在anaconda prompt中输入jupyter notebok即可启动
在这里插入图片描述
2、打开浏览器，进入：http://localhost:8888/，再输入自己的密码即可登录成功。
然后可以通过new->python3来编写自己的机器学习任务。
在这里插入图片描述
3、一个简单的机器学习回归任务：
工业蒸汽量预测
数据选择：阿里云 TIANCHI天池
赛题背景：
火力发电的基本原理是：燃料在燃烧时加热水生成蒸汽，蒸汽压力推动汽轮机旋转，然后汽轮机带动发电机旋转，产生电能。在这一系列的能量转化中，影响发电效率的核心是锅炉的燃烧效率，即燃料燃烧加热水产生高温高压蒸汽。锅炉的燃烧效率的影响因素很多，包括锅炉的可调参数，如燃烧给量，一二次风，引风，返料风，给水水量；以及锅炉的工况，比如锅炉床温、床压，炉膛温度、压力，过热器的温度等。
数据说明：
数据分成训练数据（train.txt）和测试数据（test.txt），其中字段”V0”-“V37”，这38个字段是作为特征变量，”target”作为目标变量。选手利用训练数据训练出模型，预测测试数据的目标变量，排名结果依据预测结果的MSE（mean square error）。
数据链接：
https://pan.baidu.com/s/1zYY5syDHrT_utYIplnOUlQ?pwd=9gob
提取码：9gob在这里插入图片描述

import pandas as pd
zhengqi_train = pd.read_csv(r"F:\00 Scikit-Learn\zhengqi.csv")
zhengqi_train.head()

在这里插入图片描述

zhengqi_train.info()

在这里插入图片描述

zhengqi_train.describe()

在这里插入图片描述

%matplotlib inline
import matplotlib.pyplot as plt
zhengqi_train.hist(bins=50, figsize=(20,15))
plt.show()

在这里插入图片描述

corr_matrix = zhengqi_train.corr()
corr_matrix["target"].sort_values(ascending=False)

在这里插入图片描述

zhengqi_train_orginal = zhengqi_train.drop("target", axis = 1)
zhengqi_train_target = zhengqi_train["target"].copy()

from sklearn.model_selection import train_test_split
zhengqi_train_data1, zhengqi_test_data1 = train_test_split(zhengqi_train_orginal, test_size = 0.2, random_state = 42)
zhengqi_train_labels, zhengqi_test_labels = train_test_split(zhengqi_train_target, test_size = 0.2, random_state = 42)

from sklearn.preprocessing import StandardScaler

std_scaler = StandardScaler()
zhengqi_train_data = std_scaler.fit_transform(zhengqi_train_data1)

在这里插入图片描述
线性回归的方式：

from sklearn.linear_model import LinearRegression

lin_reg = LinearRegression()
lin_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

import numpy as np
from sklearn.metrics import mean_squared_error
zhengqi_lin_predictions = lin_reg.predict(zhengqi_train_data)
lin_mse = mean_squared_error(zhengqi_train_labels, zhengqi_lin_predictions)
lin_rmse = np.sqrt(lin_mse)
lin_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(lin_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
lin_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(lin_rmse_scores)

在这里插入图片描述
随机梯度下降的方法：

from sklearn.linear_model import SGDRegressor

sgd_reg = SGDRegressor( penalty = None, eta0=0.1)
sgd_reg.fit(zhengqi_train_data, zhengqi_train_labels.ravel())

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_sgd_predictions = sgd_reg.predict(zhengqi_train_data)
sgd_mse = mean_squared_error(zhengqi_train_labels, zhengqi_sgd_predictions)
sgd_rmse = np.sqrt(sgd_mse)
sgd_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(sgd_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
sgd_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(sgd_rmse_scores)

在这里插入图片描述
svm

from sklearn.svm import LinearSVR

svm_reg = LinearSVR(epsilon=0.1)
svm_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_svm_predictions = svm_reg.predict(zhengqi_train_data)
svm_mse = mean_squared_error(zhengqi_train_labels, zhengqi_svm_predictions)
svm_rmse = np.sqrt(svm_mse)
svm_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(svm_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
svm_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(svm_rmse_scores)

在这里插入图片描述
决策树模型：

from sklearn.tree import DecisionTreeRegressor

tree_reg = DecisionTreeRegressor()
tree_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_tree_predictions = tree_reg.predict(zhengqi_train_data)
tree_mse = mean_squared_error(zhengqi_train_labels, zhengqi_tree_predictions)
tree_rmse = np.sqrt(tree_mse)
tree_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(tree_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
tree_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(tree_rmse_scores)

在这里插入图片描述
随机森林

from sklearn.ensemble import RandomForestRegressor

forest_reg = RandomForestRegressor()
forest_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_forest_predictions = forest_reg.predict(zhengqi_train_data)
forest_mse = mean_squared_error(zhengqi_train_labels, zhengqi_forest_predictions)
forest_rmse = np.sqrt(forest_mse)
forest_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(forest_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
forest_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(forest_rmse_scores)

在这里插入图片描述
画出学习曲线：

%matplotlib inline
import matplotlib.pyplot as plt
from sklearn.metrics import mean_squared_error
from sklearn.model_selection import train_test_split

def plot_learning_curves(model, X, y):
    X_train, X_val, y_train, y_val = train_test_split(X, y, test_size=0.2)
    train_errors, val_errors = [],[]
    for m in range(1, len(X_train)):  
        model.fit(X_train[:m], y_train[:m])
        y_train_predict = model.predict(X_train[:m])
        y_val_predict = model.predict(X_val)
        train_errors.append(mean_squared_error(y_train_predict, y_train[:m]))
        val_errors.append(mean_squared_error(y_val_predict, y_val))
    plt.plot(np.sqrt(train_errors), "r-+", linewidth = 2, label = "train")
    plt.plot(np.sqrt(val_errors), "b-", linewidth = 3, label = "val")
    plt.legend()

在这里插入图片描述
线性回归的学习曲线

plot_learning_curves(lin_reg,zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述
梯度下降的回归曲线

plot_learning_curves(sgd_reg,zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述
超参数调整

from sklearn.model_selection import GridSearchCV

param_grid = [
    {'eta0':[0.1, 0.2, 0.3], 'max_iter':[2000,4000], 'n_iter_no_change':[5, 10, 15]}
]

grid_search = GridSearchCV(sgd_reg, param_grid, cv = 5, scoring = 'neg_mean_squared_error')
grid_search.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

grid_search.best_params_

在这里插入图片描述

cvres = grid_search.cv_results_
for mean_score, params in zip(cvres["mean_test_score"], cvres["params"]):
    print(np.sqrt(-mean_score), params)

在这里插入图片描述

grid_search.best_estimator_

在这里插入图片描述
二项式回归

from sklearn.preprocessing import PolynomialFeatures
poly_features = PolynomialFeatures(degree = 2, include_bias = False)
X_poly = poly_features.fit_transform(zhengqi_train_data)

lin_reg.fit(X_poly, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_lin_predictions = lin_reg.predict(X_poly)
lin_mse = mean_squared_error(zhengqi_train_labels, zhengqi_lin_predictions)
lin_rmse = np.sqrt(lin_mse)
lin_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(lin_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
lin_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(lin_rmse_scores)

在这里插入图片描述
SGD岭回归正则化

sgd_reg = SGDRegressor( penalty = "l2", eta0=0.1)
sgd_reg.fit(zhengqi_train_data, zhengqi_train_labels.ravel())

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_sgd_predictions = sgd_reg.predict(zhengqi_train_data)
sgd_mse = mean_squared_error(zhengqi_train_labels, zhengqi_sgd_predictions)
sgd_rmse = np.sqrt(sgd_mse)
sgd_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(sgd_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
sgd_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(sgd_rmse_scores)

在这里插入图片描述
SGD 套索回归正则化

sgd_reg = SGDRegressor( penalty = "l1", eta0=0.1)
sgd_reg.fit(zhengqi_train_data, zhengqi_train_labels.ravel())

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_sgd_predictions = sgd_reg.predict(zhengqi_train_data)
sgd_mse = mean_squared_error(zhengqi_train_labels, zhengqi_sgd_predictions)
sgd_rmse = np.sqrt(sgd_mse)
sgd_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(sgd_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
sgd_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(sgd_rmse_scores)

在这里插入图片描述
岭回归

from sklearn.linear_model import Ridge
ridge_reg = Ridge(alpha = 1, solver = "cholesky")
ridge_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_ridge_predictions = ridge_reg.predict(zhengqi_train_data)
ridge_mse = mean_squared_error(zhengqi_train_labels, zhengqi_ridge_predictions)
ridge_rmse = np.sqrt(ridge_mse)
ridge_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(ridge_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
ridge_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(ridge_rmse_scores)

在这里插入图片描述
套索回归

from sklearn.linear_model import Lasso
lasso_reg = Lasso(alpha = 0.1)
lasso_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_lasso_predictions = lasso_reg.predict(zhengqi_train_data)
lasso_mse = mean_squared_error(zhengqi_train_labels, zhengqi_lasso_predictions)
lasso_rmse = np.sqrt(lasso_mse)
lasso_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(lasso_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
lasso_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(lasso_rmse_scores)

在这里插入图片描述
非线性SVR回归

from sklearn.svm import SVR

svm_poly_reg = SVR(kernel = "poly", degree = 2, C = 1, epsilon = 0.5)
svm_poly_reg.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

from sklearn.metrics import mean_squared_error
zhengqi_svm_poly_predictions = svm_poly_reg.predict(zhengqi_train_data)
svm_poly_mse = mean_squared_error(zhengqi_train_labels, zhengqi_svm_poly_predictions)
svm_poly_rmse = np.sqrt(svm_poly_mse)
svm_poly_rmse

在这里插入图片描述

from sklearn.model_selection import cross_val_score
scores = cross_val_score(svm_poly_reg, zhengqi_train_data, zhengqi_train_labels, scoring = "neg_mean_squared_error", cv = 10)
svm_poly_rmse_scores = np.sqrt(-scores)

def display_scores(scores):
    print("Scores:", scores)
    print("Mean:", scores.mean())
    print("Standard deviation:", scores.std())
display_scores(svm_poly_rmse_scores)

在这里插入图片描述
超参数调整：

from sklearn.model_selection import GridSearchCV

param_grid = [
    {'C':[1, 10, 100], 'epsilon':[0.1,0.5,1.0,1.5]}
]

grid_search = GridSearchCV(svm_poly_reg, param_grid, cv = 5, scoring = 'neg_mean_squared_error')
grid_search.fit(zhengqi_train_data, zhengqi_train_labels)

在这里插入图片描述

grid_search.best_params_

在这里插入图片描述

cvres = grid_search.cv_results_
for mean_score, params in zip(cvres["mean_test_score"], cvres["params"]):
    print(np.sqrt(-mean_score), params)

在这里插入图片描述
二项式回归的泛化误差

X_test_prepared = poly_features.fit_transform(zhengqi_test_data1)
final_predictions = lin_reg.predict(X_test_prepared)

final_mse = mean_squared_error(zhengqi_test_labels, final_predictions)
final_rmse = np.sqrt(final_mse)
final_rmse

在这里插入图片描述
梯度下降的泛化误差

final_predictions = sgd_reg.predict(zhengqi_test_data1)

final_mse = mean_squared_error(zhengqi_test_labels, final_predictions)
final_rmse = np.sqrt(final_mse)
final_rmse

在这里插入图片描述
SVM回归的泛化误差

final_predictions = svm_reg.predict(zhengqi_test_data1)

final_mse = mean_squared_error(zhengqi_test_labels, final_predictions)
final_rmse = np.sqrt(final_mse)
final_rmse

在这里插入图片描述
新的数据集：预测目标数据

zhengqi_new = pd.read_csv(r"F:\00 Scikit-Learn\zhengqi_test.csv")
zhengqi_new.head()

在这里插入图片描述

some_data = zhengqi_new.iloc[:5]
print("some_data_predictions:\t", svm_reg.predict(some_data))

在这里插入图片描述

点西西
关注
专栏目录
jupyter notebook生成py文件
Ajdidfj的博客
10-25 1461
在一个jupyter notebook中代码最后写入：并将jupyter notebook的文件名称也改为设定的。，最后执行以下代码即可生成。
使用jupyter notebook运行.py文件
Sagacity_1125的博客
07-14 980
%load xx.py会自动载入整个.py中的代码。 %load convertCaffe.py
机器学习--决策树（第六章）
qq_52754254的博客
05-23 1884
决策树 决策树.py from sklearn.tree import DecisionTreeClassifier #创建分类器对象 tree=DecisionTreeClassifier(criterion="entropy") #训练数据fit tree.fit([[0],[1],[2],[3]],["a","a","b","c"]) #预测新数据 target=tree.predict([[2]]) #模型评估，打分，验证方法，评估方式 print(target) print(tree.scor
机器学习06|两万字：决策树 【jupyter代码详解篇】
IanYue的博客
11-04 3264
本文用到的所有数据决策树(Decision Tree)首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析，本质上是通过一系列规则对数据进行分类的过程决策树是一种典型的分类方法。CLS算法是早期提出的决策树学习算法，是很多决策树学习算法的基础框架。依据其中选择分类属性的策略不同，可以得到不同的决策树算法。比较常用的决策树有ID3，C4.5和CART三种和实现，其中CART一般优于其他决策树，并且可用于回归任务。下面我们将编写代码实现这三种决策树算法。
机器学习从入门到精通：Jupyter Notebook实战指南
最新发布
z_ran的博客
12-05 1479
Notebook相关代码
在PyCharm环境中使用Jupyter Notebook的两种方法总结
12-24
1、安装Jupyter Notebook pip install jupyter 2、在PyCharm中新建Jupyter Notebook文件 步骤：File-》New…-》Jupyter Notebook-》输入文件名 建好之后效果如下图所示，就是熟悉的Jupyter Notebook界面： 3、运行...
使用jupyter notebook直接打开.md格式的文件
09-17
### 使用Jupyter Notebook直接打开.md格式的文件 #### 引言 随着数据科学与机器学习领域的快速发展，Jupyter Notebook 成为了研究者、开发者们不可或缺的工具之一。它不仅支持多种编程语言，还允许用户创建和共享...
Spring Cloud 服务启动连接 报：Fetching config from server at : http://localhost:8888
程序猿小郝的博客，关住技术圈，分享原创技术文章和踩坑记录。
01-05 7388
1.微服务报错原文： 2020-01-05 13:14:03.080 INFO 195216 --- [ main] c.c.c.ConfigServicePropertySourceLocator : Fetching config from server at : http://localhost:8888 2020-01-05 13:14:04.227 INFO ...
zhengqi_train.txt
12-06
zhengqi_train.txt
决策树在Sklearn中的实现
sshi9的博客
03-01 1578
Sklearn scikit-learn，又写作sklearn，是一个开源的基于python语言的机器学习工具包。它通过NumPy, SciPy和 Matplotlib等python数值计算的库实现高效的算法应用，并且涵盖了几乎所有主流机器学习算法。 决策树 决策树（Decision Tree）是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规 则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树算法容易理解，适用各种数据，在解决各 种问题时都有良好表现，尤其是以
【从零开始学机器学习12】MSE、RMSE、R2_score
热门推荐
苏克的博客
08-04 4万+
摘要：【机器学习12】线性回归算法评价指标：MSE、RMSE、R2_score。上一篇文章我们介绍了简单的一元线性回归算法，今天介绍评价线性回归效果好坏的几个重要指标。P...
【Spring Cloud】服务启动过程中连接Fetching config from server at : http://localhost:8888
zwl_wx的博客
01-26 1948
1、微服务启动报错： 2019-05-06 15:10:31.436 INFO 20248 — [ restartedMain] c.c.c.ConfigServicePropertySourceLocator : Fetching config from server at : http://localhost:8888 2019-05-06 15:10:32.533 INFO 20248 — [ restartedMain] c.c.c.ConfigServicePropertySourceLocato
2021-01-09-在本地打开notebook时：http://localhost:8888/?token=
weixin_40895857的博客
01-09 9224
总忘记，做下记录： 在本地打开notebook时：http://localhost:8888/?token= 解决方案： https://stackoverflow.com/questions/41736309/jupyter-notebook-authentication-token-while-in-pycharm the shortest way I found: If you typejupyter notebookin a PowerShell terminal, PowerShell..
使用jupyter和决策树进行简单的机器学习(学习记录#1）
qq_40626425的博客
01-19 3489
使用jupyter和决策树进行简单的机器学习1. 下载对应版本的Anaconda2. 建立jupyter notebook3. 制作简单的数据集4. 准备数据功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 1. 下载对应版本的A
【机器学习实战】使用SGD、随机森林对MNIST数据集实现多分类（jupyterbook）
在热爱技术的路上一直前行。
12-07 2332
4.2 数据标准化后
jupyter notebook 配置路径
tianwenzhe00的专栏
06-06 1万+
安装jupyter notebooks有两种方法：（1）pip方法；（2）Anaconda方法。 安装anaconda之后，自带jupyter notebook工具。本文已经安装anaconda，直接启动jupyter notebook。 1 首次启动jupyter notebooks 开始菜单 -》Anaconda -》 jupyter Notebook -》打开jupyter notebook -》启动notebook后，自动打开命令提示窗口，并且浏览器自动打开notebook页面地址http:/
ipython notebook http://localhost:8888/tree error
Talk Is Cheap
01-12 2万+
可以尝试http://127.0.0.1:8888/tree
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值