(上)Tennessee Eastman process(TE过程) 数据集介绍及预处理

一、数据集介绍

数据集下载:https://github.com/camaramm/tennessee-eastman-profBraatz

介绍:http://depts.washington.edu/control/LARRY/TE/download.html

二、论文中的方法提炼

《Industrial Data-Driven Monitoring Based on Incremental Learning Applied to the Detection of  Novel Faults》202009一区LDA

1.解决的问题
2.使用的方法

《Fault diagnosis of TE process based on incremental learning》202007—b会—知识蒸馏

关于TE过程的github数据集处理方法链接

直接在github上搜索关键词:Tennessee Eastman process

XGBoost/XGBoost.ipynb at master · prudhvinathreddymalla/XGBoost · GitHub

https://github.com/hsaafan/TEPImport

https://github.com/search?l=Python&q=Tennessee+Eastman+process&type=Repositories

Tennessee-Eastman-Process/Time Series-checkpoint.ipynb at master · AugustoCam95/Tennessee-Eastman-Process · GitHub

1.尝试将代码复制在pycharm中跑出来。

2.问题1:报错。Matplotlib中%matplotlib inline_庆志的小徒弟-CSDN博客_%matplotlib inline

 

三、增量学习一般的训练测试大致过程:这里只讨论类增量

手写数字数据集举例。0-9的手写数字图片。

将0-9以每两个类别为一批,共有5批(0,1)(2,3)(4,5)(6,7)(8,9)

1.一开始只训练第一批(0,1)的训练集,然后再丢入数字0和1的测试集,记录下此时对数字0和1的识别精度a1,b1;并且设置一个memory存储区,选择部分(0,1)手写数字图片的部分训练集样本,防止遗忘。注意这里是“一边训练,一边存储”

2.在训练过(0,1)的基础上,往模型中继续丢入(2,3)的训练集。训练完后,再将(0,1),(2,3)的测试集丢进网络进行识别,并记录下0-3的识别精度。分别为:a2,b2,c1,d1.

3.继续添加剩余数字的训练集重复该项操作。

正常训练情况下,最先训练的样本是会被遗忘的。因此需要设置一个存储区,对先前的训练样本进行部分(最原始的random)保留。这样的操作通常称为重播算法。我们会发现即便有个存储区还是会出现a2<a1,b2<b1,还是会产生遗忘。但是相比正常训练下的平均精度还是有所提升的。

平均精度:以训练到(2,3)为例,即L1=(a1+b1+a2+b2+c1+d1)/6

什么是正常训练情况呢:

1.一开始只训练第一批(0,1)的训练集,然后再丢入数字0和1的测试集,记录下此时对数字0和1的识别精度A1,B1;此时不设置memory存储区

2.在训练过(0,1)的基础上,直接往模型中继续丢入(2,3)的训练集。训练完后,再将(0,1),(2,3)的测试集丢进网络进行识别,并记录下0-3的识别精度。分别为:A2,B2,C1,D1.

平均精度:以训练到(2,3)为例,即L2=(A1+B1+A2+B2+C1+D1)/6

我们会发现L1>L2,即我们的算法识别精度较高,则说明我们的算法拥有一定的对抗遗忘的能力。

  • 3
    点赞
  • 49
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
### 回答1: PCA是一种常用的数据降维方法,可以减少数据中的冗余信息并提取出数据中的主要成分。在MATLAB中实现PCA可以通过以下步骤完成: 1. 读取数据:首先需要读取需要进行PCA分析的数据集。可以使用MATLAB中的load函数进行数据读取。 2. 数据归一化:归一化是在进行PCA分析前必要的预处理步骤。通过将数据中的每个特征减去其均值并除以标准差,可以将数据归一化到相同的尺度。 3. 协方差矩阵计算:通过计算归一化后的数据的协方差矩阵,可以得到数据集中每个特征之间的相关性。 4. 特征值与特征向量计算:通过对协方差矩阵进行特征值和特征向量运算,可以得到数据集的主要成分。 5. 选择主成分:通过将特征值排序并选择其中最大的k个特征值,可以确定数据集的前k个主成分。 6. 数据降维:最后,通过将数据集投影到前k个主成分上,可以实现数据降维,并得到降维后的数据集。 综上所述,通过MATLAB中的PCA函数和上述步骤,可以快速、简便地实现对数据集的PCA分析,并得到数据的主要成分。 ### 回答2: PCA(主成分分析)是一种常用的数据降维技术,可以用来发现数据中最有意义的变量。MATLAB是一个功能强大的数学计算软件,在其中也有PCA算法的实现。 使用MATLAB进行PCA分析可以分为以下几个过程: 1. 数据预处理 在PCA算法中,需要对数据进行标准化处理,使得每个变量具有相同的权重。因此,首先需要将数据进行标准化,即将每个变量减去其均值,再除以其标准差。可以使用MATLAB中的“zscore”函数来进行。 2. 计算协方差矩阵 PCA算法是基于协方差矩阵的分析,因此需要先计算数据的协方差矩阵。可以使用MATLAB中的“cov”函数来计算。 3. 计算特征值和特征向量 通过计算协方差矩阵的特征值和特征向量,可以得到数据中最有意义的成分。可以使用MATLAB中的“eig”函数来计算。 4. 选择主成分 根据特征值的大小,可以选择最有意义的主成分。一般来说,选择前K个特征值对应的特征向量作为主成分。可以使用MATLAB中的“sort”函数来进行排序,再使用“(:,1:K)”语法来选择前K个特征向量。 5. 投影数据 最后,可以使用选定的主成分来投影原始数据,得到新的低维表示。可以使用MATLAB中的“*”运算符来实现矩阵相乘。 以上是使用MATLAB进行PCA分析的基本过程。需要注意的是,在实际应用过程中,还需要考虑数据的质量、数据的可视化、主成分的解释等问题。因此,需要结合具体应用场景和要求,对PCA算法进行适当的调整和优化。 ### 回答3: PCA(主成分分析)是一种常用的数据分析和降维方法。它的目的是通过将高维数据转化为低维数据,提取数据中最重要的信息,帮助人们更好地理解和解释数据。 在MATLAB中,执行PCA通常需要经过以下步骤: 1. 准备数据:将需要进行PCA分析的数据以矩阵的形式导入MATLAB中,并进行数据预处理,如中心化等。 2. 计算协方差矩阵:使用MATLAB的cov函数,计算数据的协方差矩阵。 3. 计算特征向量和特征值:使用MATLAB的eig函数,计算协方差矩阵的特征向量和特征值。 4. 选择主成分:根据特征值的大小,选择前k个最大的特征值对应的特征向量作为主成分。 5. 求取投影矩阵:将数据投影到主成分方向上,即计算主成分对应的投影矩阵。 6. 进行降维:将原始数据通过投影矩阵进行映射,从而得到降维后的数据。 可以通过MATLAB自带的函数pca,来对数据进行PCA分析和降维操作。使用pca函数,只需输入原始数据矩阵和需要保留的主成分个数,就可以得到主成分和投影矩阵,以及降维后的数据。 在TE过程中,PCA可用于数据分析和特征提取。通过对数据进行PCA分析,可以消除数据中的冗余信息,减少数据维度,提取出最相关和最有用的特征,从而帮助人们更好地理解和分析数据。同时,PCA还可用于数据预处理,提高模型的性能和精度,促进机器学习等领域的发展。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值