光谱特征选择---连续投影算法SPA

        作为光谱分析的重要环节,如何从冗余、复杂的变量中选取特征变量直接决定了预测模型的性能,在实际特征选择过程中,通常从两方面考虑特征选择的合理性:一是对目标变量y的解释性,二是不同自变量x间的冗余性,前者是考虑变量自身或变量组合的预测性能,后者考虑变量间的冗余问题,如何在保证对模型性能的同时减少变量冗余对于提高模型精度、降低过拟合风险和提高模型泛化性十分重要。

        本周分享连续投影算法(successive projections algorithm,SPA),SPA算法2001年发表在Chemometrics and Intelligent Laboratory Systems期刊上,该算法原理简单,适用性较强,目前还有很多研究应用该方法进行分析。我们首先简单分析一下SPA的分析原理和关键步骤,然后给出代码,最后应用一个实例数据进行分析测试,完整代码及答疑在交流群,不在此展示。

1. SPA算法

        SPA是一种前向迭代搜索方法,即从一个波长开始,然后在每次迭代中加入一个新变量,直至所选变量数达到设定值N。SPA的目的是选择光谱信息最少冗余的波长以解决共线性问题,其实现步骤可表示如下:

注意:对于波段数和起始位置的选择问题,可以通过对比不同参数的结果进行分析。

        2. 代码分析

function [SelectedW] = SPA(SpecCal,Winitial,totN)% SpecCal 光谱矩阵(行为样品,列为波段)% Winitial 起始波段% totN 选择的波段总数% SelectedW 最终选择的波段[NoSp,Novab] = size(SpecCal);Varibs = 1:Novab;SelectedW = ones(1,totN);Specj = SpecCal;  Specn = SpecCal(:,Winitial);SelectedW(1) = Winitial;for n = 1:totN-1 %待确定变量数的循环    litW =SelectedW(1:n);    Jnotsel = setdiff(Varibs,litW);  %确定未映射变量    APSpecj = zeros(1,length(Jnotsel));    PSpecj = zeros(NoSp,Novab);    stP = 1;    for j = Jnotsel %未确定变量的循环        PSpecj(:,j) = Specj(:,j) - (Specj(:,j)'*Specn)*Specn*(Specn'*Specn)^(-1);                 APSpecj(stP) = norm(PSpecj(:,j));        stP = stP+1;    end    SelectedW(n+1) = Jnotsel(APSpecj==max(APSpecj));    Specn = SpecCal(:,SelectedW(n+1));    Specj = PSpecj;endend

        3. 实例分析

        此处以某油掺假比例预测数据为例,光谱数据为39x256,波长范围为897-2124 nm,选择SNV进行预处理,所得光谱数据为:

图1 原始与SNV光谱

        SPA选择的特征变量(前60)分布为:

图2 SPA选择特征分布

        分析发现,所选变量主要集中在1780nm左右,而在其他两个峰没有选择特征变量,主要原因是特征选择过程属于无监督过程,仅从自变量分布进行分析,未建立有效的预测模型。基于上述模型所建模型的预测结果为:

图3 SPA-PLS分析结果

        实验分析结果表明,SPA-PLS模型的训练集和预测集精度相近,相比于原始数据集(0.96,0.93,LVs=4),SPA能够有效提高模型性能,但是相比于CARS,性能提升有限,主要原因是该方法特征选择过程为无监督过程,选择的变量最大化解释了自变量空间,未建立预测模型,因此变量解释能力有限。

        有需要的话请添加LW10210094,请备注姓名和学校。

  • 20
    点赞
  • 200
    收藏
    觉得还不错? 一键收藏
  • 26
    评论
j 0.0001+0.0003j 0.0001+0.0003j 0.0001+0.0002j 0.0001+0.0002j 0.0001+0.0002j 0以下是使用连续投影算法对红外光谱进行特征筛选的Python代码: ```python import numpy as.0001+0.0002j 0.0001+0.0002j 0.0001+0.000 np from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.metrics import accuracy_score # 加载数据2j 0.0001+0.0002j 0.0001+0.0002j 0.0001 data = np.loadtxt("data.txt", delimiter=",") X = data[:, :-1] # 特征 y = data[:, -+0.0002j 0.0001+0.0002j 0.0001+0.0002j 1] # 标签 # 特征筛选 threshold = 0.5 # 连续投影算法的阈0.0001+0.0002j 0.0001+0.0001j 0.0001+0.值 row_proj, _ = continuous_projection(X, threshold) selected_features = np.where(row_proj > threshold)[0] X_selected = X0001j 0.0001+0.0001j 0.0001+0.0001j 0.000[:, selected_features] # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split1+0.0001j 0.0001+0.0001j 0.0001+0.0001j(X_selected, y, test_size=0.2, random_state=0) # 训练SVM分类器 clf = SVC(kernel; 0.0001+0.0005j 0.0001+0.0005j 0.000='linear', C=1) clf.fit(X_train, y_train) # 测试 y_pred = clf.predict(X_test) acc = accuracy1+0.0004j 0.0001+0.0005j 0.0001+0.0009j_score(y_test, y_pred) print("Accuracy:", acc) ``` 其中,`data.txt`是包含特征和标签 0.0001+0.0005j 0.0001+0.0005j 0.0001+0的数据文件,`X`是所有特征,`y`是标签。首先使用连续投影算法对.0004j 0.0001+0.0004j 0.0001+0.0004j 0.特征进行筛选,然后选择投影值大于阈值的特征,得到`X_selected`。接着0001+0.0003j 0.0001+0.0003j 0.0001+0.0003,将`X_selected`和`y`划分为训练集和测试集,使用支持向量机(SVM)分类器进行训练和测试。最终输出测试集的准确率。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 26
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值