基于最大互信息的特征选择算法附matlab代码

✅作者简介：热爱科研的Matlab仿真开发者，修心和技术同步精进，matlab项目合作可私信。

🍎个人主页：Matlab科研工作室

🍊个人信条：格物致知。

更多Matlab仿真内容点击👇

智能优化算法       神经网络预测       雷达通信       无线传感器        电力系统

信号处理              图像处理               路径规划       元胞自动机        无人机 

⛄ 内容介绍

该文以互信息最大化原则为指导,经过推导和分析后提出了一种基于信息论模型的新的特征选择算法,称之为基于互信息最大化的特征选择算法(MaxMI).基本思想就是特征选择后,应当尽可能多地保留关于类别的信息.该算法与传统的信息增益,互信息和交叉熵在表达形式上具有一定的相似性,但是并不完全相同.从实验上验证了基于互信息最大化的特征选择算法优于其它三种算法.

⛄ 部分代码

function pic_xy = p_mkde(p_train, t_train, h)

%%  使用多变量内核密度估计

% input data p_train : dim * number of records

%            t_train : the data point in order to estimate mkde (d*1) vector

%            h : smoothing parameter

%%  参数设置

[dim, num] = size(t_train);

Sxy  = cov(t_train');

detS = det(Sxy);

%%

sum_res = 0;

for i = 1 : num

    p = (p_train - t_train(:, i))' * (Sxy^(-1)) * (p_train - t_train(:, i));

    sum_res = sum_res + 1 / sqrt((2 * pi)^ dim * detS) * exp(-p / (2 * h^2));

end

%%  得到估计值

pic_xy = 1 / (num * h ^ dim) * sum_res;

⛄ 运行结果

⛄ 参考文献

[1] 唐亮, 段建国, 许洪波,等. 基于互信息最大化的特征选择算法及应用[J]. 计算机工程与应用, 2008, 44(13):4.

[2] 赵军阳, 张志利. 基于最大互信息最大相关熵的特征选择方法[J]. 计算机应用研究, 2009, 26(1):4.

[3] 董泽民, 石强. 基于归一化模糊联合互信息最大的特征选择[J]. 计算机工程与应用, 2017, 53(22):7.

⛳️ 代码获取关注我

❤️部分理论引用网络文献，若有侵权联系博主删除

❤️ 关注我领取海量matlab电子书和数学建模资料