基于matlab创建一个简单的多层感知器（MLP）

本文链接：https://blog.csdn.net/MHD0815/article/details/143825734

步骤 1：准备数据

步骤 2：定义网络架构

MATLAB 中创建一个简单的多层感知器（MLP）相对简单。MLP 是一种前馈神经网络，通常用于分类和回归任务。下面是一个详细的步骤指南，包括如何定义网络架构、设置训练选项、训练模型和评估模型性能。

步骤 1：准备数据

首先，我们需要准备数据。假设我们有一个简单的分类数据集，我们将使用 X 表示输入特征，Y 表示标签。

matlab

深色版本

% 假设我们已经有一个数据集
X = rand(10, 1000);  % 10 个特征，1000 个样本
Y = randi([1, 5], 1, 1000);  % 5 类标签

% 划分训练集和测试集
trainIdx = randperm(1000, 800);
testIdx = setdiff(1:1000, trainIdx);

XTrain = X(:, trainIdx);
YTrain = Y(trainIdx);

XTest = X(:, testIdx);
YTest = Y(testIdx);

步骤 2：定义网络架构

接下来，定义一个简单的 MLP 架构。我们将使用几个全连接层（fullyConnectedLayer）、ReLU 激活函数（reluLayer）和一个分类层（classificationLayer）。

matlab

深色版本

layers = [
    imageInputLayer([10 1 1])  % 输入层，10 个特征，形状为 [10 1 1]
    fullyConnectedLayer(64)  % 全连接层，64 个隐藏单元
    reluLayer  % ReLU 激活函数
    fullyConnectedLayer(32)  % 全连接层，32 个隐藏单元
    reluLayer  % ReLU 激活函数
    fullyConnectedLayer(5)  % 全连接层，5 个输出节点
    softmaxLayer  % Softmax 层
    classificationLayer  % 分类层
];

步骤 3：设置训练选项

设置训练选项，包括优化器、最大迭代次数、批量大小等。

matlab

深色版本

options = trainingOptions('adam', ...  % 使用 Adam 优化器
    'MaxEpochs', 10, ...  % 最大迭代次数
    'MiniBatchSize', 256, ...  % 批量大小
    'Plots', 'training-progress', ...  % 绘制训练进度图
    'Verbose', false);  % 不显示详细输出

步骤 4：训练模型

使用 trainNetwork 函数训练模型。注意，输入数据需要重新调整形状以适应 imageInputLayer。

matlab

深色版本

% 调整输入数据的形状
XTrain = reshape(XTrain, [10 1 1 size(XTrain, 2)]);
XTest = reshape(XTest, [10 1 1 size(XTest, 2)]);

net = trainNetwork(XTrain, YTrain, layers, options);

步骤 5：评估模型

使用测试集评估模型的性能。

matlab

深色版本

YPred = classify(net, XTest);  % 预测测试集的标签
YTrue = YTest;  % 真实标签

% 计算准确率
accuracy = sum(YPred == YTrue) / numel(YTrue);
fprintf('Accuracy: %.2f%%\n', accuracy * 100);

完整代码示例

以下是完整的代码示例，涵盖了上述所有步骤：

matlab

深色版本

% 假设我们已经有一个数据集
X = rand(10, 1000);  % 10 个特征，1000 个样本
Y = randi([1, 5], 1, 1000);  % 5 类标签

% 划分训练集和测试集
trainIdx = randperm(1000, 800);
testIdx = setdiff(1:1000, trainIdx);

XTrain = X(:, trainIdx);
YTrain = Y(trainIdx);

XTest = X(:, testIdx);
YTest = Y(testIdx);

% 定义网络架构
layers = [
    imageInputLayer([10 1 1])  % 输入层，10 个特征，形状为 [10 1 1]
    fullyConnectedLayer(64)  % 全连接层，64 个隐藏单元
    reluLayer  % ReLU 激活函数
    fullyConnectedLayer(32)  % 全连接层，32 个隐藏单元
    reluLayer  % ReLU 激活函数
    fullyConnectedLayer(5)  % 全连接层，5 个输出节点
    softmaxLayer  % Softmax 层
    classificationLayer  % 分类层
];

% 设置训练选项
options = trainingOptions('adam', ...
    'MaxEpochs', 10, ...
    'MiniBatchSize', 256, ...
    'Plots', 'training-progress', ...
    'Verbose', false);

% 调整输入数据的形状
XTrain = reshape(XTrain, [10 1 1 size(XTrain, 2)]);
XTest = reshape(XTest, [10 1 1 size(XTest, 2)]);

% 训练模型
net = trainNetwork(XTrain, YTrain, layers, options);

% 评估模型
YPred = classify(net, XTest);  % 预测测试集的标签
YTrue = YTest;  % 真实标签

% 计算准确率
accuracy = sum(YPred == YTrue) / numel(YTrue);
fprintf('Accuracy: %.2f%%\n', accuracy * 100);

进阶技巧

1. 添加批归一化层

批归一化层可以帮助加速训练过程并提高模型的泛化能力。

matlab

深色版本

layers = [
    imageInputLayer([10 1 1])
    fullyConnectedLayer(64)
    batchNormalizationLayer
    reluLayer
    fullyConnectedLayer(32)
    batchNormalizationLayer
    reluLayer
    fullyConnectedLayer(5)
    softmaxLayer
    classificationLayer
];

2. 使用不同的激活函数

你可以尝试使用不同的激活函数，如 tanhLayer 或 sigmoidLayer。

matlab

深色版本

layers = [
    imageInputLayer([10 1 1])
    fullyConnectedLayer(64)
    tanhLayer
    fullyConnectedLayer(32)
    tanhLayer
    fullyConnectedLayer(5)
    softmaxLayer
    classificationLayer
];

3. 模型优化

使用交叉验证和网格搜索来优化模型超参数。

matlab

深色版本

% 定义超参数范围
params = struct('InitialLearnRate', logspace(-3, -1, 3), ...
    'L2Regularization', linspace(0, 0.01, 3));

% 进行网格搜索
bestNet = bayesopt(@(params) trainAndValidate(params, XTrain, YTrain, XTest, YTest), params, ...
    'IsObjectiveDeterministic', true, ...
    'NumGridDivisions', 3, ...
    'AcquisitionFunctionName', 'expected-improvement-plus', ...
    'Verbose', 2);

% 训练最优模型
net = trainNetwork(XTrain, YTrain, layers, bestNet.Options);