SCI一区 | Matlab实现mRMR-CNN-LSTM-Mutilhead-Attention最大相关最小冗余特征选择卷积长短期记忆神经网络融合多头注意力机制多特征分类预测

SCI一区 | Matlab实现mRMR-CNN-LSTM-Mutilhead-Attention最大相关最小冗余特征选择卷积长短期记忆神经网络融合多头注意力机制多特征分类预测

效果一览

基本介绍

1.【SCI一区级】Matlab实现mRMR-CNN-LSTM-Mutilhead-Attention最大相关最小冗余特征选择卷积长短期记忆神经网络融合多头注意力机制多特征分类预测，运行环境Matlab2023b及以上；
2.mRMR特征选择的方法，通过最大化特征与目标变量的相关性，同时最小化特征之间的冗余，给特征变量的选择提供有效依据，提高模型的可解释性。
3.多特征输入单输出的二分类及多分类模型。程序内注释详细，直接替换数据就可以用。程序语言为matlab，程序可出分类效果图，迭代图，混淆矩阵图.
4.data为数据集，输入12个特征，分四类；main为主程序，其余为函数文件，无需运行。
5.输出指标包括优化参数、精确度、召回率、精确率、F1分数。
数据集格式：

注：程序和数据放在一个文件夹

模型描述

多头注意力机制（Multi-Head Attention）是一种用于处理序列数据的注意力机制的扩展形式。它通过使用多个独立的注意力头来捕捉不同方面的关注点，从而更好地捕捉序列数据中的相关性和重要性。在多变量时间序列预测中，多头注意力机制可以帮助模型对各个变量之间的关系进行建模，并从中提取有用的特征。

程序设计

• 完整程序和数据获取方式私信博主回复Matlab实现mRMR-CNN-LSTM-Mutilhead-Attention最大相关最小冗余特征选择卷积长短期记忆神经网络融合多头注意力机制多特征分类预测。

%%  清空环境变量
warning off             % 关闭报警信息
close all               % 关闭开启的图窗
clear                   % 清空变量
clc                     % 清空命令行
rng(0)                  % 使训练集、和测试集的随机划分与适应度函数一致

%%  读取数据
res = xlsread('data.xlsx');

%%  分析数据
num_class = length(unique(res(:, end)));  % 类别数（Excel最后一列放类别）
Numfeatures = size(res, 2) - 1;               % 特征维度
num_res = size(res, 1);                   % 样本数（每一行，是一个样本）
num_size = 0.7;                           % 训练集占数据集的比例
res = res(randperm(num_res), :);          % 打乱数据集（不打乱数据时，注释该行）
flag_conusion = 1;                        % 标志位为1，打开混淆矩阵（要求2018版本及以上）

%%  设置变量存储数据
P_train = []; P_test = [];
T_train = []; T_test = [];

%%  划分数据集
for i = 1 : num_class
    mid_res = res((res(:, end) == i), :);           % 循环取出不同类别的样本
    mid_size = size(mid_res, 1);                    % 得到不同类别样本个数
    mid_tiran = round(num_size * mid_size);         % 得到该类别的训练样本个数

    P_train = [P_train; mid_res(1: mid_tiran, 1: end - 1)];       % 训练集输入
    T_train = [T_train; mid_res(1: mid_tiran, end)];              % 训练集输出

    P_test  = [P_test; mid_res(mid_tiran + 1: end, 1: end - 1)];  % 测试集输入
    T_test  = [T_test; mid_res(mid_tiran + 1: end, end)];         % 测试集输出
end

%%  数据转置
P_train = P_train'; P_test = P_test';
T_train = T_train'; T_test = T_test';

参考资料

[1] https://blog.csdn.net/kjm13182345320/article/details/129036772?spm=1001.2014.3001.5502
[2] https://blog.csdn.net/kjm13182345320/article/details/128690229