LATM相关代码

最新推荐文章于 2023-03-30 06:48:14 发布
最新推荐文章于 2023-03-30 06:48:14 发布
阅读量405 收藏 2
点赞数
分类专栏： 机器学习
原文链接：http://download.csdn.net/detail/u011060119/9919621
版权


由于参加了一个小的课题，是关于时间序列预测的。平时习惯用matlab， 网上这种资源就比较少。

借鉴了  http://blog.csdn.net/u010540396/article/details/52797489  的内容，稍微修改了一下程序。


程序说明：DATA.mat 是一行时序值，

numdely 是用前numdely个点预测当前点，cell_num是隐含层的数目，cost_gate 是误差的阈值。

直接在命令行输入RunLstm(numdely,cell_num,cost_gate)即可。

function [r1, r2] = RunLstm(numdely,cell_num,cost_gate)
%% 数据加载，并归一化处理
figure;
[train_data,test_data]=LSTM_data_process(numdely);
data_length=size(train_data,1)-1;
data_num=size(train_data,2);
%% 网络参数初始化
% 结点数设置
input_num=data_length;
% cell_num=5;
output_num=1;
% 网络中门的偏置
bias_input_gate=rand(1,cell_num);
bias_forget_gate=rand(1,cell_num);
bias_output_gate=rand(1,cell_num);
%网络权重初始化
ab=20;
weight_input_x=rand(input_num,cell_num)/ab;
weight_input_h=rand(output_num,cell_num)/ab;
weight_inputgate_x=rand(input_num,cell_num)/ab;
weight_inputgate_c=rand(cell_num,cell_num)/ab;
weight_forgetgate_x=rand(input_num,cell_num)/ab;
weight_forgetgate_c=rand(cell_num,cell_num)/ab;
weight_outputgate_x=rand(input_num,cell_num)/ab;
weight_outputgate_c=rand(cell_num,cell_num)/ab;
%hidden_output权重
weight_preh_h=rand(cell_num,output_num);
%网络状态初始化
% cost_gate=0.25;
h_state=rand(output_num,data_num);
cell_state=rand(cell_num,data_num);
%% 网络训练学习
for iter=1:100
    yita=0.01;            %每次迭代权重调整比例
    for m=1:data_num
        %前馈部分
        if(m==1)
            gate=tanh(train_data(1:input_num,m)'*weight_input_x);
            input_gate_input=train_data(1:input_num,m)'*weight_inputgate_x+bias_input_gate;
            output_gate_input=train_data(1:input_num,m)'*weight_outputgate_x+bias_output_gate;
            for n=1:cell_num
                input_gate(1,n)=1/(1+exp(-input_gate_input(1,n)));
                output_gate(1,n)=1/(1+exp(-output_gate_input(1,n)));
            end
            forget_gate=zeros(1,cell_num);
            forget_gate_input=zeros(1,cell_num);
            cell_state(:,m)=(input_gate.*gate)';
        else
            gate=tanh(train_data(1:input_num,m)'*weight_input_x+h_state(:,m-1)'*weight_input_h);
            input_gate_input=train_data(1:input_num,m)'*weight_inputgate_x+cell_state(:,m-1)'*weight_inputgate_c+bias_input_gate;
            forget_gate_input=train_data(1:input_num,m)'*weight_forgetgate_x+cell_state(:,m-1)'*weight_forgetgate_c+bias_forget_gate;
            output_gate_input=train_data(1:input_num,m)'*weight_outputgate_x+cell_state(:,m-1)'*weight_outputgate_c+bias_output_gate;
            for n=1:cell_num
                input_gate(1,n)=1/(1+exp(-input_gate_input(1,n)));
                forget_gate(1,n)=1/(1+exp(-forget_gate_input(1,n)));
                output_gate(1,n)=1/(1+exp(-output_gate_input(1,n)));
            end
            cell_state(:,m)=(input_gate.*gate+cell_state(:,m-1)'.*forget_gate)';   
        end
        pre_h_state=tanh(cell_state(:,m)').*output_gate;
        h_state(:,m)=(pre_h_state*weight_preh_h)'; 
    end
    % 误差的计算
%     Error=h_state(:,m)-train_data(end,m);
    Error=h_state(:,:)-train_data(end,:);
    Error_Cost(1,iter)=sum(Error.^2);
    if Error_Cost(1,iter) < cost_gate
            iter
        break;
    end
                 [ weight_input_x,...
                weight_input_h,...
                weight_inputgate_x,...
                weight_inputgate_c,...
                weight_forgetgate_x,...
                weight_forgetgate_c,...
                weight_outputgate_x,...
                weight_outputgate_c,...
                weight_preh_h ]=LSTM_updata_weight(m,yita,Error,...
                                                   weight_input_x,...
                                                   weight_input_h,...
                                                   weight_inputgate_x,...
                                                   weight_inputgate_c,...
                                                   weight_forgetgate_x,...
                                                   weight_forgetgate_c,...
                                                   weight_outputgate_x,...
                                                   weight_outputgate_c,...
                                                   weight_preh_h,...
                                                   cell_state,h_state,...
                                                   input_gate,forget_gate,...
                                                   output_gate,gate,...
                                                   train_data,pre_h_state,...
                                                   input_gate_input,...
                                                   output_gate_input,...
                                                   forget_gate_input);

end
%% 绘制Error-Cost曲线图
for n=1:1:iter
semilogy(n,Error_Cost(1,n),’*’);
hold on;
title(‘Error-Cost曲线图’);
end
%% 数据检验
%数据加载
test_final=test_data;
test_final=test_final/sqrt(sum(test_final.^2));
total = sqrt(sum(test_data.^2));
test_output=test_data(:,end);
%前馈
m=data_num;
gate=tanh(test_final(1:input_num)’*weight_input_x+h_state(:,m-1)’*weight_input_h);
input_gate_input=test_final(1:input_num)’*weight_inputgate_x+cell_state(:,m-1)’*weight_inputgate_c+bias_input_gate;
forget_gate_input=test_final(1:input_num)’*weight_forgetgate_x+cell_state(:,m-1)’*weight_forgetgate_c+bias_forget_gate;
output_gate_input=test_final(1:input_num)’*weight_outputgate_x+cell_state(:,m-1)’*weight_outputgate_c+bias_output_gate;
for n=1:cell_num
input_gate(1,n)=1/(1+exp(-input_gate_input(1,n)));
forget_gate(1,n)=1/(1+exp(-forget_gate_input(1,n)));
output_gate(1,n)=1/(1+exp(-output_gate_input(1,n)));
end
cell_state_test=(input_gate.*gate+cell_state(:,m-1)’.forget_gate)’;
pre_h_state=tanh(cell_state_test’).output_gate;
h_state_test=(pre_h_stateweight_preh_h)’ total;
test_output(end);
test = sprintf(’----Test result is %s----’ ,num2str(h_state_test));
true = sprintf(’----True result is %s----’ ,num2str(test_output(end)));
disp(test);
disp(true);


 
 
  1. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     function [train_data,test_data]=LSTM_data_process(numdely)
    
    
    
   
   
  2. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
     
    
    
    
   
   
  3. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     load(
     
     ‘DATA.mat’);
    
    
    
   
   
  4. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     numdata = size(a,
     
     1);
    
    
    
   
   
  5. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     numsample = numdata - numdely - 
     
     1;
    
    
    
   
   
  6. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     train_data = zeros(numdely+
     
     1, numsample);
    
    
    
   
   
  7. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     test_data = zeros(numdely+
     
     1,
     
     1);
    
    
    
   
   
  8. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
     
    
    
    
   
   
  9. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     for i = 
     
     1 :
     
     numsample
    
    
    
   
   
  10. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
        
     
     train_data
     
     (:,i) = a(i:i+numdely)
     
     ’;
    
    
    
   
   
  11. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     end
    
    
    
   
   
  12. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     
    
    
    
   
   
  13. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     test_data = a(numdata-numdely: numdata);
    
    
    
   
   
  14. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     
    
    
    
   
   
  15. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     data_length=size(train_data,1);          
    
    
    
   
   
  16. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     data_num=size(train_data,2);           
    
    
    
   
   
  17. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     % 
    
    
    
   
   
  18. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     %%归一化过程
    
    
    
   
   
  19. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     for n=1:data_num
    
    
    
   
   
  20. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
         train_data(:,n)=train_data(:,n)/sqrt(sum(train_data(:,n).^2));  
    
    
    
   
   
  21. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     end
    
    
    
   
   
  22. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     % for m=1:size(test_data,2)
    
    
    
   
   
  23. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     %     test_data(:,m)=test_data(:,m)/sqrt(sum(test_data(:,m).^2));
    
    
    
   
   
  24. 
   
   
    
    
    
    
   
   
    
   
   
    
    
    
    
     
     % end
    
    
    
   
   

 
 


function [   weight_input_x,weight_input_h,weight_inputgate_x,weight_inputgate_c,weight_forgetgate_x,weight_forgetgate_c,weight_outputgate_x,weight_outputgate_c,weight_preh_h ]=LSTM_updata_weight(n,yita,Error,...
                                                   weight_input_x, weight_input_h, weight_inputgate_x,weight_inputgate_c,weight_forgetgate_x,weight_forgetgate_c,weight_outputgate_x,weight_outputgate_c,weight_preh_h,...
                                                   cell_state,h_state,input_gate,forget_gate,output_gate,gate,train_data,pre_h_state,input_gate_input, output_gate_input,forget_gate_input)

data_length=size(train_data,1) - 1;
data_num=size(train_data,2);
weight_preh_h_temp=weight_preh_h;

%%% 权重更新函数
input_num=data_length;
cell_num=size(weight_preh_h_temp,1);
output_num=1;

%% 更新weight_preh_h权重
for m=1:output_num
delta_weight_preh_h_temp(:,m)=2*Error(m,1)pre_h_state;
end
weight_preh_h_temp=weight_preh_h_temp-yitadelta_weight_preh_h_temp;

%% 更新weight_outputgate_x
for num=1:output_num
for m=1:data_length
delta_weight_outputgate_x(m,:)=(2weight_preh_h(:,num)Error(num,1).tanh(cell_state(:,n)))’.exp(-output_gate_input).(output_gate.^2)train_data(m,n);
end
weight_outputgate_x=weight_outputgate_x-yitadelta_weight_outputgate_x;
end
%% 更新weight_inputgate_x
for num=1:output_num
for m=1:data_length
delta_weight_inputgate_x(m,:)=2(weight_preh_h(:,num)*Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*gate.*exp(-input_gate_input).*(input_gate.2)train_data(m,n);
end
weight_inputgate_x=weight_inputgate_x-yitadelta_weight_inputgate_x;
end

if(n~=1)
%% 更新weight_input_x
temp=train_data(1:input_num,n)‘weight_input_x+h_state(:,n-1)'weight_input_h;
for num=1:output_num
for m=1:data_length
delta_weight_input_x(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*input_gate.*(ones(size(temp))-tanh(temp.2))train_data(m,n);
end
weight_input_x=weight_input_x-yitadelta_weight_input_x;
end
%% 更新weight_forgetgate_x
for num=1:output_num
for m=1:data_length
delta_weight_forgetgate_x(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*cell_state(:,n-1)’.*exp(-forget_gate_input).*(forget_gate.2)train_data(m,n);
end
weight_forgetgate_x=weight_forgetgate_x-yitadelta_weight_forgetgate_x;
end
%% 更新weight_inputgate_c
for num=1:output_num
for m=1:cell_num
delta_weight_inputgate_c(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*gate.*exp(-input_gate_input).*(input_gate.2)cell_state(m,n-1);
end
weight_inputgate_c=weight_inputgate_c-yitadelta_weight_inputgate_c;
end
%% 更新weight_forgetgate_c
for num=1:output_num
for m=1:cell_num
delta_weight_forgetgate_c(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*cell_state(:,n-1)’.*exp(-forget_gate_input).*(forget_gate.2)cell_state(m,n-1);
end
weight_forgetgate_c=weight_forgetgate_c-yitadelta_weight_forgetgate_c;
end
%% 更新weight_outputgate_c
for num=1:output_num
for m=1:cell_num
delta_weight_outputgate_c(m,:)=2(weight_preh_h(:,num)Error(num,1))’.tanh(cell_state(:,n))’.exp(-output_gate_input).(output_gate.^2)cell_state(m,n-1);
end
weight_outputgate_c=weight_outputgate_c-yitadelta_weight_outputgate_c;
end
%% 更新weight_input_h
temp=train_data(1:input_num,n)‘weight_input_x+h_state(:,n-1)'weight_input_h;
for num=1:output_num
for m=1:output_num
delta_weight_input_h(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*input_gate.*(ones(size(temp))-tanh(temp.2))h_state(m,n-1);
end
weight_input_h=weight_input_h-yitadelta_weight_input_h;
end
else
%% 更新weight_input_x
temp=train_data(1:input_num,n)'weight_input_x;
for num=1:output_num
for m=1:data_length
delta_weight_input_x(m,:)=2(weight_preh_h(:,num)Error(num,1))’.output_gate.(ones(size(cell_state(:,n)))-tanh(cell_state(:,n)).2)’.*input_gate.*(ones(size(temp))-tanh(temp.2))train_data(m,n);
end
weight_input_x=weight_input_x-yitadelta_weight_input_x;
end
end
weight_preh_h=weight_preh_h_temp;

end


---------------------------------------2017.08.03 UPDATE----------------------------------------

代码数据链接：

http://download.csdn.net/detail/u011060119/9919621


辉姑娘1017
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
LSTM 时间序列预测 matlab
Xcy的博客
05-02 6万+
由于参加了一个小的课题，是关于时间序列预测的。平时习惯用matlab， 网上这种资源就比较少。 借鉴了  http://blog.csdn.net/u010540396/article/details/52797489  的内容，稍微修改了一下程序。 程序说明：DATA.mat 是一行时序值， numdely 是用前numdely个点预测当前点，cell_num是隐含层的数目，cos
长短期记忆网络LSTM(matlab)
蜀山小道士的blog
08-17 7034
load dataset stop = 0;                                    %控制预测的序列索引(0-倒数第1 1-倒数第2 2-倒数第3,..以此类推) series = dataset(1:end-stop,1); %导入时间序列数据 timespan = 5;                            %时间跨度(即历史数据条数) %构造...
LSTM
叶曦禾的博客
04-24 246
什么是LSTM LSTM是SimpleRNN的变体，用来解决RNN中梯度消失的问题，相比普通的RNN，LATM在长序列中表现更好。 LSTM的原理 LSTM结构（图右）和普通RNN的主要输入输出区别 RNN通常只有一个传递状态hth^tht, 而LSTM通常有两个状态：ctc^tct和hth^tht; 可以将ctc^tct看作一个传送带，包含了RNN网络中每个时间结点的信息，常输出的ctc^tct是上一个状态传过来的ct−1c^{t-1}ct−1加上一些数值。 而hth^tht通常在不同结点差别很大
递归神经网络LSTM原理——结合实例MATLAB实现
热门推荐
u010540396的博客
10-12 8万+
最近正在看递归神经网络，看了网上很多博文，算是鱼龙混杂，并且基本都是使用Python实现，要不就是使用Matlab中的函数库等。对于使用Matlab的同学，甚为不方便。所以我将结合实例，使用matlab语言，完成递归神经网络程序的编写（LSTM）。本人菜鸡一枚，如有错误还望各路大神，指正教导。文章的问题和数据和我之前写的递归神经网络BPTT文章中一致，方便大家比较两种方法的差异，文章链接递归神经网络
基于matlab编程的多输入多输出长短期神经网络回归分析
abc991835105的博客
03-30 1422
LSTM原理，基于MATLAB编程实现多输入多少输出的LSTM回归分析
基于贝叶斯(bayes)优化卷积神经网络-长短期记忆网络(CNN-LSTM)回归预测（Matlab完整源码和数据）
02-21
基于贝叶斯(bayes)优化卷积神经网络-长短期记忆网络(CNN-LSTM)回归预测，bayes-CNN-LSTM多输入单输出...评价指标包括:R2、MAE、MSE、RMSE和MAPE等，代码质量极高，方便学习和替换数据。 运行环境matlab2020b及以上。
（2022-03-10）龙芯LoongArch二进制翻译组件包 latx-1.1.3-alpha
03-19
龙芯LoongArch架构有支持二进制翻译的专用硬件指令，与配套的软件有机结合可以高效地翻译运行x86/arm等其它架构的应用程序。这是龙芯二进制翻译组件的软件部分，当前还是alpha版本，暂时只支持运行x86的应用程序。...
Inv_Stokes:通过逆斯托克斯公式将大地水准面波动转换为重力异常-matlab开发
05-29
此函数采用大地水准面波动网格，并使用带状 2D-FFT 方法将它们转换为重力异常值，以评估... 该代码是提供的公式的实现； Hirt, C.、Featherstone, WE 和 Claessens, SJ，2011 年。关于大地测量卷积积分的准确数值评估。
Android录音并且输出为Mp4文件的方法教程
08-27
Android录音并输出为Mp4文件的方法教程主要给大家介绍了关于Android录音并输出为Mp4文件的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值。 Android录音主要采用的是Audio...
UTM 坐标到球坐标的转换：Little GUI 允许您将 UTM 坐标转换为球坐标。-matlab开发
06-01
0. 语法：[long,lonm,lons,latg,latm,lats,Direction] = UTMIP(instruccion) 1.通过这个小程序，你可以得到UTM坐标到球坐标的变换或转换，你可以选择不同的椭球来执行转换。 2. 输入： x、y、utm 区域和半球。 3. ...
论文研究-基于LSTM神经网络融合用户相似性的移动轨迹预测 .pdf
08-14
基于LSTM神经网络融合用户相似性的移动轨迹预测，童凯南，林彦，随着智能设备和位置采集技术的普及，积累了大量轨迹数据。通过学习人群的移动轨迹，可以获得其移动规律，基于此信息进行地点预测
LSTM神经网络MATLAB
12-06
本资源是MATLAB代码，LSTM神经网络，用于预测分类。代码中numdely 是用前numdely个点预测当前点，cell_num是隐含层的数目，cost_gate 是误差的阈值。 直接在命令行输入RunLstm(numdely,cell_num,cost_gate)即可。
LATM格式
qingkongyeyue的博客
08-27 5022
LATM 的全称为“Low-overhead MPEG-4 Audio TransportMultiplex”（低开销音频传输复用）， 是MPEG-4 AAC制定的一种高效率的码流传输方式，MPEG-2 TS 流也采用LATM  作为AAC 音频码流的封装格式之 LATM格式也以帧为单位，主要由AudioSpecificConfig（音频特定配置单元）与音频负载组成。 AudioSpecif
AAC ADTS LATM 格式分析
couti0922的博客
03-07 504
一、ADTS格式：ADTS的全称是Audio Data Transport Stream。是AAC音频的传输流格式。AAC音频格式在MPEG-2（ISO-13318-7 2003）中有定义。AAC后来又被采用到MPEG-4标准中...
lstm训练推导过程及代码详细实现（转载）
cuipanguo的博客
09-12 1万+
https://zybuluo.com/hanbingtao/note/581764 写的真的很仔细，有兴趣的可以自己再推导一遍，并实现一下代码
TensorFlow学习（十三）：构造LSTM超长简明教程
谢小小XH
12-19 3万+
参考: Module: tf.contrib.cudnn_rnn Module: tf.contrib.rnn 更新: 2017.12.25 增加了tf.nn.embedding_lookup 来进行embedding的内容 2018.1.14 增加tf.sequence_mask和tf.boolean_mask 来对于序列的padding进行去除的...
latm header与 ADTS header之间的转换
daiyunping0402的博客
10-10 616
从目前手机的资料来看，大部分都是讲ADTS转换为LATM，却很少有资料将LATM的header转换为ADTS的header，虽然他们的原理是相同的，但是实际操作还是有些不一样 现在基于FFmpeg来做一套转码的程序如下： static int read_stream_mux_config(LATMContext *latmContext, GetBitContext *s){...
AAC LATM - 14496-3部分摘要
心宽体宽的宽宽
07-14 3122
概要 对于ISO/IEC 14496-3也就是MPEG-4的音频传输流，14496-3中定义了一个两层的实现：复用层和同步层。 复用层（Low-overhead MPEG-4 Audio Transport Multiplex: LATM）负责复用多路MPEG-4音频负载以及负载中的AudioSpecificConfig()元素。 同步层主要通过LOAS定义。同步层音频流（Low Ove
贝叶斯优化cnn-latm代码
最新发布
05-11
贝叶斯优化是一种优化算法，可以用来优化CNN-LSTM模型的代码。CNN-LSTM是一种常用的深度学习模型，用于序列数据的分类和预测，如情感分析、语音识别和机器翻译等领域。 贝叶斯优化可以在较少的迭代次数内找到最优的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值