循环神经网络(RNN、LSTM、GRU)---------Pytorch

# 处理不定长输入
# 时间序列任务(输入数据具有前后关系)
1、RNN
    # input_size:输入x的特征数量
    # hidden_size:隐藏层的特征数量
    # num_layers:RNN层数
    # nonlinearity:默认tanh,非线性函数使用tanh还是relu
    # bias:默认True,是否使用偏置
    # batch_first:默认False[即(序列长度seq,批大小batch,特征维度feature)];若True则(batch,seq,feature)
    # dropout:缺省值为0,表示不使用dropout层;若为1,则除最后一层外,其它层的输出都会加dropout层
    # bidirectional:默认False;True表示使用双向rnn
    self.rnn = torch.nn.RNN(input_size,hidden_size,num_layers,
        nonlinearity='tanh',bias=True,batch_first=False,dropout=0,bidirectional=False)
    # output,h_n = self.rnn(X)

2、LSTM
    self.lstm = torch.nn.LSTM(input_size,hidden_size,num_layers)
    # output,h_n = self.lstm(X)
    # output,(h_n,h_c) = self.lstm(X)

3、GRU
    self.gru = torch.nn.GRUCell(input_size,hidden_size,num_layers)
    # output,h_n = self.gru(X)

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RNN-BiLSTM的全称是循环神经网络双向长短期记忆网络(Recurrent Neural Network Bidirectional Long Short-Term Memory)。它是一种特殊类型的循环神经网络RNN),通过使用双向的长短期记忆网络(LSTM)来学习长期依赖信息。BiLSTM模型在捕捉文本信息时比单向的LSTM更全面,能够同时捕捉到正向和反向的信息,从而提高了模型的效果。BiLSTM网络在最终的输出层后面通常会增加一个线性层,用于将BiLSTM隐藏层的输出结果投射到具有某种表达标签特征意义的区间。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [PytorchRNNLSTMGRU、Bi-GRU、Bi-LSTM、梯度消失、梯度爆炸](https://blog.csdn.net/zimiao552147572/article/details/105520740)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [BiLSTM_RNN-LSTM_RNN_short_lstm神经网络_LSTM](https://download.csdn.net/download/weixin_42696271/22387288)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [NLP在线医生-BiLSTM+CRF命名实体识别(二)](https://blog.csdn.net/sinat_28015305/article/details/109551176)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值