双向长短时记忆循环神经网络详解（Bi-directional LSTM RNN）
发布时间：2021-02-20 01:07:20 所属栏目：大数据 来源：网络整理
导读：1. Recurrent Neural Network (RNN) 尽管从多层感知器（MLP）到循环神经网络（RNN）的扩展看起来微不足道，但是这对于序列的学习具有深远的意义。循环神经网络（RNN）的使用是用来处理序列数据的。在传统的神经网络中模型中，层与层之间是全连接的，每层之间
|
这两行公式的计算意义跟上一个相同，Forget Gate的输入来自于t时刻外面的输入，t-1时刻隐含单元的输出，以及来自t-1时刻Cell的输出。 Cells：
这部分有些复杂，Cell的输入是：t时刻Forget Gate的输出 * t-1时刻Cell的输出 + t时刻Input Gate的输出 * 激活函数计算（t时刻外面的输入 + t-1时刻隐含单元的输出） Output Gate:
这部分就同样好理解了：Output Gate的输入是：t时刻外面的输入，t-1时刻隐含单元的输出以及t时刻Cell单元的输出。 Cell Output:
最后，模块的输出是t时刻Output Gate的输出 * t时刻Cell单元的输出。 向后推算（Forward pass）：
Cell Output:
Output Gate:
Cells：
Forget Gate：
Input Gate:
（编辑：滨州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
