RNN 单步前向:隐状态融合记忆
当前输入
x
t
与上一刻记忆
h
t-1
融合,生成新隐状态
h
t
并输出
o
t
t-1
t ← 当前时刻
t+1
RNN cell
+
σh = tanh
h
t
x_t
当前输入
h_t-1
记忆
o_t softmax
加号 -->
U
加号 (循环箭头) -->
V
o_t -->
W
cell t-1
cell t+1
h_t → V
→ V
U · V · W 跨时刻共享
h
t
= σh(
U·x
t
+
V·h
t-1
+ b )
o
t
= softmax(
W·h
t
)
▶ 播放
单步
↺ 重置
点「▶播放」或「单步」开始
💡
h
t
= σ
h
(U·x
t
+ V·h
t-1
+ b)
:新隐状态 = 当前输入(cyan)与历史记忆(amber)经同一组共享参数融合而成(emerald),记忆沿 V 在时间轴上一直传递。