激活函数对比 & Softmax 温度演算器
第2章 · 从线性回归到神经网络。左边看 Sigmoid / Tanh / ReLU / LeakyReLU 的形状与导数(饱和区、死亡ReLU),右边玩 Softmax 温度:同一组 logits 如何随温度变尖或变平。
激活函数曲线
Softmax 温度演算
softmax(zi) = e(zi/T) / Σk e(zk/T)
纯前端计算 · 单文件自包含 · 概念/公式据《05 激活函数》《07 多分类与交叉熵》课程笔记