tensorflow中tanh函数

引用API:tensorflow.math.tanh(x)

tanh函数

y=\frac{1-e^{-2x}}{1+e^{-2x}}

优点:收敛速度比sigmod函数快

          输出是0均值

缺点:函数导数输出为0~1,多次神经网络计算后可能趋向于0,产生梯度消失,无法继续更新参数

            幂运算复杂,训练时间长 

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐