$$ f(x) = \frac{e^x-e^{-x}}{e^x+e^{-x}} $$

实际上,Tanh函数是Sigmoid函数的变形:
$$ Tanh(x) = 2Sigmoid(2x) - 1 $$
与Sigmoid函数不同的是,Tanh函数是“零为中心”的。因此在实际应用中,Tanh函数会比Sigmoid函数更好一些。但是在饱和神经元的情况下,Tanh函数还是没有解决梯度消失问题。
Tanh函数的输出间隔为1,并且整个函数以0为中心,比Sigmoid函数更好,但是Tanh函数依然存在两大缺点:
仍然存在梯度饱和的问题
依然进行的是指数运算