神经网络中常用的激活函数有哪些？

神经网络中常用的激活函数包括sigmoid、ReLU (Rectified Linear Unit)和tanh(双曲正切)。Sigmoid将任何输入值映射到0到1之间的值，通常用于二进制分类问题的输出层。ReLU将任何小于0的输入值映射为0，将任何大于等于0的输入值映射为输入值本身，这有助于缓解梯度消失问题。Tanh将任何输入值映射到-1到1之间的值，通常用于网络的隐藏层。