神经网络在实际操作中也有相应的问题，例如结果可能停在局部最优解、训练结果可能出现过拟合的问题等。

2.4  梯度下降

在介绍BP神经网络之前，先要介绍一下梯度下降等回归预测的相关概念。