交叉熵误差及编程

  只有掌握了深度学习的原理才能在人工智能的道路上走得更远，课程手把手带你掌握神经网络是如何学习的，经过学习训练的神经网络就具备了思考的大脑。课程通俗易懂地讲解所需的数学等理论知识，将数学知识应用到人工智能编程。

  在第一册里我们学会了搭建神经网络，在第二册我们让这个神经网络进行深度学习，深度学习的目的是让神经网络具备思考的大脑。神经网络只要有合适的参数，就可以思考。所以，学习的过程就是调整参数的过程。

为此，围绕着调整参数，整个课程大致分为5个部分，第一部分学习损失函数，损失函数把通过正向传播算法得到的输出与准备好的正确答案相比较，损失函数越大，说明神经网络的参数越不好，就需要调整，但是调整的值是多少。为此，就需要第二部分的数学知识：导数。损失函数对参数的导数，就是参数变化时反映损失函数的变化，导数的值就是调整的值；每次循环，让参数按导数的值调整，就是第三部分梯度下降法；训练神经网络需要大量的数据，我们实验用的数据来源可以是网上现成的，也可以自己制作；第四部分，万事俱备，我们让神经网络开始学习训练，对各个网络层中的权重和偏置的更新量进行求解，然后，再对各个网络层中所有的权重和偏置一点点地进行更新。