神经网络与深度学习

我们首先给出网络中权重的清晰定义。我们使用 表示从 层的 个神经元到 层的 个神经元的链接上的权重。例如，下图给出了 第二隐藏层的第四个神经元到第三隐藏层的第二个神经元的链接上的权 重： 这样的表示粗看比较奇怪，需要花一点时间消化。但是，后面你会发现 这样的表示会比较方便也很自然。奇怪的一点其实是下标 和 的顺序。 你可能觉得反过来更加合理。但我接下来会告诉你为什么要这样做。 我们对网络偏差和激活值也会使用类似的表示。显式地，我们使用 表 示在 层 个神经元的偏差，使用 表示 层 个神经元的激活值。下 面的图清楚地解释了这样表示的含义： ......