【不定期更新】深度神经网络原理浅析

HJL

最近在研究某hk验证码时，先后几种轨迹模拟都被jy给ban了，于是开坑了解机器学习相关原理，顺便记录一下自己所学。
Part 1  神经网络的结构 我们来举个简单的例子，了解一下机器如何通过神经网络识别手写的数字。

这是一张28*28像素大小的图片，一共有784个像素点。
每个像素点在图中都标记了一个数字，它代表的是该处的像素亮度

熬夜

好透彻 有点懂了感谢大佬

Android玄机

不错 感谢

HJL

3.18在尝试用python还原反向传播的算法时遇到了点问题。
从输出层反向传递到中间层很好理解，期望值是明确的，但是由中间层向前面的中间层传递的时候，应该如何求权重对期望的导数呢

北夏

沙发 看看，很有意思哦

HJL

在神经网络的输出层中，我们用1个0-1之间的数来表示这个神经元的“激活值”，数字越大表明是这个神经元所对应数的可能性越高。
那么，如何获得最后一层神经元的激活值？
我们把激活值的概念推广到第一层，即输入层。

输入值记为a，称作“激活值”，可以理解为上图中每个像素的“亮度”

下一层的每个神经元都和上一层所有神经元相连接

每个神经元和上一层之间都有784条“线”，每条线都有一个“权重”w表示这条线对应的上层神经元对这个神经元的影响

上一层的所有激活值乘以其对应的下一层的神经元的权重，然后加和，算出它们的加权和。

有时，整个函数还需要一些人为的干预，可以在加权后面再加上一个“偏置”

用sigmoid函数把结果规整到（0，1）区间内

σ （加权和+偏置）即为这个神经元的最终激活值。（到这整个网络完成了一次前向传递）

smj328

沙发 看看，很有意思哦

HJL

如图所示的神经网络一共有四层，前三层每层都有784个节点，我们称为神经元，第四层有十个神经元，分别对应着0-9的十个阿拉伯数字，也就是我们需要的输出值。
第一层很好理解，它用于输入整个图片的信息，也就是上图中的“亮度”，我们暂且称为输入层
最后一层也很好理解，它是最终的结果，称之为输出层。
深度神经网络需要做的，就是通过中间这两层的函数，让计算机能够将图片信号输出为一个确定的阿拉伯数字。