首页 > 编程笔记

什么是神经网络?

提到人工神经网络,经常会有图 1 所示的图。一般情况下,我们都会将此神经网络与生物学上的人的神经元联系起来。这样虽然很形象,但是不利于深入理解。因为这样一来就很难将神经网络和数学联系起来。那么神经网络的数学解释是什么呢?

神经网络
图1:神经网络
 
神经网络本质上是逻辑回归类型函数的组合,所以理解神经网络的关键就是理解逻辑回归。前面介绍了线性回归,然后讲解了逻辑回归,现在将讲解神经网络,这三者是一个从浅入深的过程。

逻辑回归就是浅层的神经网络(参见《逻辑回归算法》)。我们可以理解为,逻辑回归算法就是一个一层的神经网络,如图 2 所示。

神经网络与逻辑回归
图2:神经网络与逻辑回归
 
假设有如下的神经元,如图 3 所示。

逻辑回归
图3:神经网络样例

那么逻辑回归就是其中的一个节点,如图 4 所示。
逻辑回归与神经网络
图4:逻辑回归与神经网络的关系

优秀文章