全连接层的意思是这一层的输入层上每一个点与输出层上每一个点都直接相连。所以全连接层中使用到的参数是最多的,通常点到整个网络参数的大部分。全连接层的作用是对结果进行分类,比如图片是不是人脸,或者图片属于行人、汽车、道路还是建筑。

假设我们在前面的卷积层计算中,得到一个5 x 5的,16通道的输出,现在我们先将所有像素头尾相连起来,变成一个1通道的,长度为(5x5x16=400)的1维的数组,然后与长度同样为400的滤波器(这里不能称作卷积核了,因为没有卷积,虽然计算方式依然与卷积一模一样)进行相乘求和的计算,计算结果填入输出结果中。每一次计算仅产生一个结果值,有多少个滤波器,就产生多少个结果值,这些结果值排列起来,也可以看作是一个一维的数组。在这里,输出数组上的任意一个值都与输入数组上的每一个值相连接,同样地,输入数组上的任意一个值,都与输出数组上的每一个值相连接,所以叫全连接。

如图所未,在全连接层中,filter的大小与输入层完全一致,而输入层的大小则与filter的数量一致。每一次filter与输入层进行(卷积)计算之后在输出层只产生一个数值。

用另一种方式表示:

可以看出全连接层的计算量是最大的,所以一般网络中全连接层的层数不能设计得太多。