一、两个原则

• 平移不变性：平移不变性指系统对输入数据的平移变化具有鲁棒性。无论目标出现在图像的哪个位置，识别结果应保持一致。
• 局部性：局部性强调模型应优先关注输入数据的局部区域而非全局信息。

这两个原则为后续设计卷积奠定了基础。

二、重新考察全连接层

        我们曾经把图片的信息变换成一个向量来处理，但是现在还是需要把他们还原成矩阵，因为矩阵里存了一些空间的信息。因此我们把输入和输出从向量变形为有宽度和高度两个维度的矩阵。

        那对应的我们可以把权重变形为一个四维的张量（h,w）到（h',w'）

        其中h_i,j是我们的输出，w是我们全连接的权重。（i，j是位置，可以看作是坐标）（a，b是位移）v就是变换后的权重。

三、原则一：平移不变性

        现在有一个问题，我们输入（x）的平移，会导致输出h的平移，这就违背了我们的平移不变性。如果

        因此v不应该依赖于(i,j)。以下给出一个解决方案：
        V_i,j,a,b=V_a,b，即：

        就是不管i,j怎么变化，就是我输出的位置无论如何改变，我们去看的那个识别器还是不变的，这个就是二维卷积（在数学上叫做二维的交叉相关）

四、原则二：局部性

        假设我们要计算i,j这个输出，我们现在可以看以i,j为中心的输入，ab为范围的所有地方。但是事实上我们不应该看那么多地方。这个输出的结果，只需要i,j附近的这些地方的值就行了。具体实现如下：

        当|a|,|b|>Δ时，使得V_a,b=0.权重为0，就表示不看超过这个范围的值了。

五、总结

        对全连接层使用平移不变性和局部性得到卷积层，所以说卷积是一个特殊的全连接层