L07a-2 步长与补零:输出到底多大,数一数窗口能停几处
从窗口滑动的过程里数出输出尺寸公式 (N − F)/S + 1,看步长取多大会放不下,再讲四周补零怎样让尺寸不缩,以及不补零时图为什么缩得太快。
一句话版
卷积的输出有多大,取决于窗口在一行上能停几处。窗口每次跳的格数叫步长,跳得越大,停的地方越少。
把停的次数数清楚,就得到公式:输出边长 = (N − F)/S + 1。结果不是整数,说明窗口最后一跳会出界,这组设置不合法。
想让输出不缩小,就在输入四周补几圈 0。这一页从数位置讲起,推出公式,再讲补零。
前置:卷积窗口怎样一格一格滑,见上一页 L07a-1。
先认识这几个词
| 词 | 全称 / 读法 | 一句人话 |
|---|---|---|
| N | input size,输入边长 | 输入一行有几格(默认长宽一样) |
| F | filter size,滤波器边长 | 窗口一行占几格 |
| S | stride,步长 | 窗口每次往右(或往下)跳几格 |
| P | padding,补零圈数 | 输入四周补几圈 0 |
| 不合法 | doesn’t fit | 公式算出来不是整数,窗口最后一跳出界 |
| 零填充 | zero padding | 补的那几圈全是 0 |
一个类比:在一条走廊上铺地毯
走廊长 7 块地砖,你手里的地毯长 3 块。地毯必须整块铺在走廊里,不能伸出去。
你从走廊一头开始,每次把地毯往前挪 1 块地砖,拍一张照。第 5 张照片里,地毯的尾巴正好碰到走廊尽头,再挪就伸出去了。一共 5 张。
改成每次挪 2 块,能拍 3 张。改成每次挪 3 块,拍完第 2 张后,第 3 次要伸出去 2 块,没法拍,这种挪法就「放不下」。
想让照片张数和地砖数一样多,就在走廊两头各接一截假地砖,这就是补零。
类比在哪里失效:
- 走廊是一维的,图像是二维的。卷积在横向和纵向各数一次位置,两个方向用同一个公式。
- 补的「假地砖」在卷积里是数字 0,它会参与乘法,只是乘出来总是 0,不给结果添东西。
从零讲起
1. 步长:窗口一次跳几格
它解决什么问题
上一页的窗口每次只挪一格,输出和输入差不多大。有时想让输出小一些、算得快一些,就让窗口一次多跳几格。可跳多了会出界,要能事先算出输出多大、合不合法。
直觉
只看一行就够了。窗口的左边缘从第 1 格出发,每次往右跳 S 格。它最远能落在哪一格?右边缘不能超过最后一格,所以左边缘最远落在第 N − F + 1 格。
从第 1 格到第 N − F + 1 格,中间隔了 N − F 格。每跳一次走 S 格,能跳 (N − F)/S 次。再加上出发时那一处,一共 (N − F)/S + 1 处。
如果 N − F 不能被 S 整除,最后一跳就会越过终点,窗口伸出输入的边界。
一步一步看
目标:在 7 格宽的行上分别用步长 1、2、3 数窗口位置,看哪种步长放不下,再用公式核对。
拿一个 7 格宽的行、3 格宽的窗口,分别用步长 1、2、3 数位置。
-
步长 1:左边缘依次落在第 1、2、3、4、5 格。落到第 5 格时,窗口盖住第 5–7 格,右边缘贴住终点。共 5 处。
-
步长 2:左边缘落在第 1、3、5 格。第 5 格那一处盖住第 5–7 格,正好到头。共 3 处。
-
步长 3:左边缘落在第 1、4 格。下一跳落在第 7 格,要盖住第 7–9 格,可输入只有 7 格,出界了。最右那一列永远扫不全。
-
用公式核对:(7 − 3)/1 + 1 = 5,(7 − 3)/2 + 1 = 3,(7 − 3)/3 + 1 ≈ 2.33。前两个和数出来的一样,第三个不是整数,对应「放不下」。
怎么算
输出边长 = (N − F)/S + 1。
意思是:N − F 是窗口左边缘从起点到终点要走的总距离;除以 S,是要跳几次;加 1,是把出发时那一处也算上。纵向同理,用的是输入的高。
常见误解
以为算出 2.33 就向下取整成 2
本课件的口径是直接判为放不下(doesn’t fit)。出现小数,说明最后那一跳窗口会伸出边界,这组 N、F、S 搭配不合法,作答要写「不是整数,不合法」。
忘了那个 + 1
只算 (N − F)/S 数的是「跳了几次」,少了出发时那一处。步长 1 的例子里,跳 4 次,却停了 5 处。
试一下
9 格宽的行、3 格宽的窗口,步长 2。左边缘依次落在哪几格?输出多宽?
落在第 1、3、5、7 格,第 7 格那一处盖住第 7–9 格,正好到头。共 4 处。公式 (9 − 3)/2 + 1 = 4,对得上。
8 格宽的行、3 格宽的窗口,步长 2,合法吗?
(8 − 3)/2 + 1 = 3.5,不是整数,不合法。数位置也能看出来:左边缘落在第 1、3、5 格,下一跳落第 7 格要盖到第 9 格,出界。
2. 补零:在四周补几圈 0
它解决什么问题
不补零时,输出总比输入小。而且边上的像素只被窗口盖到一两次,中间的像素被盖到很多次,边缘信息用得少。补零能同时解决这两件事。
从哪来(补充)
补零(zero padding)是在输入的边缘补上通常为 0 值的像素。它的两个用途:保住边缘的信息,以及控制输出的尺寸。
出处:Wikipedia: Convolutional neural network
直觉
在输入的上下左右各补 P 圈 0,输入的边长从 N 变成 N + 2P。窗口现在可以「骑」在原图的边上,一半盖着原图,一半盖着补的 0。
补的 0 乘任何权重都是 0,不给点积添任何东西。它的作用只是给窗口多留出几个落脚的位置。
一步一步看
目标:给 7×7 输入四周补零后数窗口位置,看补几圈才能让输出和原图一样大。
-
原输入 7×7,滤波器 3×3,步长 1。不补零时输出 5×5,每边少了 1 格。
-
四周补 1 圈 0,输入变成 9×9。
-
在 9 格宽的行上数位置:左边缘落在第 1 到第 7 格,共 7 处。输出 7×7,和原图一样大。
-
换成 5×5 的滤波器,补 1 圈只能得到 (9 − 5)/1 + 1 = 5,又缩了。要补 2 圈:输入变成 11×11,(11 − 5)/1 + 1 = 7。
怎么算
补零后的输出边长 = (N + 2P − F)/S + 1;想在步长 1 时保持尺寸,取 P = (F − 1)/2。
意思是:补零只是把 N 换成 N + 2P,公式本身不变。步长 1 时要输出等于 N,就要 2P − F + 1 = 0,解出 P = (F − 1)/2。
常见误解
补零只加一次 P
上下左右都要补,左边补 P 圈、右边也补 P 圈,宽度加的是 2P。常见的错是写成 N + P。
以为滤波器边长取偶数也一样
F 是偶数时 (F − 1)/2 不是整数,没法两边补得一样多,窗口也没有正中心那一格。所以滤波器边长多取奇数:3、5、7。
试一下
输入 7×7,滤波器 7×7,步长 1。要保持 7×7 的输出,补几圈?
(7 − 1)/2 = 3 圈。验算:7 + 2×3 = 13,(13 − 7)/1 + 1 = 7。
3. 不补零会怎样:图缩得太快
它解决什么问题
卷积网络往往要叠很多层。如果每一层都让图缩一圈,叠不了几层空间就耗光了。这一节说清楚为什么实际网络多半要补零。
直觉
5×5 的滤波器、步长 1、不补零,每过一层宽高少 4。图从 32 开始,几层之后就小到放不下下一个滤波器。网络还没变深,信息先被削掉了。
补零让每层宽高不变,缩小这件事交给别的层(比如下一页的池化)专门来做,什么时候缩、缩多少就能自己控制。
一步一步看
目标:连续叠 5×5 卷积,对比不补零和每层补 2 圈零,看前者每层缩 4,后者尺寸一直不变。
-
输入 32×32,第一层 5×5 卷积、不补零:(32 − 5)/1 + 1 = 28。
-
第二层同样:(28 − 5)/1 + 1 = 24。
-
第三、四层:20、16。每层少 4。
-
照这样到第 7 层只剩 4×4,第 8 层就放不下 5×5 的滤波器了。
-
改成每层补 2 圈零:(32 + 4 − 5)/1 + 1 = 32,叠多少层都还是 32。
怎么判断
每层缩多少 = F − 1 − 2P(步长 1 时)。
看到一组卷积设置,先算这个数。它是 0,宽高不变;是正数,每层缩这么多,用层数乘一下就知道多少层后会耗尽。
常见误解
以为图缩小总是坏事
缩小本身不坏,网络最后要从整张图浓缩出一个类别。问题出在「缩得太快、又不受控」。实际做法是卷积层补零保持尺寸,再由池化层有计划地减半。
试一下
输入 32×32,每层用 3×3 滤波器、步长 1、不补零。三层之后多大?
每层少 2:32 → 30 → 28 → 26,三层之后 26×26。
把它们串起来
输出有多大,全看窗口在一行上停几处。左边缘从第 1 格出发,最远到第 N − F + 1 格,每次跳 S 格,一共停 (N − F)/S + 1 处。算出来是小数,就是窗口最后一跳出界了,这组设置不合法。
补零只是把 N 换成 N + 2P,公式一字不改。步长 1 时补 (F − 1)/2 圈,输出和输入一样大。这也是滤波器边长多取奇数的原因。
为什么非补不可?不补零的话,5×5 的卷积每层削掉 4,叠不了几层图就没了。补零把「保持尺寸」和「缩小」分开,前者交给卷积层,后者交给下一页的池化层。
两件事合起来,就是卷积层尺寸的总公式:(N + 2P − F)/S + 1,深度等于滤波器个数。下一页用它算参数量,再讲池化。
课件里的坑
- [读图提醒] p.14 的激活图是 28×28,课件要到 p.31 才给出公式解释这个 28。可以先跳到 p.31 看公式,再回头看 p.21–30 的逐格动画(p.14、p.31)。
- [读图提醒] p.31 的 + 1 课件没有解释来源。它是窗口出发时那一处位置,不算它会少数一格(p.31)。
- [口径] 步长 3 得 2.33 时,课件判为 doesn’t fit,不取整。有些深度学习框架会向下取整,考试按课件写「不合法」(p.29–31)。
- [课件留白] p.35 只写了 Shrinking too fast is not good, doesn’t work well,没有给出缩到多少会出问题;「7 层后剩 4×4」是按公式推出来的(p.35)。
课后 10 分钟:考点复习
这 10 分钟怎么用:合上页面,先在纸上画一行 7 格,用 3 格的窗口按步长 1、2、3 各数一遍位置;再默写两条公式;然后过课件例题;最后做变式题,每一问先写算式再下结论。
必背
- 不补零时输出边长 = (N − F)/S + 1:(N − F) 是窗口能挪的总距离,除以步长是挪的次数,加 1 是起点本身
- 7×7 输入、3×3 滤波器:步长 1 得 5,步长 2 得 3,步长 3 得 2.33,不是整数,这组设置放不下
- 补零后边长 = (N + 2P − F)/S + 1;步长 1 时补 (F − 1)/2 圈零宽高不变:F = 3、5、7 各补 1、2、3 圈
- 7×7 输入补 1 圈零、3×3 滤波器、步长 1,输出还是 7×7;滤波器边长取奇数,补零才能两边对称
- 不补零时 32 → 28 → 24 每层少 4,缩得太快效果差;32×32×3 用 10 个 5×5 滤波器、步长 1、补零 2,输出 32×32×10
课件例题
例 1(课件 p.21–31):7×7 输入、3×3 滤波器,步长 1、2、3 各得多大输出?
见下方完整例题。
例 2(课件 p.32–33):7×7 输入补 1 圈零,用 3×3 滤波器、步长 1,输出多大?
题面:课件提示回顾公式 (N − F)/stride + 1。
提示
补零之后 N 变成多少?上下左右都要补。
解答
补零后 N 变成 7 + 2 = 9,(9 − 3)/1 + 1 = 7,输出 7×7,和原输入一样大。
例 3(课件 p.34):步长 1 时补几圈零能让宽高不变?
题面:课件列了 F = 3、5、7 三种滤波器。
提示
把 P 代进 (N + 2P − F)/1 + 1,要求结果等于 N,解 P。
解答
补 (F − 1)/2 圈:F = 3 补 1,F = 5 补 2,F = 7 补 3。代入 (N + 2P − F)/1 + 1,P = (F − 1)/2 时结果正好是 N。F 为偶数时没法两边对称补,所以滤波器多取奇数。
例 4(课件 p.35):32×32 输入反复用 5×5 卷积、不补零,会怎样?
题面:课件回到两层卷积那张图,原话是 Shrinking too fast is not good, doesn’t work well。
提示
每层少多少?一直减下去,什么时候放不下 5×5?
解答
宽高 32 → 28 → 24,每层少 4。照这样推,7 层后只剩 4×4,第 8 层就放不下 5×5 的滤波器,网络还没变深空间就耗光了。
例 5(课件 p.36–37):32×32×3 输入、10 个 5×5 滤波器、步长 1、补零 2,输出多大?
题面:课件先问输出体积,下一页再问参数量(参数量见下一页)。
提示
F = 5 时补 2 正好是 (F − 1)/2。输出深度看滤波器个数。
解答
(32 + 2×2 − 5)/1 + 1 = 32,宽高不变;10 个滤波器给出深度 10。输出 32×32×10。
完整例题
题面(课件 p.21–31):7×7 输入,3×3 滤波器,不补零。步长分别取 1、2、3,输出多大?哪一种放不下?
解法:
- 数位置,步长 1:窗口左边缘可以落在第 1 到第 5 列,落到第 6 列右边缘就出界,横向 5 个位置,纵向同理,输出 5×5。
- 数位置,步长 2:左边缘落在第 1、3、5 列,共 3 个位置,输出 3×3。
- 数位置,步长 3:左边缘落在第 1、4 列,下一次落在第 7 列就出界,最右一列永远扫不全。课件判为 doesn’t fit。
- 用公式核对:(7 − 3)/1 + 1 = 5;(7 − 3)/2 + 1 = 3;(7 − 3)/3 + 1 ≈ 2.33,不是整数。
要点:(N − F) 是窗口能挪的总距离,除以步长是挪的次数,加 1 是起点本身。结果不是整数就是这组超参数不合法,课件不让你四舍五入。
答题格式:先写公式和代入,再写结论;放不下的那一问要明说「不是整数,不合法」,不要只写 2.33。
变式题(先自己做)
输入 11×11,3×3 滤波器。
(a) 不补零,步长 1、2、3、4 各得多大输出?哪个不合法? (b) 步长 1、补 1 圈零,输出多大? (c) 若换成 5×5 滤波器、步长 1,要补几圈零才能保持 11×11?
提示
(a) 先算 N − F = 8,再看 8 能不能被步长整除。(b) 补零后 N 变成 13。(c) 用 (F − 1)/2。
判分点与答案(非官方评分标准)
判分点:① 每问写出算式;② 步长 3 判为不合法而不是取整;③ 补零后的 N 要加 2P;④ (c) 给出公式再代数。
(a) 步长 1:8/1 + 1 = 9;步长 2:8/2 + 1 = 5;步长 3:8/3 + 1 ≈ 3.67,不合法;步长 4:8/4 + 1 = 3。
(b) (13 − 3)/1 + 1 = 11,输出 11×11,尺寸不变。
(c) (5 − 1)/2 = 2,补 2 圈。验算 (11 + 4 − 5)/1 + 1 = 11。
闪卡自测
1. 不补零时输出边长公式是什么?+ 1 是什么意思?
(N − F)/S + 1。+ 1 是窗口出发时那一处位置(p.31)。
2. 7×7 输入、3×3 滤波器,步长 1、2、3 分别得多大输出?
5、3、2.33。最后一个不是整数,课件判为放不下(p.31)。
3. 补零后的公式是什么?
(N + 2P − F)/S + 1,上下左右各补 P 圈,所以加 2P(p.33、p.40)。
4. F = 3、5、7 各补几圈零能保持尺寸?为什么滤波器常取奇数?
补 1、2、3 圈,即 (F − 1)/2。F 为偶数时 (F − 1)/2 不是整数,没法两边对称补(p.34)。
5. 为什么实际网络多数卷积层都补零?
不补零每层都缩,5×5 卷积每层少 4,缩得太快效果差(p.35)。
6. 32×32×3 输入、10 个 5×5 滤波器、步长 1、补零 2,输出多大?
32×32×10(p.36–37)。
下一讲
L07a-3 用同一道 32×32×3、10 个 5×5 滤波器的例题数参数量,讲常见的卷积设置和 1×1 卷积,再讲没有参数的池化层。去之前把两条尺寸公式默写一遍。
上一讲是 L07a-1:从全连接到卷积。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。