食用指南

1.所有笔记和感想都在K-lab的jupyter里,由二级及以上标题且以注释两字开头,部分代码有注释,会先放出链接,需要的自取。
2.课后练习会放上题目和自己的答案解析(纯属瞎编,看看就好)

批量归一化和残差网络

1.K-lab链接:https://www.kesci.com/org/boyuai/project/share/8cb0df59a9174992

2.课后练习

nn.BatchNorm2d(6)的含义是
A. 全连接层的批量归一化,batchsize为6
B. 卷积层的批量归一化,batchsize为6
C. 全连接层的批量归一化,输出神经元个数为6
D. 卷积层的批量归一化,通道数为6
参考答案:D

解析:BatchNorm2d是放在卷积层之后的,所以是对卷积层的批量归一化。

关于BN层描述错误的是
A. 卷积层的BN位于卷积计算之后,激活函数之前。
B. 拉伸参数和偏移参数均为超参数。
C. 预测时用移动平均估算整个训练数据集的样本均值和方差。
D. BN层能使整个神经网络在各层的中间输出的数值更稳定。
参考答案:B

解析:

关于ResNet描述错误的是
A. 残差网络由多个残差块组成。
B. 在残差块中,输⼊可通过跨层的数据线路更快地向前传播。
C. 可以通过不断加深网络层数来提高分类性能。
D. 较普通网络而言,残差网络在网络较深时能更好的收敛。
参考答案:C

解析:劲酒虽好,可不要贪杯哦,残差块虽好,用多了会增加神经网络的规模,导致运算速度降低,甚至精度下降。

稠密连接网络过渡层中,1*1卷积层的主要作用是
A. 减小通道数
B. 增加通道数
C. 引入非线性
D. 代替全连接层
参考答案:A

解析:11卷积层的作用有2种,1是改变通道数,2是代替全连接层,稠密连接网络中的过渡层(transition layer)主要是用来控制通道数,使之不过大。所以这里11卷积层的作用就是减小通道数。

在稠密块中,假设由3个输出通道数为8的卷积层组成,稠密块的输入通道数是3,那么稠密块的输出通道数是
A. 8
B. 11
C. 24
D. 27
参考答案:D

解析:输出通道数=输入通道数+卷积层个数*卷积输出通道数

凸优化和梯度下降就不写了,so easy!

标签: none

添加新评论