machine-learning - 如何计算灰度图像中简单深度网络的参数数量

Question

如何计算灰度图像中CNN的权重数。

这是代码:

定义输入图像尺寸

input_shape = (32, 32, 1)
flat_input_size = input_shape[0]*input_shape[1]*input_shape[2]
num_classes = 4

简单的深度网络

dnn_model = Sequential()
dnn_model.add(Dense(input_dim=flat_input_size, units=1000))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=512))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=256))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=num_classes))
dnn_model.add(Activation("softmax"))

下图为网络图

这是结果

计数有人帮我计算参数的数量。 如何获取 1025000、512512、131328、1028，显示一些详细信息

Answer 1

对于带有偏置的密集层(偏置为+1)，计算如下:

(input_neurons + 1) * output_neurons

对于您的第一层来说，这是:

(32 * 32 + 1) * 1000 = 1025000

第二个:

(1000 + 1) * 512 = 512512

等等等等。

编辑答案以反射(reflect)评论中的其他问题:

对于卷积层，正如评论中所要求的，您尝试为每个输出 channel 的每个输入 channel 学习一个过滤器内核，并带有额外的偏差。因此其中的参数数量为:

kernel_width * kernel_height * input_channels * output_channels + output_channels = num_parameters

对于您的示例，我们将大小为 (None, 16, 16, 32) 的特征图转换为 (None, 14, 14, 64) 并使用 (3, 3) 内核，我们得到以下计算结果:

3 * 3 * 32 * 64 + 64 = 18496

这实际上是 CNN 中最重要的一点，参数的数量与图像大小无关。