python - Keras log_loss 错误是一样的

Question

我是 keras 和深度学习的新手。当我创建一个样本基本模型时，我拟合它并且我的模型的对数损失总是相同的。

model = Sequential()
model.add(Convolution2D(32, 3, 3, border_mode='same', init='he_normal',
                        input_shape=(color_type, img_rows, img_cols)))
model.add(MaxPooling2D(pool_size=(2, 2), dim_ordering="th"))
model.add(Dropout(0.5))
model.add(Convolution2D(64, 3, 3, border_mode='same', init='he_normal'))
model.add(MaxPooling2D(pool_size=(2, 2), dim_ordering="th")) #this part is wrong
model.add(Dropout(0.5))

model.add(Convolution2D(128, 3, 3, border_mode='same', init='he_normal'))
model.add(MaxPooling2D(pool_size=(2, 2), dim_ordering="th"))
model.add(Dropout(0.5))

model.add(Flatten())
model.add(Dense(10))
model.add(Activation('softmax'))

model.compile(Adam(lr=1e-3), loss='categorical_crossentropy')


model.fit(x_train, y_train, batch_size=64, nb_epoch=200,
               verbose=1, validation_data=(x_valid,y_valid))

训练 17939 个样本，验证 4485 个样本

纪元 1/200 17939/17939 [==============================] - 8s - 损失:99.8137 - acc:0.3096 - val_loss:99.9626 - val_acc: 0.0000e+00

纪元 2/200 17939/17939 [==============================] - 8s - 损失:99.8135 - acc:0.2864 - val_loss:99.9626 - val_acc: 0.0000e+00

纪元 3/200 17939/17939 [==============================] - 8s - 损失:99.8135 - acc:0.3120 - val_loss:99.9626 - val_acc: 1.0000

时代 4/200 17939/17939 [==============================] - 10s - 损失:99.8135 - acc:0.3315 - val_loss:99.9626 - val_acc: 1.0000

时代 5/200 17939/17939 [==============================] - 10s - 损失:99.8138 - acc:0.3435 - val_loss:99.9626 - val_acc: 0.4620

..

...

是这样的

你知道我哪里错了吗？

Answer 1

这种行为的一个原因可能是学习率太小。尝试使用 Adam(lr=1e-2) 或 Adam(lr=1e-1) 来提高学习率。另外，等待更多的迭代(epochs)，看看它是否有所改善。如果不是，您可以尝试减少 dropout。此外，如果您还没有规范化您的输入数据，我建议您规范化。