Как сказать Keras прекратить обучение, основанное на стоимости потерь?

В настоящее время я использую следующий код:

callbacks = [
    EarlyStopping(monitor='val_loss', patience=2, verbose=0),
    ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0),
]
model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch,
      shuffle=True, verbose=1, validation_data=(X_valid, Y_valid),
      callbacks=callbacks)

Он говорит Keras прекратить тренировку, когда потеря не улучшилась за 2 эпохи. Но я хочу прекратить тренировку после того, как потеря стала меньше некоторой постоянной "THR":

if val_loss < THR:
    break

Я видел в документации есть возможность сделать свой собственный обратный вызов: http://keras.io/callbacks/ Но ничего не найдено, как остановить тренировочный процесс. Мне нужен совет.

Ответ 1

Я нашел ответ. Я заглянул в источники Keras и узнал код для EarlyStopping. Я сделал свой собственный обратный вызов, основываясь на нем:

class EarlyStoppingByLossVal(Callback):
    def __init__(self, monitor='val_loss', value=0.00001, verbose=0):
        super(Callback, self).__init__()
        self.monitor = monitor
        self.value = value
        self.verbose = verbose

    def on_epoch_end(self, epoch, logs={}):
        current = logs.get(self.monitor)
        if current is None:
            warnings.warn("Early stopping requires %s available!" % self.monitor, RuntimeWarning)

        if current < self.value:
            if self.verbose > 0:
                print("Epoch %05d: early stopping THR" % epoch)
            self.model.stop_training = True

И использование:

callbacks = [
    EarlyStoppingByLossVal(monitor='val_loss', value=0.00001, verbose=1),
    # EarlyStopping(monitor='val_loss', patience=2, verbose=0),
    ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0),
]
model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch,
      shuffle=True, verbose=1, validation_data=(X_valid, Y_valid),
      callbacks=callbacks)

Ответ 2

У keras.callbacks.EarlyStopping callback есть аргумент min_delta. Из документации Keras:

min_delta: минимальное изменение в контролируемой величине, чтобы квалифицироваться как улучшение, то есть абсолютное изменение меньше min_delta, не будет считаться улучшением.

Ответ 3

Одним из решений является вызов model.fit(nb_epoch=1, ...) внутри цикла for, тогда вы можете поместить оператор break внутри цикла for и выполнить любой другой пользовательский поток управления, который вы хотите.