所以,我明白规范化对于训练神经网络很重要。规范Keras中的神经网络的验证集合
我也明白,我必须正常化validation-和测试设置与训练组的参数(例如见这个讨论:https://stats.stackexchange.com/questions/77350/perform-feature-normalization-before-or-within-model-validation)
我的问题是:如何做到这一点的Keras?
什么我目前做的是:
import numpy as np
from keras.models import Sequential
from keras.layers import Dense
from keras.callbacks import EarlyStopping
def Normalize(data):
mean_data = np.mean(data)
std_data = np.std(data)
norm_data = (data-mean_data)/std_data
return norm_data
input_data, targets = np.loadtxt(fname='data', delimiter=';')
norm_input = Normalize(input_data)
model = Sequential()
model.add(Dense(25, input_dim=20, activation='relu'))
model.add(Dense(1, activation='sigmoid'))
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
early_stopping = EarlyStopping(monitor='val_acc', patience=50)
model.fit(norm_input, targets, validation_split=0.2, batch_size=15, callbacks=[early_stopping], verbose=1)
但在这里,我首先正常化数据w.r.t.整个数据集和,然后拆分验证集,这是错误的根据上述讨论。
保存来自训练集(training_mean和training_std)的平均值和标准偏差并不是什么大问题,但我怎样才能将training_mean和training_std分别应用于验证集的归一化?