如何解决神经网络的准确性成为不变的问题？

Question

我使用一些简单的模型：

model = Sequential() 

model.add(Dense(12, input_dim=len(allKeys), activation='tanh', kernel_initializer='uniform')) 
model.add(Dense(31, activation='tanh')) 
model.add(Dense(N, activation='relu')) 

model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy']) 

model.fit(X, Y, epochs=500, batch_size=40) 

X.shape（31，147） Y.shape（31，13）

在X的值是0或一些下低于1.0 。 Y是稀疏阵列，一列中的一列是1，其余列是0.

acc始终低于0.25。大部分时间只是0.12。如果我添加丢失图层，我会发现acc值会发生变化，但不会超过0.25，大多数时候只会给出更糟糕的结果。

Epoch 290/500 31/31 [==============================] - 0s - loss：9.6283 - acc：0.1290 Epoch 291/500 31/31 [==============================] - 0s - loss： 9.6283 - acc：0.1290 Epoch 292/500 31/31 [==============================] - 0s - loss ：9.6283 - acc：0.1290

----------------------------更新后的代码---------- --------------------

model = Sequential() 

model.add(Dense(12, input_dim=len(allKeys), activation='tanh', kernel_initializer='uniform')) 
model.add(Dense(31, activation='tanh')) 
model.add(Dropout(0.2)) 
model.add(Dense(N, activation='softmax')) 

sgd = SGD(lr=0.001, momentum=0.3, decay=0.0, nesterov=False) 
model.compile(optimizer=sgd,loss='categorical_crossentropy',metrics=['accuracy']) 
one_hot_labels = to_categorical(Y, num_classes=N) 

model.fit(X, one_hot_labels, epochs=100, batch_size=40) 

Answer 1

尝试玩学习率。对于这种情况，我看起来像默认值太高。

Answer 2

基于行

model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy']) 

你打算做分类。如果是这样的话，你需要改变

model.add(Dense(N, activation='relu')) 

到

model.add(Dense(N, activation='softmax')) 

同时，确保在Y向量是一个热载体。您可以使用keras to_categorical函数实现此目的。