为什么RNN使用交叉熵作为损失函数

Question

我对神经网络很陌生，想知道为什么所有RNN的例子，特别是char-rnns都使用交叉熵损失函数作为它们的损失函数。我已经使用了Google，但似乎无法在这方面讨论任何功能。我被要求激励它的使用，并且看它的优点和缺点，所以任何我可以通读的论文或来源都会受到重视。

Answer 1

许多序列到序列的RNN和char-rnn特别是一次产生一个项目的结果，换句话说，通过在每个时间步骤解决分类问题。

交叉熵损失是main choice做分类时，不管它是一个卷积神经网络（example），复发性神经网络（example）或一个普通的前馈神经网络（example）。如果您要编写解决回归问题的RNN，那么您将使用不同的损失函数，如L2损失。

以上所有示例均使用tensorflow和tf.nn.softmax_cross_entropy_with_logits损失。