如何将激活正则化添加到张量流层

Question

某些模型（如稀疏自动编码器）需要激活正则化 但我找不到调整图层激活的API。

有什么方法可以添加自定义调节器？ 或者是层激活tf.trainablevariables？

我知道tensorflow的可重申请L2正规化

Answer 1

这真的取决于你想要达到什么：

• tf.contrib.layers.apply_regularization允许您在正则和一组张量相结合它应该被应用。
• tf.contrib.layers.l2_regularizer允许您定义应用l2的范围。
• 但是实际上，正规化者只是要加入成本函数的东西，所以添加到成本函数中的任何函数（张量）都可以被视为正则化函数并且将被考虑在内。