qq_38874933的博客

原创 Tensorflow自定义激活函数/函数/梯度

Tensorflow自定义激活函数/函数/梯度(对于Tensorflow 1.x)最近刚做完一个paper，需要自定义激活函数，记录一下心得，顺便帮助下有需要的小伙伴。大刀阔斧，直接上解决方案：1、对于分段（激活）函数，代码分开写2、使用自带自定义梯度详解Tensorflow是自动求导（不懂就百度），因此我们不需要定义梯度，但大家可能会遇到和我一样的问题（在训练模型的时候loss爆炸）...