训了三天模型,不管怎么改,损失函数的变化都很诡异……
主要的两个损失倒是看着比较正常,一开始都是 0.几,后面看收不收敛。
但是另外一个管记忆模块的损失就看不明白了,写了两种模式,但是一个只有 0.003几,另一个是 1万多…….
训一个 epoch 要一个小时,总的 _loss 还是在降的(但是偶尔会跳回去),如果思路和代码都没问题的话只能看结果怎么样了。
前几天训的更诡异,根本不收敛,训到 20多个 epoch 紧急叫停了,拿来跑测试, AUC 直接比瞎猜的 50% 还低,只能先拆掉一部分,一个模块一个模块的测试….