检测示例训练出 nan

#1

如下图所示，使用官方示例训练检测模型出 nan

image
image1032×1120 545 KB

环境：
ubuntu 16.04
cuda 10.0
cudnn 7.6
python 3.6

#2

感谢您的反馈，可否请您发一下您运行的代码或者脚本，我们尝试复现一下，如果有 bug，我们尽快修正

#3

使用的是你们 models 里的示例：https://github.com/MegEngine/Models/tree/master/official/vision/detection

#4

请尝试重跑一下。Models中focal loss的实现没有做一些边界控制（如 \log0 ），可能是导致nan的原因，您也可以先考虑自己加一下，后续我们会修正。