定制算子后的层优化问题

请教一下MegEngine的专家。我如果根据MegEngine的开源代码,定制了一个新的卷积层(比如在不同的tile有不同的quantize规则),在后续的MegEgine模型优化时是否还像标准卷积层一样自动做(类似层融合的)优化呢?我以前在CUDA下用TRT做过一些模型优化,但有些自己定制的层TRT就无法做自动优化了,需要自己手动写一些优化代码。

谢谢。

是想写一个实现该功能的特殊的conv吗?
如果仅实现这个算子而不改MegEngine的基础设施的话,大概率是不能做自动优化的,具体与实现方式相关。不能自动优化的意思是新实现的特殊conv和其他算子之间不能优化,但不影响模型中其他算子之间的优化行为。