中说Z是定点数,但round(0-Xmin)/255 是浮点数吧,有点困惑。
有没有大佬可以帮我推导一下,X的范围[1,2],量化后的s、z、量化后的x、反量化后的x分别是多少?
感谢
量化原理中均匀量化方案中的推导问题
MegEngine/imperative/python/megengine/quantization/observer.py at master · MegEngine/MegEngine (github.com) 可以参考这里对 scale 和 zero point 的计算