PaddleSlim与Paddle Lite、Paddle Inference对于量化的支持是怎么样的?
永无止境478 发布于2021-08-06 浏览:91 回复:1
0
收藏

PaddleSlim与Paddle Lite、Paddle Inference对于量化的支持是怎么样的?

收藏
点赞
0
个赞
共1条回复 最后由旧鸱c_回复于2021-08-06
#2旧鸱c_回复于2021-08-06

开发者可以通过PaddleSlim获得量化模型。Paddle Lite和Paddle Inferece对int8的量化支持是最为完备,因此推荐飞桨的开发者在实际使用中,使用int8量化。 另外,Paddle Inference还支持fp16的混合精度推理。

0
快速回复
TOP
切换版块