Paddle Lite支持英伟达的Jetson硬件吗?
永无止境478 发布于2021-08-05 浏览:113 回复:1
0
收藏

Paddle Lite支持英伟达的Jetson硬件吗?

收藏
点赞
0
个赞
共1条回复 最后由旧鸱c_回复于2021-08-06
#2旧鸱c_回复于2021-08-06

对于英伟达的Jetson硬件,用户应该使用飞桨的原生推理库paddle inference。

使用Paddle Inference有两个优势:1. Paddle Inference是PaddlePaddle的原生推理库,与NV的Jeston硬件做了深度的适配,在该硬件上支持的所有Paddle原生的模型 2. 使用Paddle inference,可以利用TRT加速推理。 因为Jetson硬件本身是arm cpu+ NV gpu的异构硬件,如果只是使用Jetson的cpu做推理的话,是可以使用Paddle Lite的,但是显然,这样会浪费该硬件的GPU能力。

0
快速回复
TOP
切换版块