是否支持paddle训练出来的自定义模型
SCzdk49 发布于2022-09 浏览:417 回复:0
0
收藏

1. 模型

我在aiStudio上的项目跑出来了一个基于transformer的机器翻译模型:https://aistudio.baidu.com/aistudio/projectdetail/4489928

训练的代码都是和paddleNLP上的demo-transformer中的一样,最后输出的文件是如下2个:

transformer.pdopt

transformer.pdparams


2.问题
我直接使用CPU或者GPU进行预测可以成功,但是很慢,我想提升预测速度,就找paddle的一些组件,

看到paddleLite可以做优化,然后找到了这个FPGA硬件部署加速,

我已经将模型转换成了.nb格式的了,请问可以使用这个板子部署吗? 性能会是怎么样呢

收藏
点赞
0
个赞
TOP
切换版块