1. 模型
我在aiStudio上的项目跑出来了一个基于transformer的机器翻译模型:https://aistudio.baidu.com/aistudio/projectdetail/4489928
训练的代码都是和paddleNLP上的demo-transformer中的一样,最后输出的文件是如下2个:
transformer.pdopt
transformer.pdparams
2.问题
我直接使用CPU或者GPU进行预测可以成功,但是很慢,我想提升预测速度,就找paddle的一些组件,
看到paddleLite可以做优化,然后找到了这个FPGA硬件部署加速,
我已经将模型转换成了.nb格式的了,请问可以使用这个板子部署吗? 性能会是怎么样呢
收藏
点赞
0
个赞
请登录后评论
TOP
切换版块