有关ON_INFER的日志问题
向上帝买的名字 发布于2020-05-27 13:59 浏览:112 回复:2
0
收藏

最近在研究情感分析的senta,先将senta服务部署在本地机器上执行预测,无多余日志输出:

2020-05-27 10:31:41,541-INFO: senta content is 其中质量最好的是传统美式肌肉车Challenger,最差的是Durango, cost: 0:00:01.293515
2020-05-27 10:31:41,546-INFO: 127.0.0.1 - - [27/May/2020 10:31:41] "POST /emotion_senta HTTP/1.1" 200 -

但是部署到远程服务器的docker上,在每次预测前会打印
The NaiveExecutor can not work properly if the cmake flag ON_INFER is not set.
Unlike the training phase, all the scopes and variables will be reused to save the allocation overhead.
Please re-compile the inference library by setting the cmake flag ON_INFER=ON if you are running Paddle Inference
这样的日志,导致每次预测返回时间都特别长,本地是windows机器,没有出现过这样的日志,本地预测在1s左右,远程服务器会达到5s以上


 服务器机器类型:centos:7.3  是用docker部署的,    paddlepaddle 是1.8.1的
本地windows: paddlepaddle是1.6.3的

有大佬可以请教一下吗

收藏
点赞
0
个赞
共2条回复 最后由鹿鼎记肯定回复于2020-05-27 19:30
#3鹿鼎记肯定回复于2020-05-27 19:30:16

辛苦提一下issue吧,让开发的小哥哥看看

https://github.com/PaddlePaddle/Paddle/issues

0
#2向上帝买的名字回复于2020-05-27 17:01:19

服务在进行懒加载,大概5分钟的样子,之后就不会报上述的日志了

0
TOP
切换版块