端云协同服务部署
目录
1 端云协同服务简介
2 使用流程
2.1 发布端云协同部署包
2.2 新增设备并激活
2.2 下发部署包到设备并在本地调用
3 云端管理说明
3.1 模型部署包管理
3.1.1 发布及更新模型版本
3.2 本地设备管理
端云协同服务部署
端云协同服务简介
BML端云协同服务由EasyEdge端与边缘AI服务平台提供、基于百度智能边缘构建,能够便捷地将BML定制模型的推理能力拓展至应用现场,提供临时离线、低延时的计算服务。
「云管理,端计算」的端云协同服务,具体包括:
- 在可视化界面轻松实现模型部署包在边缘设备上的集成、版本更新
- 断网状态下模型离线计算(http服务,可调用与公有云API功能相同的接口)
- 联网状态下在平台管理设备运行状态、资源利用率
- 目前本地服务器的应用平台支持Linux-AMD64(x86-64),具体使用流程请参考下方文档。
使用流程
BML端云协同服务的使用流程总体可以分为发布端云协同部署包、新增设备并激活、下发部署包到设备并在本地调用三步,如下为详细介绍。
发布端云协同部署包
在我的部署包页面点击「发布端云协同部署包」。
填写服务名称,选择模型版本并提交发布。
在列表查看部署包发布状态。
新增设备并激活
点击进入『我的本地设备』页面。
在我的本地设备页面点击新增设备。
填写相关信息。
在列表中,点击设备对应的「激活设备」操作,复制激活命令并在本地设备上执行即可。
下发部署包到设备并在本地调用
在下发部署包到设备页面,将发布成功的部署包一键下发到已激活的设备上,即可测试或正式使用。
部署包下发成功之后,会在本地启动一个HTTP推理服务。在浏览器中输入"http://{设备ip}:{服务端口,默认8080}
",即可预览效果:
具体接口调用说明请参考文档 SDK - HTTP服务调用说明。
云端管理说明
BML为用户提供了云端管理端云协同服务的功能。
模型部署包管理
在我的部署包页面可以进行已发布的模型部署包的管理。
发布及更新模型版本
点击「发布新版本」操作即可快速发布对应模型ID下的新版本。同一模型ID下已发布的模型版本均会显示在列表的「当前可用版本」中。
新版本发布成功后,即可点击当前服务的「服务详情」页面,将新版本下发到本地设备上。
在上述的「服务详情」页面,可以查看并管理当前服务已部署的设备,包括移除设备、将服务下发到更多的设备等。
本地设备管理
在我的本地设备页面可以进行所有本地设备的管理。
点击单台设备的「服务详情」,可查看设备上运行的多个服务及设备状态: