资讯 社区 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

端云协同服务部署

目录

1 端云协同服务简介
2 使用流程
2.1 发布端云协同部署包
2.2 新增设备并激活
2.2 下发部署包到设备并在本地调用
3 云端管理说明
3.1 模型部署包管理
3.1.1 发布及更新模型版本
3.2 本地设备管理

端云协同服务部署

端云协同服务简介

BML端云协同服务由EasyEdge端与边缘AI服务平台提供、基于百度智能边缘构建,能够便捷地将BML定制模型的推理能力拓展至应用现场,提供临时离线、低延时的计算服务。

「云管理,端计算」的端云协同服务,具体包括:

  • 在可视化界面轻松实现模型部署包在边缘设备上的集成、版本更新
  • 断网状态下模型离线计算(http服务,可调用与公有云API功能相同的接口)
  • 联网状态下在平台管理设备运行状态、资源利用率
  • 目前本地服务器的应用平台支持Linux-AMD64(x86-64),具体使用流程请参考下方文档。

使用流程

BML端云协同服务的使用流程总体可以分为发布端云协同部署包、新增设备并激活、下发部署包到设备并在本地调用三步,如下为详细介绍。

发布端云协同部署包

在我的部署包页面点击「发布端云协同部署包」。

step1-1.png

填写服务名称,选择模型版本并提交发布。

step1-2.png

在列表查看部署包发布状态。

step1-3.png

新增设备并激活

点击进入『我的本地设备』页面。

step2-1.png

在我的本地设备页面点击新增设备。

step2-2.png

填写相关信息。

step2-3.png

在列表中,点击设备对应的「激活设备」操作,复制激活命令并在本地设备上执行即可。

step2-4.png

step2-5.png

下发部署包到设备并在本地调用

在下发部署包到设备页面,将发布成功的部署包一键下发到已激活的设备上,即可测试或正式使用。

step3-1.png

step3-2.png

部署包下发成功之后,会在本地启动一个HTTP推理服务。在浏览器中输入"http://{设备ip}:{服务端口,默认8080}",即可预览效果:

step3-3.png

具体接口调用说明请参考文档 SDK - HTTP服务调用说明

云端管理说明

BML为用户提供了云端管理端云协同服务的功能。

模型部署包管理

在我的部署包页面可以进行已发布的模型部署包的管理。

发布及更新模型版本

点击「发布新版本」操作即可快速发布对应模型ID下的新版本。同一模型ID下已发布的模型版本均会显示在列表的「当前可用版本」中。

云端-1.png

云端-2.png

新版本发布成功后,即可点击当前服务的「服务详情」页面,将新版本下发到本地设备上。

云端-3.png

在上述的「服务详情」页面,可以查看并管理当前服务已部署的设备,包括移除设备、将服务下发到更多的设备等。

云端-4.png

本地设备管理

在我的本地设备页面可以进行所有本地设备的管理。

点击单台设备的「服务详情」,可查看设备上运行的多个服务及设备状态:

本地-1.png

本地-2.png

上一篇
软硬一体方案部署
下一篇
智能边缘控制台-单节点版