开放能力
开发平台
行业应用
生态合作
开发与教学
资讯 社区 控制台
技术能力
语音技术
图像技术
文字识别
人脸与人体识别
视频技术
AR与VR
自然语言处理
知识图谱
数据智能
场景方案
部署方案
行业应用
智能教育
智能医疗
智能零售
智能工业
企业服务
智能政务
智能农业
信息服务
智能园区
智能硬件
BML 全功能AI开发平台

    端云协同服务部署

    目录

    1 端云协同服务简介
    2 使用流程
    2.1 发布端云协同部署包
    2.2 新增设备并激活
    2.2 下发部署包到设备并在本地调用
    3 云端管理说明
    3.1 模型部署包管理
    3.1.1 发布及更新模型版本
    3.2 本地设备管理

    端云协同服务部署

    端云协同服务简介

    BML端云协同服务由EasyEdge端与边缘AI服务平台提供、基于百度智能边缘构建,能够便捷地将BML定制模型的推理能力拓展至应用现场,提供临时离线、低延时的计算服务。

    「云管理,端计算」的端云协同服务,具体包括:

    • 在可视化界面轻松实现模型部署包在边缘设备上的集成、版本更新
    • 断网状态下模型离线计算(http服务,可调用与公有云API功能相同的接口)
    • 联网状态下在平台管理设备运行状态、资源利用率
    • 目前本地服务器的应用平台支持Linux-AMD64(x86-64),具体使用流程请参考下方文档。

    使用流程

    BML端云协同服务的使用流程总体可以分为发布端云协同部署包、新增设备并激活、下发部署包到设备并在本地调用三步,如下为详细介绍。

    发布端云协同部署包

    在我的部署包页面点击「发布端云协同部署包」。

    step1-1.png

    填写服务名称,选择模型版本并提交发布。

    step1-2.png

    在列表查看部署包发布状态。

    step1-3.png

    新增设备并激活

    点击进入『我的本地设备』页面。

    step2-1.png

    在我的本地设备页面点击新增设备。

    step2-2.png

    填写相关信息。

    step2-3.png

    在列表中,点击设备对应的「激活设备」操作,复制激活命令并在本地设备上执行即可。

    step2-4.png

    step2-5.png

    下发部署包到设备并在本地调用

    在下发部署包到设备页面,将发布成功的部署包一键下发到已激活的设备上,即可测试或正式使用。

    step3-1.png

    step3-2.png

    部署包下发成功之后,会在本地启动一个HTTP推理服务。在浏览器中输入"http://{设备ip}:{服务端口,默认8080}",即可预览效果:

    step3-3.png

    具体接口调用说明请参考文档 SDK - HTTP服务调用说明

    云端管理说明

    BML为用户提供了云端管理端云协同服务的功能。

    模型部署包管理

    在我的部署包页面可以进行已发布的模型部署包的管理。

    发布及更新模型版本

    点击「发布新版本」操作即可快速发布对应模型ID下的新版本。同一模型ID下已发布的模型版本均会显示在列表的「当前可用版本」中。

    云端-1.png

    云端-2.png

    新版本发布成功后,即可点击当前服务的「服务详情」页面,将新版本下发到本地设备上。

    云端-3.png

    在上述的「服务详情」页面,可以查看并管理当前服务已部署的设备,包括移除设备、将服务下发到更多的设备等。

    云端-4.png

    本地设备管理

    在我的本地设备页面可以进行所有本地设备的管理。

    点击单台设备的「服务详情」,可查看设备上运行的多个服务及设备状态:

    本地-1.png

    本地-2.png

    上一篇
    软硬一体方案部署
    下一篇
    智能边缘控制台