在实际业务场景中越来越多的企业选择将模型部署在本地进行应用,比如部署在本地服务器上或者智能摄像头等硬件设备端上。当本地设备越来越多或者模型频繁迭代时,如何快速高效的完成本地设备上的模型部署和迭代成为了企业开发者的一大难题。
为了解决这一问题, EasyEdge 重磅推出了端云协同服务,可以更加便捷的在云端完成AI模型服务在端/边缘设备的部署和设备管理。对比以往本地模型迭代方式,模型迭代效率从「小时级」提升至「分钟级」。
借助端云协同服务,开发者在云端平台中即可轻松实现模型部署包在边缘设备上的集成和版本更新,同时还可以在平台中管理设备运行状态并监控资源利用率。
下面一起来看下如何使用此服务⬇️
三步使用 EasyEdge 端云协同
Part 1.-发布端云协同部署包
通过EasyDL创建并训练模型后,可以在「我的部署包」页面,发布端云协同部署包(支持EasyEdge模型和EasyDL模型),填写服务名称,选择设备类型、操作系统和芯片并提交发布。
Part 2-新增设备并激活
在「我的本地设备」页面添加设备
添加后,在设备列表中,点击对应设备右侧的「激活设备」按钮,复制激活命令并在本地设备上执行即可激活设备。激活后可以在设备列表中查看具体设备详情,包含CPU、内存使用情况等信息。
Part 3-下发部署
在「 下发部署包到设备 」页面,将发布成功的部署包一键下发到已激活的设备上,即可进行测试或正式使用。
部署包下发成功之后,会在本地启动一个HTTP推理服务。在浏览器中输入http://{设备ip}:{服务端口,默认8080},即可预览效果:
以上,就完成了一次端云协同部署功能的使用。
关于 EasyEdge
EasyEdge是基于百度飞桨轻量化推理框架Paddle Lite研发的端与边缘AI服务平台,可基于多种深度学习框架、网络结构的模型,快捷转换发布适配多种AI芯片与操作系统的端/边缘计算模型,支持纯离线计算/端云协同服务。EasyEdge的全部功能服务已预置在零门槛AI开发平台EasyDL、全功能AI开发平台BML中,与模型训练环节紧密协同,提供一站式端到端的AI开发及离线推理服务。
立即体验
EasyEdge端与边缘AI服务平台:https://ai.baidu.com/easyedge
EasyDL零门槛AI开发平台:https://ai.baidu.com/easydl/
BML 全功能AI开发平台:https://ai.baidu.com/bml/
功能特色
零门槛:可视化操作,零代码即可轻松获取适配本地硬件的端/边缘计算模型
高性能:支持主流深度学习网络在15+主流AI芯片的适配,支持多种操作系统
广适配:深入研究每一款芯片特性,并通过量化裁剪技术,实现芯片上的最高性能
易集成:提供封装完善的本地部署包,提供全套示例工程和Demo,助力快速集成
如果你在使用中遇到了一些问题,欢迎在下方跟帖留言-
怎么在本地执行激活了
太棒了
厉害