智能云进一步集成Arm虚拟硬件加速 AI创新
置顶
spcaiwh11910 发布于2024-03 浏览:5786 回复:0
2
收藏

继 Arm 虚拟硬件于 2023 年八月上线百度智能云后,近日,双方基于 Arm 虚拟硬件的合作再度迎来新里程!百度智能云 EasyDL 和 BML团队已对 Arm 虚拟硬件进行验证,将其应用于百度基于云原生的持续集成/持续部署 (CI/CD) 内部通路。

 

集成后,通过 EsayDL 和 BML 开发平台上的 Arm 虚拟硬件可以对软件模型进行功能性验证,并直接获得推理时间、性能等指标信息。同时,在开发软件的关键环节,包括软件和模型比较、筛选、调优等开发和测试工作上,Arm 虚拟硬件能带来全新高效的现代化云开发工作形式和流程,大幅提升开发效率。经整合测试,此次集成后的开发适配时间对比之前的模式可缩短一半以上,同时,还可省去后续维护大量硬件的时间与成本,进而让 AI 开发触手可及,积极助力拥抱 AI 时代。 

 

Arm 虚拟硬件 软件开发工作流的高效提速器

 

Arm 虚拟硬件能够助力软件开发者、OEM 厂商和服务提供商在无需等待实体芯片就绪的情况下,即可早于以往进行软件开发,摆脱实体硬件的限制,大幅提速软件开发流程、缩短验证时间,降低了相关成本。甚至当 Arm 发布全新 IP 或计算平台时,开发者可以马上启动软件开发工作,达到几乎同步的高效作业。

 

更重要的是,Arm 虚拟硬件引入了现代化、高弹性的软件开发环境,实现软硬件共同设计和高效的 CI/CD,消除了建立或维护多种开发板硬件集群的复杂性。依托于丰富的生态系统布局和广泛的基于 Arm 架构的海量应用设备, Arm 虚拟硬件具备更加广泛的适配性,尤其能为早期的模型和算法筛选与验证带来优势,为简化软件移植实现高效、大规模开发带来价值。

 

双向加持 轻松上手 AI 开发

 

百度 EasyDL 和 BML 平台支持在多种基于 Arm 架构的边缘设备上部署 AI 模型。对于边缘 AI 产品和应用开发者来说,在 EasyDL 和 BML 平台上完成了模型构建、训练和调优之后,则需要在实际边缘设备上进行性能测试和最终调优,以期在目标设备上实现最优性能,亦或是基于确定的性能指标来选择合适的硬件配置,乃至为全面权衡软硬件解决方案而重新筛选模型。而 Arm 虚拟硬件集成到百度云原生的 CI/CD 工作流中后,开发者可以在日常中使用其服务和工具进行软件的开发、验证、测试,而无需受限于实体硬件就绪情况,由此提高了 CI/CD 效率,加速了基于 Arm 边缘 AI 的开发和部署。

 

百度 AI 开发平台也在持续提供丰富的边缘设备库,随着全新 Arm 计算平台的不断推出及创新的边缘硬件不断面世,开发者期待在更多、更新的设备上进行测试开发的需求永无止尽。因应于此,基于云端的 Arm 虚拟硬件也在不断扩展以囊括全新虚拟设备和新增更多的模型,旨在第一时间带来更多的选择。

 

当前,各领域的行业应用正全面进入 AI 原生阶段,面向各 AI 应用进行深度的软硬件协同优化,提供更简单易用、高效、低成本、可扩展的开发过程至关重要。下一阶段,百度 AI 开发双平台集成 Arm 虚拟硬件将围绕业务场景和各领域的实际需求迈入应用阶段,通过释放双方的创新力,真正为更多的企业和开发者注入加速的 AI 能力,提供更高效、更便捷的 DevOps/MLOps 服务。

 

了解更多:

关于更多 Arm 虚拟硬件的产品订阅及实践指南,请扫码关注“Arm 社区”公众号,或点击请查看 Arm 虚拟硬件实践系列专题

收藏
点赞
2
个赞
TOP
切换版块