【6.15升级】五步完成对话模型私有化部署
魏亚非669 发布于2020-06 浏览:5843 回复:10
3
收藏
最后编辑于2020-11

对话系统的搭建从大的阶段上分为三个步骤,第一阶段要进行业务梳理,设计对话逻辑,并整理业务数据;第二个阶段就是配置对话或问答技能,训练出一个可用的对话模型;第三阶段就是模型的部署和调用。在现实业务中,有很多场景对于训练数据的使用或者模型的调用数据存在比较敏感的情况,比如政府、金融等业务场景中的对话系统,常常需要在本地训练或者部署模型。为了满足多种业务场景的需要,百度大脑UNIT上线模型私有化流程,支持不同场景下的多种部署模式

UNIT平台私有化模式的优势

1.灵活选择部署模式,降低业务成本

UNIT平台私有化部署分为两种模式,开发者可以根据自己的业务和数据情况,灵活选择部署方式,减少不必要的成本。

  • 仅模型私有化部署:当业务场景中用于训练模型的数据不敏感,而实际使用的数据比较敏感时,可选择公有云训练模型,私有化部署模型的方式 ;
  • 平台整体私有化部署:当业务场景中用于训练和实际使用的数据都比较敏感时,可选择平台私有化的方式,模型训练和部署都在本地进行。

2.线上自助流程,缩短落地周期

通常情况下,对话类产品的私有化部署周期长,流程复杂,而UNIT平台将「仅模型私有化部署」的流程正式上线,让开发者能够通过线上线下结合的方式,五步实现私有化部署单个/多个技能,线上自助下载部署包,大大缩短了私有化部署的周期。

3.模型更新方便快捷,降低维护成本

模型私有化部署的方式,不仅支持开发者线上自助下载部署包部署至本地,当模型需要更新时,只需公有云再次训练模型,重新下载部署包,即可快速完成本地模型的更新迭代,降低维护成本。

「仅模型私有化部署」的整体流程

本次UNIT平台将「仅模型私有化部署」的流程正式上线,让开发者能够五步实现私有化部署单个/多个技能,整体流程如下:

第1步:提交私有化部署申请

申请的功能入口在UNIT平台【个人中心-我的服务】,选择私有化应用进行申请,添加需要部署的技能ID以及对应的机器指纹。

第2-3步:业务沟通,签订合同

申请提交以后,会有对应的工作人员与开发者沟通,并签订商务合同,合同中需明确出具体需要部署的技能ID与机器指纹。

第4步:审核部署需求

合同签订后,后台会进行快速审核,审核通过后即可下载部署包。

第5步:下载部署包并进行部署

在UNIT平台下载部署包,进行本地部署,支持单点部署和集群部署方式。如果需要更新模型,重新训练后下载新的部署包即可。

未来,平台会逐渐完善私有化部署功能细节,满足各种业务场景的部署需求。部署详情可以参考文档 https://ai.baidu.com/ai-doc/UNIT/9kgrrno08

收藏
点赞
3
个赞
共10条回复 最后由jillsisi回复于2020-11
#12jillsisi回复于2020-11

私有化部署怎么收费呢?

0
#11Randcase回复于2020-08

百度在这块做的还是比较牛的

0
#10wangwei8638回复于2020-07
#9 大手拉小手0123回复
什么时候能应用呢

现在可以调用

0
#9大手拉小手0123回复于2020-07
#7 贼JB666回复
越来越方便了

什么时候能应用呢

0
#7贼JB666回复于2020-06

越来越方便了

0
#6大手拉小手0123回复于2020-06

真的很厉害赞一个

0
#5用户已被禁言回复于2020-06

好厉害

0
#4wangwei8638回复于2020-06

学习了

0
#3johnnywaiting回复于2020-06

写的很清晰,懂啦!!!

0
#2淘米宝鼠回复于2020-06

越来越方便,赞一个

0
TOP
切换版块