常见问题
关于模型精调闲时任务和推理部署限时优惠
Q:我看到平台有“闲时调度训练限时免费,推理部署资源低至3折”的活动,想问下整体活动时间是什么时候?
A:活动时间为11月13日-12月31日,包含闲时调度训练免费以及部署推理3折,以下信息请注意:
- 如您12月31日发起训练,请注意训练任务执行情况,确保不会因为任务超限执行导致您的账户发生相关付费。
-
部署服务时可以选择通过预付费或者后付费的方式购买算力资源:
- 预付费:一次性付费。购买时间在12月31日前享受三折。
- 后付费:根据资源的使用时长后付费。资源使用时间在12月31日前享受三折,资源使用时间在12月31日后恢复五折。
Q:什么叫做闲时调度训练免费?
A:闲时调度即任务提交后,等待平台资源空闲时进行调度,不保证资源的独占,训练过程中可能会被抢占,但会确保您的训练任务直至完成。
关于平台ERNIE系列模型刊例价调整
Q:价格调整对我会有什么影响?
A:本次价格调整涉及千帆 ModelBuilder ERNIE-4.0-8K、ERNIE-4.0-Turbo-8K、ERNIE-3.5-8K和ERNIE-3.5-128K四个系列模型的刊例价价格调整,调整后,刊例价降低,客户使用产品成本更低,涉及的付费模式包括:
- by tokens后付费模式
- tokens包预付费模式
Q:本次降价是长期的吗?
A:本次降价无时间限制,长期有效。
Q:模型降价后的新价格何时生效?
A:2024年9月27日00:00分新价格生效。
Q:我在降价前购买的 Tokens 预付费包,降价之后有补偿吗?
A:没有补偿,如果您在降价前7天内购买tokens包,且tokens未使用,可以申请全额退款。
关于搜索增强独立计费
Q:什么是搜索增强?
A:基于用户query,大模型自动判断是否触发搜索引擎查询相关文献,如果触发搜索引擎,则基于搜索结果进行总结回答。如果不触发搜索引擎,大模型直接回答。
Q:如何使用搜索增强?
A:ERNIE3.5、ERNIE4.0,ERNIE4.0 turbo 系列模型接口(包含Latest版本、preivew版本、带日期退役版本)支持搜索增强, 并且默认开启。
Q:搜索增强如何收费?
A:搜索增强包括两部分费用:
- 触发搜索按次收费:对大模型的调用,如果触发搜索增强能力,该次调用额外收取0.008元/次的费用;若没有触发,不产生额外费用,2024年10月31日起正式商用计费,在接口开通付费时自动开通此计费项。在大模型推理接口返回的
usage.search_count
当中体现。 - 触发搜索增强带来的Search Tokens收费:搜索增强能力会通过百度的搜索能力给大模型提供更多的文本输入,导致输入模型tokens增加,所以一旦触发搜索,客户的输入tokens也会相应增加。在大模型推理接口返回的
usage.prompt_tokens_details.search_tokens
当中体现。 - 完整可以参考文档:触发搜索token扩大及独立按次计费
Q:为什么搜索增强需要付费?
A:千帆大模型平台上的ERNIE 3.5、ERNIE 4.0 Turbo、ERNIE 4.0系列模型,搜索增强能力按次一直免费对外提供服务,从2024年10月31日起,正式恢复商业化收费。
Q:我不想使用搜索增强,如何关闭?
A:搜索增强默认开启,如果不想使用搜索增强,可以通过入参"disable_search": true
进行关闭。该参数在ERNIE3.5、ERNIE4.0、ERNIE4.0 Turbo 系列模型接口(包含Latest版本、preivew版本、带日期退役版本)当中生效。请求示例如下。查看示例接口文档。
curl --location 'https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-3.5-8k-preview?access_token={access_token}' \
--header 'Content-Type: application/json' \
--data '{
"messages": [
{
"role": "user",
"content": "24年中国奥运会奖牌数是多少"
}
],
"disable_search": true
}'
Q:计费模式调整后我使用同样的query,需要支付的价格会变高吗?
A:如果触发搜索增强,价格会变高,如果不触发搜索增强,价格保持不变。