模型服务接口v2版本发布通告
更新时间：2024-11-06
V2版本模型服务API全新发布
尊敬的用户，
我们很高兴地宣布，千帆Modelbuilder V2版本模型服务API正式上线！此次升级带来了多项重要改进和优化，且完全兼容OpenAI标准（包含身份认证、接口协议），使您的使用体验更加便捷高效。
V2版本有哪些重要升级？
1. 域名调整
为了让您有更一致的使用体验，V2版本的模型服务API域名将全部迁移至 https://qianfan.baidubce.com/v2/{modelCategory} ，我们将分阶段上线不同模型分类的V2版本API，本次升级优先支持ERNIE系列模型预置服务。
详细范围包括：
| 模型系列 | 模型 |
|---|---|
| ERNIE 4.0 | ernie-4.0-8k-latest \ ernie-4.0-8k-preview \ ernie-4.0-8k |
| ERNIE 4.0 Turbo | ernie-4.0-turbo-8k-latest \ ernie-4.0-turbo-8k-preview \ ernie-4.0-turbo-8k \ ernie-4.0-turbo-128k |
| ERNIE 3.5 | ernie-3.5-8k-preview \ ernie-3.5-8k \ ernie-3.5-128k |
| ERNIE Speed | ernie-speed-8k \ ernie-speed-128k \ ernie-speed-pro-8k |
| ERNIE Lite | ernie-lite-8k \ ernie-lite-pro-128k |
| ERNIE Tiny | ernie-tiny-8k |
| ERNIE Character | ernie-char-8k \ ernie-char-fiction-8k |
| ERNIE Novel | ernie-novel-8k |
2. 接口协议升级
v2版本接口协议对齐OpenAI接口协议，且完全适配OpenAI SDK，您可以直接使用OpenAI SDK调用v2版本的模型服务。例如支持在请求Body中通过入参 “model” 指定您想要调用的模型，而在V1版本中，调用不同的模型需要切换至不同的API地址。
3.鉴权方式升级
V2 版本将接口鉴权方式由原有的“访问凭证access_token鉴权”升级为“IAM Bearer Token鉴权”，新的鉴权方式对齐行业标准OpenAI认证方式。
如何开始使用 V2 版本
1. 直接使用Https请求调用
更详细的使用说明和示例代码您可以查阅接口文档。
curl --location 'https://qianfan.baidubce.com/v2/chat/completions'
--header 'Content-Type: application/json'
--header 'appid: app-tODvu5IS'
--header 'Authorization: Bearer bce-v3/ALTAK-*********/614fb**********'
--data '{
"model": "ernie-3.5-8k",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "写一首诗"
}
],
"stream": false
}'2. 通过千帆SDK调用
- 我们将在近期支持通过SDK调用V2版本API接口，请确保您使用的是最新版本的SDK。
3. 通过OpenAI SDK调用
- V2版本推理接口兼容OpenAI，您可以直接使用OpenAI SDK访问千帆的模型服务。
from openai import OpenAI
client = OpenAI(
api_key="bce-v3/ALTAK-KZke********/f1d6ee*************", # bearer token
base_url="https://qianfan.baidubce.com/v2", # 服务域名
default_headers={"appid": "app-MuYR79q6"} # appid，非必传
`)
completion = client.chat.completions.create(
model="ernie-4.0-turbo-8k", # api名称
messages=[{'role': 'system', 'content': 'You are a helpful assistant.'},
{'role': 'user', 'content': '你是谁？'}]
)
print(completion.choices[0].message)迁移指南
您可以升级调用千帆模型预置服务接口的业务代码，已经购买TPM配额在V1与V2之间共享。
用户支持
我们非常推荐您试用全新 V2 版本API进行模型服务调用，同时我们也将预留足够长的接口过渡时间以便您能顺利的将业务迁移或调整至新接口，V1版本模型服务API不受本次升级影响，您可继续使用。
如您在升级或使用过程中遇到任何问题，欢迎随时联系我们的技术支持团队，我们将竭诚为您服务。
同时，
再次感谢您对我们产品的支持与信赖。我们将继续致力于为您提供更优质的服务和体验。
祝您使用愉快！
[千帆Model Builder团队]