资讯 社区 文档
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术

推理日志投递与解绑

1、前置操作

开通BLS服务

若您之前未开通过BLS,您可以通过BLS 开通日志服务 image.png 注:BLS需要按照地域开通,请确保已经开通需要投递日志集的地域

日志索引配置

千帆开启日志投递后,会默认帮用户创建如下索引配置字段:

索引名称 含义
requestid 请求id
ip 请求客户端ip地址
timestamp as侧收到请求的时间戳
asid as侧请求唯一标识
appid 千帆应用接入app的id
account_id 用户id
account_type 账号类型,passport/uc
disposal 安全模块的处置方式, 0-正常回复, 1-会话终止,且有输出,* 2-会话直接无输出
url 请求服务的endpoint
model API name, v1接口为空 v2接口有参数
appid 千帆应用接入app的id
request 请求信息
response 返回信息

下面是一个完整示例日志,可以按照完整日志的字段自行增加索引

requestid: d866a36c5b56a365cd8316db9b03d78a1001658 ip: 10.220.107.124 timestamp: 1725947457 asid: as-zc7ywt14c5 appid: 41870942 project_id: account_id: 2735845434 account_type: passport disposal: 0 url: /rpc/v1/wenxinworkshop/chat/completions_pro model: request: {"header":null,"body":{"enable_citation":false,"enable_rethink":false,"enable_state":false,"enable_trace":false,"enable_tts":false,"enable_vilg":false,"extra_parameters":{},"messages":[{"content":"\n你是一个专业的视觉设计师,x","role":"user"}],"model":"","source":0,"stream":false,"temperature":1e-9,"top_p":0,"user_id":""}} response: {"status":200,"header":{},"body":{"id":"as-zc7ywt14c5","object":"chat.completion","created":1725947458,"result":"```json\n{\"objects\": []}\n```","usage":{"prompt_tokens":1036,"completion_tokens":10,"total_tokens":1046}}}

若您需要自行增加额外索引,可以通过BLS索引管理自行添加索引配置,也可以自行开关索引。

注:新增索引或开关索引,仅支持对新写入的数据进行日志原文索引查询 image.png

更多操作指南可以参考BLS文档:BLS日志服务

2、 千帆侧操作指南

千帆支持将按照服务粒度投递推理日志到BLS,支持投递日志到指定地域及指定日志组。

预置服务

开启日志投递

step1: 选择需要绑定日志集

进入到预置服务列表,找到需要投递日志的预置服务,点击日志投递,投递该服务的推理服务日志 image.png

step2: 选择需要投递的地域、日志组和日志集

千帆默认会创建名为 qianfaninference_logs{用户cloudid} 的日志集,您也可以选择将日志投递到已有的日志集。 image.png

step3: 点击确认按钮,即可投递

查看日志投递信息

若显示日志解绑,则代表该服务已经开始日志投递,鼠标hover日志解绑链接,则会显示bls日志信息及日志集链接。点击链接跳转后,需要在bls页面手动切换地域至日志集投递地域。 image.png

日志解绑

点击日志解绑按钮,即可停止推理日志投递,解绑后的服务支持重新绑定新日志集 image.png

我的服务

创建定制服务时投递日志

step1:完成基本信息、付费信息、资源信息填写后,点击开启日志投递按钮

image.png

step2:选择需要投递的地域、日志组和日志集

千帆默认会创建名为 qianfaninference_logs{用户cloudid} 的日志集,您也可以选择将日志投递到已有的日志集。 image.png

step3:点击确定按钮,推理日志即可投递至指定BLS日志集

为已创建的定制服务投递日志

step1:在我的服务列表页,找到需要投递日志的定制服务,点击日志投递,开启日志投递 image.png step2:选择需要投递的地域、日志组和日志集 image.png step3:点击确定按钮,推理日志即可投递至指定BLS日志集

查看日志投递信息

在我的服务列表页,点击详情,即可查看bls日志集信息及日志集链接。点击链接跳转后,需要在bls页面手动切换地域至日志集投递地域。 4bb7608fadf3c1d7270f84bb25845e82.png

image.png

日志解绑

点击日志解绑按钮,即可停止推理日志投递,解绑后的服务支持重新绑定新日志集

上一篇
批量推理
下一篇
模型训练