推理服务API V1介绍
更新时间：2024-11-15
千帆ModelBuilder提供了 Python、Go、Node.js 和 Java 等不同语言的 SDK，便于开发者使用，提升开发效率。平台支持通过 SDK 调用 API 能力，包括调用推理服务 API 和 平台功能 API。
- SDK调用推理服务API
SDK支持调用推理服务相关API，支持列表及调用文档请查看SDK功能列表。例如，支持调用对话Chat、续写Completions、向量Embeddings、图像Images、重排序Reranker、自定义模型、Token计算、批量预测等。