Prompt对象

from qianfan.common import Prompt
from qianfan.common.hub import hub

# 使用安全认证AK/SK鉴权，通过环境变量方式初始化；替换下列示例中参数，安全认证Access Key替换your_iam_ak，Secret Key替换your_iam_sk
os.environ["QIANFAN_ACCESS_KEY"] = "your_iam_ak"
os.environ["QIANFAN_SECRET_KEY"] = "your_iam_sk"

# 获取平台上的 Prompt，name 为控制台上显示的名称
p = hub.load("prompt/区域美食推荐")
print(p.template) # => 作为游客，告诉我{region}必吃的10大美食
# 第二个参数_是 negative prompt，仅文生图场景使用，此处可忽略
prompt, _ = p.render(region="上海")

# 之后就可以将渲染后的结果送入模型进行推理
qianfan.Completion().do(prompt)

QfResponse(
    code=200, 
    headers={
        ...
    }, 
    body={
        'id': 'as-4v1h587fyv', 
        'object': 'chat.completion', 
        'created': 1695021339, 
        'result': '你好，我是百度研发的知识增强大语言模型，中文名是文心一言，英文名是ERNIE Bot。我能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。', 
        'is_truncated': False, 
        'need_clear_history': False, 
        'usage': {
            'prompt_tokens': 7, 
            'completion_tokens': 67, 
            'total_tokens': 74
        }
    }, 
    )

# 使用安全认证AK/SK鉴权，通过环境变量方式初始化；替换下列示例中参数，安全认证Access Key替换your_iam_ak，Secret Key替换your_iam_sk

os.environ["QIANFAN_ACCESS_KEY"] = "your_iam_ak"

os.environ["QIANFAN_SECRET_KEY"] = "your_iam_sk"

# 文生图的 Prompt 使用方法相同，具体类型可以从控制台查看

txt2img_prompt = hub.load("prompt/角色设计")

# 类型通过变量属性获取

from qianfan.consts import PromptSceneType

txt2img_prompt.scene_type == PromptSceneType.Text2Image # => True

prompt, negative_prompt = txt2img_prompt.render()

# 之后将 prompt 和 negative_prompt 送入模型进行推理

qianfan.Text2Image().do(

    prompt=prompt, 

    negative_prompt=negative_prompt

)

QfResponse(code=200,
           headers={...},
           body={'created': 1111,
                 'data': [{'b64_image': 'xxxxx',
                           'image': 'xx',
                           'index': 1,
                           'object': 'image'}],
                 'id': 'as-xxx',
                 'object': 'image',
                 'usage': {'prompt_tokens': 28, 'total_tokens': 28}})

p = Prompt(
    template="本地 prompt {var1}",
)
# 或者具有更为复杂参数的 Prompt

# 文生图 Prompt 同样支持

from qianfan.consts import PromptSceneType
prompt = Prompt(
    name="txt2img",
    template="txt2img template ((v1))",
    scene_type=PromptSceneType.Text2Image, 
    negative_template="negative template ((v3))", # 负向 prompt
    identifier="(())", # prompt 中变量的标识符
)

from qianfan.common.hub import hub
# 获取平台上的 Prompt，name 为控制台上显示的名称
p = hub.load("prompt/区域美食推荐")

p = Prompt(
    template="本地 prompt {var1}",
)
# 对于平台上的 prompt 来说，name 是必须的，因此上传前必须先设置
p.name = "cookbook_prompt"
hub.push(p)
p.id # => 188

p.set_template("新的 Prompt {new_var}")

hub.push(p) # 更新至平台

print(p.variables) # => ['new_var']

print(p.render(new_var="hello")) # => 新的 Prompt hello

p=hub.load("prompt/cookbook_prompt")

p.delete()

p = Prompt(template="这是一个用于{usage}的 Prompt")

p.save_to_file("test_prompt.tpl")

p = Prompt.from_file("test_prompt.tpl")

prompt, _ = p.render(usage="测试")

print(prompt) # => 这是一个用于测试的 Prompt

prompt = Prompt(template="帮我写一份{job}年终总结")

optimized_prompt = prompt.optimize(
    optimize_quality=True,
    simplify_prompt=True,
    iteration_round=1,
    enable_cot=True,
    service_name='ERNIE-4.0-8k',
)
for attr, value in vars(optimized_prompt).items():
    if isinstance(value, (str, int, float, bool)):
        print(f"{attr}: {value}")

template: 请写一份今年年末的总结报告，包括以下几个部分：

1. 工作内容和职责：描述我今年在{job}方面的工作内容和职责，以及相关的任务和项目。

2. 成就和经验：总结我今年在{job}方面取得的成就和经验，包括完成的项目、解决的问题以及得到的反馈和认可。

3. 挑战和问题：讨论我今年在{job}方面面临的挑战和问题，并提出我采取的解决方案和未来的改进方向。

4. 学习和成长：描述我今年在{job}方面获得的学习和成长机会，包括参加的培训、掌握的技能和知识，以及如何应用这些知识和技能来改进我的工作。

请提供具体的细节和例子支持我的描述、讨论、挑战和问题、学习和成长等方面。同时，确保报告的结构清晰合理，包括适当的标题和小标题，以帮助读者更好地理解和阅读。让我们一步一步来思考

identifier: {}

type: PromptType.User

scene_type: PromptSceneType.Text2Text

framework_type: PromptFrameworkType.NotUse

_mode: local

old_prompt = Prompt(template="帮我写一份{job}年终总结")

new_prompt = old_prompt.optimize()

prompts= [old_prompt, new_prompt]   # 待评估的 prompt 列表
# 待评估的场景

scenes= [ 

    {
        "args": {"job": "程序员"},   # prompt 变量参数
        "expected": "代码"           # 期望得到的输出
    },

    {
        "args": {"job": "产品经理"},
        "expected": "用户量"
    }
]

# 用于评价的模型
model=Completion(model="ERNIE-3.5-8K")
results=Prompt.evaluate(prompts, scenes, model)

Prompt.PromptEvaluateResult(

    prompt=Prompt(template="帮我写一份{job}的年终总结"),

    scene=[
        {
            'new_prompt': '帮我写一份程序员的年终总结', 
            'variables': {'job': '程序员'}, 
            'expected_target': '代码', 
            'response': '模型生成的结果', 
            'score': 0.6395874962204592
        }
    ], 
    summary='模型对prompt的评价'
)