更新时间:2024-11-21 GMT+08:00
分享

配置Prompt(Python SDK)

提示词模板模块提供模板格式化、自定义配置管理功能。

  • 模板格式化
    from langchain import PromptTemplate
    from pangukitsappdev.api.llms.factory import LLMs
    from pangukitsappdev.api.llms.llm_config import LLMConfig, LLMParamConfig
    # 初始化Prompt模板对象
    prompt_template = PromptTemplate.from_template("Tell me a {{adjective}} joke about {{content}}", template_format="jinja2")
    
    # 支持dict格式匹配替换Prompt模板
    format1 = prompt_template.format(**{"adjective": "funny", "content": "chickens"})
    assert "Tell me a funny joke about chickens" == format1
    
    # 支持**kwargs匹配替换Prompt模板
    format2 = prompt_template.format(adjective="funny", content="chickens")
    assert "Tell me a funny joke about chickens" == format2
  • 自定义prompt
    # 按约定的格式准备prompt文件; 
    # 文档结构和文件名参考提供的系统预置prompts文件
    
    文档结构示例:
    ……
      prompts
        -- default
          -- documents
            -- stuff.pt
    # 配置sdk配置项,指定prompt文件绝对路径,以 /home 路径为例
    
    sdk.prompt.path=/home/prompts/default

相关文档