更新时间:2026-07-28 GMT+08:00
分享

注意事项

  1. 本功能依赖于LLM/embedding/rerank模型服务正常运行。
  2. CREATE LLM/DROP LLM命令需要拥有sysadmin的用户权限。
  3. QUERY MODEL中调用的大语言模型需通过兼容OpenAI开放API中 v1/chat/completions API格式提供服务。
  4. EMBED MODEL中调用的embedding模型需通过兼容OpenAI开放API中 v1/embedding API格式提供服务。
  5. RERANK MODEL中调用的重排序模型需通过兼容Jina AI开放API中 /rerank API格式提供服务。
  6. 创建服务时会对API-KEY进行加密操作,原理是复用OBS传输使用的密钥文件。
  7. 服务仅支持https协议,需要用户配置系统可信的CA证书对服务端进行校验。
  8. 当前版本不支持M兼容模式。

相关文档