更新时间:2026-07-28 GMT+08:00
注意事项
- 本功能依赖于LLM/embedding/rerank模型服务正常运行。
- CREATE LLM/DROP LLM命令需要拥有sysadmin的用户权限。
- QUERY MODEL中调用的大语言模型需通过兼容OpenAI开放API中 v1/chat/completions API格式提供服务。
- EMBED MODEL中调用的embedding模型需通过兼容OpenAI开放API中 v1/embedding API格式提供服务。
- RERANK MODEL中调用的重排序模型需通过兼容Jina AI开放API中 /rerank API格式提供服务。
- 创建服务时会对API-KEY进行加密操作,原理是复用OBS传输使用的密钥文件。
- 服务仅支持https协议,需要用户配置系统可信的CA证书对服务端进行校验。
- 当前版本不支持M兼容模式。
父主题: 模型管理