更新时间:2026-07-28 GMT+08:00
注意事项
- 本功能依赖于LLM/embedding/rerank模型服务正常运行。
- CREATE LLM/DROP LLM命令需要拥有sysadmin的用户权限。
- 在select语句中使用llm_query/llm_embed/llm_rerank,需要调用该语句的用户对涉及的表有访问权限。
- 在insert/update/delete语句中使用llm_query/llm_embed/llm_rerank,需要调用该语句的用户对涉及的表有写入权限。
- 通过sysadmin用户创建的模型服务,任意用户可以在SQL里调用。
- llm_query中调用的大语言模型需通过兼容OpenAI开放API中 v1/chat/completions API格式提供服务。
- llm_embed中调用的embedding模型需通过兼容OpenAI开放API中 v1/embedding API格式提供服务。
- llm_rerank中调用的重排序模型需通过兼容Jina AI开放API中 /rerank API格式提供服务。
- BATCH优化规则,依赖于模型服务部署在vllm 0.7.3以上版本,仅支持llm_embed和llm_rerank函数。
- llm_embed中的Embedding模型向量维度不超过4096维,和向量数据库保持一致。
- 在通过向量化引擎场景下,llm_rerank函数的query入参仅支持常量,不支持表字段。
- llm_query、llm_embed和llm_rerank函数不支持密态表场景。
- 创建、删除和使用模型服务时,模型服务名称均会转换成小写字符进行存放和读取。
- 服务仅支持https协议,需要用户配置系统可信的CA证书对服务端进行校验。
- 创建服务时会对API-KEY进行加密操作,原理是复用OBS传输使用的密钥文件。
- llm_embed函数输出类型为floatvector类型。
- 当前版本不支持M兼容模式。
父主题: 模型调用