更新时间:2026-07-28 GMT+08:00
分享

注意事项

  1. 本功能依赖于LLM/embedding/rerank模型服务正常运行。
  2. CREATE LLM/DROP LLM命令需要拥有sysadmin的用户权限。
  3. 在select语句中使用llm_query/llm_embed/llm_rerank,需要调用该语句的用户对涉及的表有访问权限。
  4. 在insert/update/delete语句中使用llm_query/llm_embed/llm_rerank,需要调用该语句的用户对涉及的表有写入权限。
  5. 通过sysadmin用户创建的模型服务,任意用户可以在SQL里调用。
  6. llm_query中调用的大语言模型需通过兼容OpenAI开放API中 v1/chat/completions API格式提供服务。
  7. llm_embed中调用的embedding模型需通过兼容OpenAI开放API中 v1/embedding API格式提供服务。
  8. llm_rerank中调用的重排序模型需通过兼容Jina AI开放API中 /rerank API格式提供服务。
  9. BATCH优化规则,依赖于模型服务部署在vllm 0.7.3以上版本,仅支持llm_embed和llm_rerank函数。
  10. llm_embed中的Embedding模型向量维度不超过4096维,和向量数据库保持一致。
  11. 在通过向量化引擎场景下,llm_rerank函数的query入参仅支持常量,不支持表字段。
  12. llm_query、llm_embed和llm_rerank函数不支持密态表场景。
  13. 创建、删除和使用模型服务时,模型服务名称均会转换成小写字符进行存放和读取。
  14. 服务仅支持https协议,需要用户配置系统可信的CA证书对服务端进行校验。
  15. 创建服务时会对API-KEY进行加密操作,原理是复用OBS传输使用的密钥文件。
  16. llm_embed函数输出类型为floatvector类型。
  17. 当前版本不支持M兼容模式。

相关文档