更新时间:2024-06-29 GMT+08:00

分词器

全文检索功能还可以做更多事情:忽略索引某个词(停用词),处理同义词和使用复杂解析,例如,不仅基于空格的解析。这些功能通过文本搜索分词器控制。GaussDB(DWS)支持多语言的预定义的分词器,并且可以创建分词器(gsql的\dF命令显示了所有可用分词器)。

在安装期间选择一个合适的分词器,并且在postgresql.conf中相应的设置default_text_search_config。如果为了整个集群使用同一个文本搜索分词器可以使用postgresql.conf中的值。如果需要在集群中使用不同分词器,可以使用ALTER DATABASE ... SET在任一数据库进行配置。用户也可以在每个会话中设置default_text_search_config。

每个依赖于分词器的文本搜索函数有一个可选的配置参数,用以明确声明所使用的分词器。仅当忽略这个参数的时候,才使用default_text_search_config。

为了更方便的建立自定义文本搜索分词器,可以通过简单的数据库对象建立分词器。 GaussDB(DWS)文本搜索功能提供了四种类型与分词器相关的数据库对象:

  • 文本搜索解析器将文档分解为token,并且分类每个token(例如:词和数字)。
  • 文本搜索词典将token转换成规范格式并且丢弃停用词。
  • 文本搜索模板提供潜在的词典功能:一个词典指定一个模板,并且为模板设置参数。
  • 文本搜索分词器选择一个解析器,并且使用一系列词典规范化语法分析器产生的token。