文档首页 > > 开发指南> 全文检索> 介绍> 分词器

分词器

分享
更新时间: 2019/06/24 GMT+08:00

全文检索功能还可以做更多事情:忽略索引某个词(停用词),处理同义词和使用复杂解析,例如:不仅基于空格的解析。这些功能通过文本搜索分词器控制。DWS支持多语言的预定义的分词器,并且可以创建分词器(gsql的\dF命令显示了所有可用分词器)。

在安装期间选择一个合适的分词器,并且在postgresql.conf中相应的设置default_text_search_config。如果为了整个集群使用同一个文本搜索分词器可以使用postgresql.conf中的值。如果需要在集群中使用不同分词器,可以使用ALTER DATABASE ... SET在任一数据库进行配置。用户也可以在每个会话中设置default_text_search_config。

每个依赖于分词器的文本搜索函数有一个可选的配置参数,用以明确声明所使用的分词器。仅当忽略这个参数的时候,才使用default_text_search_config。

为了更方便的建立自定义文本搜索分词器,可以通过简单的数据库对象建立分词器。 DWS文本搜索功能提供了四种类型与分词器相关的数据库对象:

  • 文本搜索解析器将文档分解为token,并且分类每个token(例如:词和数字)。
  • 文本搜索词典将token转换成规范格式并且丢弃停用词。
  • 文本搜索模板提供潜在的词典功能:一个词典指定一个模板,并且为模板设置参数。
  • 文本搜索分词器选择一个解析器,并且使用一系列词典规范化语法分析器产生的token。
分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

跳转到云社区