方案概述

应用场景

本方案旨在通过华为云Flexus云服务器X实例高效部署和运行Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。bge-m3模型是一种先进的文本嵌入模型，能够将文本转换为高维向量，从而实现高效的文本相似度计算、分类等任务。bge-reranker-v2-m3是一个轻量级的重排序模型，具有强大的多语言能力，易于部署，推理速度快。借助于Flexus云服务器的强大性能和弹性扩展能力，用户可以轻松地在云端部署此模型，并根据实际需求灵活调整资源。

• 文本相似度计算：适用于搜索引擎、推荐系统等领域，帮助提升搜索结果的相关性和推荐准确性。
• 文本分类与聚类：广泛应用于内容管理、舆情分析等场景，支持自动化的信息分类与主题发现。
• 自然语言处理任务：如情感分析、意图识别等，助力企业更好地理解和利用非结构化数据。
• 搜索引擎优化：在大型搜索引擎中，重排序模型可以帮助优化搜索结果，确保用户看到的信息是最相关和最有价值的。
• 问答系统：在问答系统中，重排序模型可以帮助确定哪些答案是最准确和最相关的，从而提高问题解决的质量。

方案架构

该解决方案帮助您在华为云Flexus云服务器X实例（弹性云服务器 ECS）上快速部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。

图1 方案架构图

该解决方案将会部署如下资源：

• 创建一个弹性公网IP EIP，用于提供访问公网和被公网访问能力。

• 创建一台Flexus云服务器X实例（弹性云服务器 ECS），用于部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。
• 创建一个安全组，通过配置安全组规则，为云服务器提供安全防护。

方案优势

• 高效

  内置 bge-m3及bge-reranker-v2-m3模型实现高效的文本相似度计算、分类等任务，重排序模型，推理速度快。

• 低成本

  提供高性价比的云服务器，用户可以根据实际需求自定义不同规格的云服务器。

• 一键部署

  一键轻松部署，即可快速完成云服务器和公网IP等资源的下发以及Embedding bge-m3及Reranker模型的部署。

约束与限制

• 该解决方案部署前，需注册华为账号并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。如果计费模式选择“包年包月”，请确保账户余额充足以便一键部署资源的时候可以自动支付；或者在一键部署的过程进入费用中心，找到“待支付订单”并手动完成支付。