方案概述

应用场景

大语言模型文件一般是GB到TB级别，从IDC或其它数据中心上传至对象存储服务 OBS桶花费时间长，操作繁琐，中转机器磁盘容量要求高。该解决方案通过使用一台轻量级的弹性云服务器 ECS作为中转，利用内网带宽将模型权重文件从源端桶流式复制到客户同区域下的目标桶，加快模型权重文件的传输速度，减轻将模型权重文件下载到对象存储时间慢的痛点。

方案架构

云服务器作为中转服务器，将源端桶模型权重文件流式复制到用户同区域下的目标桶，加快模型权重文件的传输速度。

图1 方案架构图

该解决方案将会部署如下资源：

• 创建一个弹性公网IP EIP，用于ECS访问由华为云解决方案团队维护的中央服务器。

• 创建一台Linux弹性云服务器 ECS实例作为中转机，并绑定公网IP，安装obsutil工具，用于OBS桶之间的数据复制，并且流量穿透过该机器。

• 使用对象存储服务OBS桶，用于存储大模型权重文件。

方案优势

• 内网加速

  借助华为云OBS内网加速功能，能够显著提升数据传输效率，确保数据快速、稳定地传输。

• 模型文件托管

  源端的OBS桶中提供常见的模型权重文件，并由华为云解决方案团队进行维护和管理。

• 低成本

  该方案的资源消耗非常低，只需一台轻量级的弹性云服务器 ECS实例就能完全满足需求。

约束与限制

• 该解决方案部署前，需注册华为账号并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。如果计费模式选择“包年包月”，请确保账户余额充足以便一键部署资源的时候可以自动支付；或者在一键部署的过程进入费用中心，找到“待支付订单”并手动完成支付。