方案概述

应用场景

该解决方案帮助您快速搭建单机版New API大模型网关，New API 是一个基于 One API 二次开发的开源项目，专注于 AI 模型接口管理与分发系统，支持将多种大模型转为 OpenAI 格式调用，并兼容 Midjourney Proxy、Suno、Rerank 等接口，主要用于企业内部或个人学习场景。

方案架构

该解决方案帮助您快速搭建New API大模型网关。

图1 方案架构图（社区版单机部署）

该解决方案将会部署如下资源：

社区版单机部署：

• 创建1台华为云Flexus云服务器X实例（FlexusX），用于搭建New API大模型网关。
• 创建1个弹性公网IP EIP并关联FlexusX实例，提供访问公网和被公网访问能力。
• 创建1个安全组，通过配置安全组规则，为云服务器提供安全防护。

方案优势

• 成本优化

  提供高性价比的云服务器，按需选择资源规格、支持自动扩展，减少资源闲置，优化成本投入，进一步降低客户的运营成本。

• 开箱即用

  New API采用现代化的微服务架构，强调高可用性和易部署性，适用于内容创作、教育与科研等领域，部署后开箱即用。

• 一键部署

  一键轻松部署，即可完成云服务资源的创建及New API大模型网关的搭建。

约束与限制

• 该解决方案部署前，需注册华为账号并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。如果计费模式选择“包年包月”，请确保账户余额充足以便一键部署资源的时候可以自动支付；或者在一键部署的过程进入费用中心，找到“待支付订单”并手动完成支付。

• 如果选用IAM委托权限部署资源，请确保使用的华为云账号有IAM的足够权限，具体请参考创建rf_admin_trust委托；如果使用华为主账号或admin用户组下的IAM子账户可不选委托，将采用当前登录用户的权限进行部署。