# 使用FunctionGraph部署DeepSeek-R1蒸馏模型 #### 方案概述 DeepSeek-R1模型是深度求索公司推出的首款推理模型，基于DeepSeek-V3-Base模型，通过知识蒸馏技术优化，旨在以较低的计算资源实现高性能，支持快速部署与运行。 FunctionGraph应用中心提供DeepSeek-R1蒸馏模型的部署解决方案，支持多种模型参数规模选择（包括1.5B、7B、8B、14B和32B参数版本）。该方案基于FunctionGraph的全托管计算服务，您无需关注底层资源管理，即可通过标准API接口快速实现模型部署。搭配第三方客户端，可轻松构建AI对话应用，实现从模型托管到AI对话的应用。 #### 约束与限制 函数需创建在"华东-上海一"区域下。 #### 操作视频 本视频介绍使用FunctionGraph部署DeepSeek-R1蒸馏模型的操作流程。 #### 资源和成本规划 [表1]介绍使用FunctionGraph函数，部署DeepSeek-R1蒸馏模型所需的资源和成本规划。 表1资源和成本规划 | **资源** | **资源说明** | **计费说明** | |:---|:---|:---| | 函数工作流 FunctionGraph | - 函数类型：HTTP函数 - 函数设置：启用GPU - 区域：华东-上海一 - 创建量：1 | - 计费模式：按需计费。 - 函数工作流提供免费试用，每月前100万次调用免费。具体计费项及说明请参考[函数工作流按需计费说明](https://support.huaweicloud.com/price-functiongraph/functiongraph_00_0010.html)。 | | API网关 APIG | - 版本：专享版API网关 - 区域：华东-上海一 - 公网入口：开启 - 购买量：1 | - 计费模式：本例使用按需计费。 - 实例规格和入公网带宽请根据业务需求选择，具体计费项及标准请参考[专享版API网关计费模式概述](https://support.huaweicloud.com/price-apig/apig_08_0003.html)。 | #### 操作流程 [表2]介绍通过FunctionGraph，部署DeepSeek-R1蒸馏模型的总体操作流程。 表2操作流程 | **操作流程** | **说明** | |:---|:---| | [步骤一：购买专享版APIG实例] | 通过API网关控制台，购买APIG专享版实例，并配置公网入口访问。 | | [步骤二：创建DeepSeek应用] | 通过FunctionGraph应用中心，创建DeepSeek-R1蒸馏模型应用。 如需自定义构建镜像，可参考[附录：镜像构建Dockerfile参考]进行操作。 | | [步骤三：配置客户端开始AI对话] | 下载并配置第三方客户端，部署DeepSeek-R1蒸馏模型开始AI对话，可选择以下任一客户端进行部署： - [方式一：ChatBox（支持Windows、macOS、Linux、安卓、IOS、Web）]（推荐） - [方式二：AnythingLLM（支持Windows、macOS、Linux）] | #### 步骤一：购买专享版APIG实例 登录API网关控制台，参考[购买专享版APIG实例](https://support.huaweicloud.com/usermanual-apig/apig_03_0037.html)购买一个名为"apig-fg"的专享版APIG实例。 购买过程中请参照以下注意事项，其他参数可根据业务需求自定义选择。 - 区域：选择华东-上海一。 - 公网入口：本例需"开启公网入口"，请根据实际需求选择入公网带宽。 - VPC和子网：本示例供测试使用，无需配置函数访问VPC内资源，因此可自行配置VPC和子网参数。 如生产环境中使用，请[配置VPC内的公网访问](https://support.huaweicloud.com/usermanual-functiongraph/functiongraph_01_0222.html#functiongraph_01_0222__section321717419119)，并将APIG实例和函数配置在同一VPC环境下。 - 安全组：开启公网入口，安全组入方向需要放开80（HTTP）和443（HTTPS）端口的访问权限。 #### 步骤二：创建DeepSeek应用 1. 登录[函数工作流控制台](https://console.huaweicloud.com/functiongraph/?locale=zh-cn)，区域选择"华东-上海一"。 2. 在左侧导航栏中选择"函数 \> 应用中心"，单击"创建应用"进入选择模板界面。 3. 找到"DeepSeek R1推理模型"模板，单击"使用模板"。 图1创建DeepSeek应用模板 ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002364232384.png "点击放大") 4. 进入创建应用界面，参考[表3]填写应用参数。 图2创建应用 ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002397894021.png "点击放大") 表3创建应用参数说明 | 参数 | 取值样例 | 说明 | |:---|:---|:---| | 模板 | DeepSeek R1推理模型 | 本案例使用DeepSeek R1推理模型应用模板创建应用。 | | 区域 | 华东-上海一 | 选择应用部署的区域。 | | 应用名称 | fg-deepseek-r1 | 自定义填写应用的名称。可包含字母、数字、下划线和中划线，以大小写字母开头，以字母或数字结尾，长度不超过60个字符。 | | 运行时语言 | Http | 本应用默认内置Http运行时语言，不可更改。 | | 委托 | fgs-app-adminagency | 选择应用需使用的委托。 "fgs-app-adminagency"为FunctionGraph应用中心的默认委托。如未创建过该委托，可先将该参数选择为"未使用任何委托"，在创建应用时系统会弹出创建该应用中心默认委托的选项，单击创建即可。 | | 创建仓库 | 不开启 | 若开启，应用创建时将会为您在代码托管服务创建代码仓库，之后可通过更新代码并部署来更新您的应用。 | | 描述 | - | 自定义填写应用的描述，最长支持填写1024个字符。 | | APIG实例 | apig-fg | 选择[步骤一：购买专享版APIG实例]购买的APIG实例。 | | 模型规模 | 14B | 自定义选择DeepSeek R1模型的规模，涵盖1.5B、7B、8B、14B和32B模型供您选择。 | 5. 填写完成后，单击右下角"立即创建"，进入应用详情页等待应用创建成功。 如"委托"参数选择了"未使用任何委托"，此处将会弹出创建"fgs-app-adminagency"委托的提示，单击创建即可。 6. 应用创建成功后如[图3]所示，会自动为您生成函数和API网关资源，其中生成的函数资源已开启GPU。 图3应用创建成功 ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002364255546.png "点击放大") 7. 如[图4]所示复制应用的"调用URL"备用。 **为方便快速体验，应用中心会为您分配一个临时域名，此临时域名仅可用于测试使用，有效期30天。** 若想开放应用长期访问，需在应用总览页面的域名提示信息中单击"去绑定"为应用绑定自定义域名，具体操作方案请参考[配置API的调用域名](https://support.huaweicloud.com/usermanual-apig/apig_03_0006.html)。 图4复制调用URL ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002364424958.png "点击放大") #### 步骤三：配置客户端开始AI对话 可选择以下任一第三方客户端部署模型。 #### 方式一：ChatBox（支持Windows、macOS、Linux、安卓、IOS、Web） 1. 登录ChatBox官网，或进入[ChatBox GitHub发布页](https://github.com/Bin-Huang/chatbox/releases)，下载适用于您设备的安装包并安装ChatBox客户端。 2. 运行ChatBox，如[图5]所示选择"使用自己的API Key或本地模型"，或选择左下角"设置 \> 模型"进入参数配置页面。 图5ChatBox ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002213573081.png) 3. 使用以下参数进行客户端的模型配置： - 模型提供方：OLLAMA API。 - API域名：粘贴[7]复制的调用URL，删除最后的"/"。 - 模型：选择"deepseek-r1:14B"，选项出现大约需要等待10秒。 4. 其他参数保持默认即可，完成参数配置后，单击"保存"。进入对话页面，即可使用DeepSeek-R1模型进行AI对话。 #### 方式二：AnythingLLM（支持Windows、macOS、Linux） 1. 登录AnythingLLM官网，或进入[AnythingLLM GitHub发布页](https://github.com/Mintplex-Labs/anything-llm/releases)，下载适用于您设备的安装包并安装AnythingLLM客户端。 2. 运行AnythingLLM，前期设置可直接跳过，进入客户端主页后，如[图6]所示，选择左下角"OpenSetting \> 人工智能提供商 \> LLM首选项"进入配置页面。 图6AnythingLLM Setting ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002178092712.png) 3. 使用以下参数进行配置，配置完成后如[图7]所示。 - LLM提供商：选择Ollama。 - Ollama Base URL：触发器调用URL，删除最后的"/"。 - Ollama Model：选择"deepseek-r1:14B"，选项出现大约需要等待10秒。 图7AnythingLLM配置 ![](https://support.huaweicloud.com/bestpractice-functiongraph/zh-cn_image_0000002178252464.png "点击放大") 4. 其他参数保持默认即可，完成参数配置后，单击"Save changes"。进入对话页面，即可使用DeepSeek-R1模型进行AI对话。 #### 附录：镜像构建Dockerfile参考 如需自定义构建镜像，可参考以下Dockerfile进行操作。 ``` FROM nvidia/cuda:11.6.2-base-ubuntu20.04 ENV HOME=/home/paas ENV GROUP_ID=1003 ENV GROUP_NAME=paas_user ENV USER_ID=1003 ENV USER_NAME=paas_user ENV OLLAMA_HOST=0.0.0.0:8000 RUN mkdir -m 550 ${HOME} && groupadd -g ${GROUP_ID} ${GROUP_NAME} && useradd -u ${USER_ID} -g ${GROUP_ID} ${USER_NAME} RUN apt-get update && apt-get install -y --no-install-recommends curl && rm -rf /var/lib/apt/lists/* RUN curl -fsSL https://ollama.com/install.sh | sh RUN chown -R ${USER_ID}:${GROUP_ID} ${HOME} RUN find ${HOME} -type d | xargs chmod 775 RUN ollama serve & \ sleep 15 && \ ollama pull deepseek-r1:14B USER ${USER_NAME} WORKDIR ${HOME} EXPOSE 8000 ENTRYPOINT ["ollama", "serve"] ``` #### 免责声明 - 本应用使用到的[Ollama](https://github.com/ollama/ollama)和[DeepSeek-R1](https://github.com/deepseek-ai/DeepSeek-R1)等项目均为社区开源项目，华为云仅提供算力支持。 - 本应用仅作为简单案例供用户参考和学习使用，如果用于实际生产环境，请参考[附录：镜像构建Dockerfile参考]的镜像构建工程自行完善和优化；使用过程中出现的函数工作流的问题，可以通过工单进行咨询，关于开源项目的问题需到开源社区寻求帮助或者自行解决。 - 本应用部署后会为您创建APIG网关，根据有关规定，请在应用创建成功后根据提示绑定自定义域名后，使用您的自有域名访问应用。