使用FunctionGraph部署DeepSeek-R1蒸馏模型

方案概述

DeepSeek-R1模型是深度求索公司推出的首款推理模型，基于DeepSeek-V3-Base模型，通过知识蒸馏技术优化，旨在以较低的计算资源实现高性能，支持快速部署与运行。

FunctionGraph提供DeepSeek-R1蒸馏模型的镜像，有14B、8B、1.5B三个模型版本供选择，搭配第三方客户端可快速部署DeepSeek-R1蒸馏模型，实现AI对话。

约束与限制

函数应创建在“华东-上海一”区域下。

资源和成本规划

表1介绍使用FunctionGraph函数，部署DeepSeek-R1蒸馏模型所需的资源和成本规划。

操作流程

表2介绍通过FunctionGraph，部署DeepSeek-R1蒸馏模型的总体操作流程。

步骤一：创建容器镜像函数

1. 登录函数工作流控制台，区域选择“华东-上海一”。
2. 在左侧导航栏中选择“函数 > 函数列表”，单击“创建函数”进入函数创建页面。
3. 选择创建“容器镜像”函数，基本信息参数请参考表3填写。

   表3 创建函数参数说明

   参数	说明	取值样例
   函数类型	必选参数。 选择函数的类型，有以下两种类型： 事件函数：处理事件请求的函数。可以通过云服务平台触发函数并执行。 HTTP函数：处理HTTP请求的函数。可以通过发送HTTP请求触发函数执行，从而使用Web服务。	HTTP函数
   区域	必选参数。 选择函数部署的区域。	华东-上海一
   项目	必选参数。 选择项目部署的区域，会根据区域默认选择。	华东-上海一（默认）
   函数名称	必填参数。 自定义填写函数的名称。可包含字母、数字、下划线和中划线，以大小写字母开头，以字母或数字结尾，长度不超过60个字符。	ollama-deepseek-r1
   企业项目	必选参数。 未开通企业管理的用户页面无“企业项目”参数项，则无需进行配置。如需开通企业项目，请参考如何开通企业项目/企业多账号。 企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，默认项目为default。	default
   权限	必选参数。 选择函数需使用的委托，选择“使用现有委托”。	使用现有委托
   现有委托	必选参数。 选择函数默认创建的委托。若无现有委托，请参见创建默认委托的方式二，快速创建一个名为“fgs_default_agency”的函数默认委托。	fgs_default_agency
   容器镜像	必填参数。 填写镜像URL。FunctionGraph为您提供以下DeepSeek-R1不同版本的镜像，可自行选择并复制填写： 14B模型版本：swr.cn-east-3.myhuaweicloud.com/custom_container/ollama-deepseek-r1:14b（推荐） 8B模型版本：swr.cn-east-3.myhuaweicloud.com/custom_container/ollama-deepseek-r1:8b 1.5B模型版本：swr.cn-east-3.myhuaweicloud.com/custom_container/ollama-deepseek-r1:1.5b	swr.cn-east-3.myhuaweicloud.com/custom_container/ollama-deepseek-r1:14b

4. 填写完成后，单击右下角“创建函数”完成函数创建，进入函数详情页。
5. 在函数详情页，选择“设置 > 常规设置”，修改以下参数，填写完成后单击“保存”。
   • 启用GPU：单击启用
   • GPU卡型：NVIDIA-T4
   • GPU规格（GB）：16（如使用8B模型模板请选8GB，1.5B模型模板请选2GB）
   • 内存（MB）：2048

步骤二：创建APIG专享版触发器

1. 请参考购买实例购买任意规格的专享版APIG实例。购买过程中请参照以下注意事项，其他参数可根据实际需要选择：
   • 区域选择“华东-上海一”。
   • 需开启公网入口，并根据实际需求设置入公网带宽。
2. 返回函数工作流控制台，在函数详情页，选择“设置 > 触发器”。
3. 单击“创建触发器”，参考表4创建一个APIG专享版触发器。填写完成后，单击“确定”完成APIG触发器的创建。

   表4 创建APIG专享版触发器参数说明

   参数	说明	取值样例
   触发器类型	必选参数。 选择“API网关服务（APIG专享版）”。	API网关服务（APIG）
   实例	必选参数。 选择购买的APIG专享版实例。	apig-ds
   API名称	必选参数。 APIG触发器的名称。支持汉字，英文，数字，下划线，且只能以英文和汉字开头，3-64字符。	API_ollama_deepseek_r1
   分组	必选参数。 选择API分组。API分组相当于一个API集合，API提供方以API分组为单位，管理分组内的所有API。 若无分组，可单击“创建分组”，进入API网关控制台创建一个新的分组即可。	APIGroup_deepseek
   发布环境	必选参数。 选择API的发布环境。API可以同时提供给不同的场景调用，选择“RELEASE”，才能调用。	RELEASE
   安全认证	必选参数。 API认证方式有以下三种方式： App： 采用Appkey&Appsecret认证，安全级别高，推荐使用，详情请参见APP认证。 IAM： IAM认证，只允许IAM用户能访问，安全级别中等，详情请参见IAM认证。 None： 无认证模式，所有用户均可访问。	None
   请求协议	必选参数。 API的请求协议分为两种类型： HTTP：数据在传输过程中不被加密。 HTTPS：数据在传输过程中被加密。	HTTPS
   请求方法	必选参数。 选择API的请求方法。本例使用“ANY”。	ANY
   后端超时（毫秒）	必选参数。 设置API的后端超时时间，单位为毫秒，设置范围为1~60000毫秒。	60000

4. APIG触发器创建成功后，如图1所示复制调用URL以备用。
   图1 复制触发器调用URL
   

步骤三：配置客户端开始AI对话

可选择以下任一第三方客户端部署模型，推荐使用方式一的ChatBox客户端部署。

附录：镜像构建Dockerfile参考

如需自定义构建镜像，可参考以下Dockerfile进行操作。

FROM nvidia/cuda:11.6.2-base-ubuntu20.04

ENV HOME=/home/paas
ENV GROUP_ID=1003
ENV GROUP_NAME=paas_user
ENV USER_ID=1003
ENV USER_NAME=paas_user
ENV OLLAMA_HOST=0.0.0.0:8000

RUN mkdir -m 550 ${HOME} && groupadd -g ${GROUP_ID} ${GROUP_NAME} && useradd -u ${USER_ID} -g ${GROUP_ID} ${USER_NAME}

RUN apt-get update && apt-get install -y --no-install-recommends curl && rm -rf /var/lib/apt/lists/*

RUN curl -fsSL https://ollama.com/install.sh | sh

RUN chown -R ${USER_ID}:${GROUP_ID} ${HOME}
RUN find ${HOME} -type d | xargs chmod 775

RUN ollama serve & \
    sleep 15 && \
    ollama pull deepseek-r1:14B

USER ${USER_NAME}
WORKDIR ${HOME}
EXPOSE 8000
ENTRYPOINT ["ollama", "serve"]