文档首页/ AI开发平台ModelArts/ 最佳实践/ 图像生成模型训练推理/ Stable Diffusion XL基于ModelArtsNotebook的推理指导(6.5.907)
更新时间:2025-09-12 GMT+08:00
分享

Stable Diffusion XL基于ModelArts Notebook的推理指导(6.5.907)

方案概览

本方案主要介绍如何在ModelArts Notebook环境中部署文生图模型Stable Diffusion XL对应的Diffusers框架,并使用昇腾计算资源NPU卡进行推理。完成本方案的部署,需要先联系您所在企业的华为方技术支持购买Server资源。

本方案目前仅适用于企业客户。

资源规格要求

推理部署推荐使用“西南-贵阳一”Region上的Notebook资源和Ascend Snt9B。

获取软件

表1 获取软件和镜像

分类

名称

获取路径

插件代码包

AscendCloud-6.5.907软件包中的AscendCloud-AIGC-6.5.907-xxx.zip

文件名中的xxx表示具体的时间戳,以包名发布的实际时间为准。

获取路径:Support-E,在此路径中查找下载ModelArts 6.5.907.2版本。

说明:

如果上述软件获取路径打开后未显示相应的软件信息,说明您没有下载权限,请联系您所在企业的华为方技术支持下载获取。

Notebook使用镜像

Snt9B:西南-贵阳一:

swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_ascend:pytorch_2.5.1-cann_8.2.rc1-py_3.11-hce_2.0.2503-aarch64-snt9b-20250729103313-3a25129

创建Notebook实例时进行选择。

支持特性

表2 支持特性

套件类型

模型名称

Diffusers

SDXL

步骤一:准备环境

  1. 登录ModelArts控制台,在左侧导航选择资产管理 > 镜像管理,在右上角选择“注册镜像”",填写表1 获取软件和镜像中Notebook使用镜像为镜像源,其余选项参考下图进行注册。
    图1 注册镜像
  2. 请参考Notebook资源开通,创建Notebook实例,在镜像选择时选择自定义镜像,可参考如下配置。
    图2 创建Notebook实例

    购买Notebook资源时如果无可选资源规格,需要联系华为云技术支持申请开通。

  3. 检查环境。

    打开创建好的Notebook实例(即状态为“运行中”的实例),可在开发环境中启动编码。

    ModelArts提供的Notebook实例默认是以ma-user启动。用户进入实例后,工作目录默认是/home/ma-user/work。

    图3 进入Notebook实例的Terminal

    工作目录示例如下图所示:

    图4 工作目录

步骤二:Diffusers部署

安装依赖和模型包

  1. 手动下载模型权重到/home/ma-user/work目录下:

    官网下载地址(需登录)。

    modelscope下载地址:

  2. 安装插件代码包。
    1. 将获取到的插件代码包AscendCloud-AIGC-xxx.zip文件上传到容器的/home/ma-user/work目录下,并解压。插件代码包获取地址参见表1。上传文件操作请参见上传文件至Notebook Jupyterlab
      cd /home/ma-user/work
      unzip AscendCloud-AIGC-*.zip #解压
    2. 将AIGC包解压后,进入到获取的/home/ma-user/work/aigc_inference/torch_npu/utils/ascend_diffusers目录下,安装ascend_diffusers包。
      cd /home/ma-user/work/aigc_inference/torch_npu/utils/ascend_diffusers
      pip install -e .
    3. 将AIGC包解压后,进入到获取的/home/ma-user/work/aigc_inference/torch_npu/utils/AscendX-MM目录下,安装AscendX-MM包。
      cd /home/ma-user/work/aigc_inference/torch_npu/utils/AscendX-MM
      pip install -e .
启动服务
export MODEL_PATH='下载好的huggingface模型路径',例如/home/ma-user/work/stable-diffusion-xl-base-1.0。如果未手动下载,想要自动下载则不加model_id参数即可。
export TASK_QUEUE_ENABLE=2
cd /home/ma-user/work/aigc_inference/torch_npu/diffusers/0.31.0/examples

单卡模型推理启动服务命令如下,生成图片在当前目录下。

  • SDXL模型推理启动命令:
    pip install diffusers==0.30.2
    python sd_inference_example.py --model_name sdxl --model_id ${MODEL_PATH} --prompt 'a dog' --num_inference_steps 20 --width 768 1024 --height 768 1024

相关文档