切换产品类型

您可以点击下拉框切换本产品的不同产品类型,帮助您更高效地阅读文档。

计算
弹性云服务器 ECS
Flexus云服务
裸金属服务器 BMS
弹性伸缩 AS
镜像服务 IMS
专属主机 DeH
函数工作流 FunctionGraph
云手机服务器 CPH
Huawei Cloud EulerOS
网络
虚拟私有云 VPC
弹性公网IP EIP
虚拟专用网络 VPN
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
VPC终端节点 VPCEP
云连接 CC
企业路由器 ER
企业交换机 ESW
全球加速 GA
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
边缘安全 EdgeSec
态势感知 SA
威胁检测服务 MTD
CDN与智能边缘
内容分发网络 CDN
CloudPond云服务
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
迁移中心 MGC
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
云搜索服务 CSS
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
数据治理中心 DataArts Studio
数据可视化 DLV
数据湖工厂 DLF
湖仓构建 LakeFormation
企业应用
云桌面 Workspace
应用与数据集成平台 ROMA Connect
云解析服务 DNS
专属云
专属计算集群 DCC
IoT物联网
IoT物联网
设备接入 IoTDA
智能边缘平台 IEF
用户服务
账号中心
费用中心
成本中心
资源中心
企业管理
工单管理
国际站常见问题
ICP备案
我的凭证
支持计划
客户运营能力
合作伙伴支持计划
专业服务
区块链
区块链服务 BCS
Web3节点引擎服务 NES
解决方案
SAP
高性能计算 HPC
视频
视频直播 Live
视频点播 VOD
媒体处理 MPC
实时音视频 SparkRTC
数字内容生产线 MetaStudio
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
存储容灾服务 SDRS
弹性文件服务 SFS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属分布式存储服务 DSS
高性能弹性文件服务 SFS Turbo
容器
云容器引擎 CCE
容器镜像服务 SWR
应用服务网格 ASM
华为云UCS
云容器实例 CCI
管理与监管
云监控服务 CES
统一身份认证服务 IAM
资源编排服务 RFS
云审计服务 CTS
标签管理服务 TMS
云日志服务 LTS
配置审计 Config
资源访问管理 RAM
消息通知服务 SMN
应用运维管理 AOM
应用性能管理 APM
组织 Organizations
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
数据库
云数据库 RDS
文档数据库服务 DDS
数据管理服务 DAS
数据复制服务 DRS
云数据库 GeminiDB
云数据库 GaussDB
分布式数据库中间件 DDM
数据库和应用迁移 UGO
云数据库 TaurusDB
人工智能
人脸识别服务 FRS
图引擎服务 GES
图像识别 Image
内容审核 Moderation
文字识别 OCR
AI开发平台ModelArts
图像搜索 ImageSearch
对话机器人服务 CBS
华为HiLens
视频智能分析服务 VIAS
语音交互服务 SIS
应用中间件
分布式缓存服务 DCS
API网关 APIG
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
多活高可用服务 MAS
事件网格 EG
企业协同
华为云会议 Meeting
云通信
消息&短信 MSGSMS
云生态
合作伙伴中心
云商店
开发者工具
SDK开发指南
API签名指南
Terraform
华为云命令行工具服务 KooCLI
其他
产品价格详情
系统权限
管理控制台
客户关联华为云合作伙伴须知
消息中心
公共问题
开发与运维
应用管理与运维平台 ServiceStage
软件开发生产线 CodeArts
需求管理 CodeArts Req
部署 CodeArts Deploy
性能测试 CodeArts PerfTest
编译构建 CodeArts Build
流水线 CodeArts Pipeline
制品仓库 CodeArts Artifact
测试计划 CodeArts TestPlan
代码检查 CodeArts Check
代码托管 CodeArts Repo
云应用引擎 CAE
开天aPaaS
云消息服务 KooMessage
云手机服务 KooPhone
云空间服务 KooDrive

通过静态存储卷使用已有对象存储

更新时间:2024-12-04 GMT+08:00

本文介绍如何使用已有的对象存储静态创建PV和PVC,并在工作负载中实现数据持久化与共享性。

前提条件

约束与限制

  • 使用对象存储时,挂载点不支持修改属组和权限。
  • 对于并行文件系统,CCE支持通过OBS SDK方式和PVC挂载方式使用,其中PVC挂载方式是通过OBS服务提供的obsfs工具实现。在节点上每挂载一个并行文件系统对象存储卷,就会产生一个obsfs常驻进程。如下图所示:
    图1 obsfs常驻进程

    建议为每个obsfs进程预留1G的内存空间,例如4U8G的节点,则建议挂载obsfs并行文件系统的实例不超过8个。

    说明:
    • obsfs常驻进程是直接运行在节点上,如果消耗的内存超过了节点上限,则会导致节点异常。例如在4U8G的节点上,运行的挂载并行文件系统卷的实例超过100+,有极大概率会导致节点异常不可用。因此强烈建议控制单个节点上的挂载并行文件系统实例的数量。
  • 支持多个PV挂载同一个对象存储,但有如下限制:
    • 多个不同的PVC/PV使用同一个底层对象存储卷时,如果挂载至同一Pod使用,会因为PV的volumeHandle参数值相同导致无法挂载,请避免该使用场景。
    • PV中persistentVolumeReclaimPolicy参数建议设置为Retain,否则可能存在一个PV删除时,级联删除底层卷,其他关联这个底层卷的PV会由于底层存储被删除导致使用出现异常。
    • 重复用底层存储时,数据一致性由您自行维护。建议在应用层做好多读多写的隔离保护,合理规划文件使用时间,避免出现多个客户端写同一个文件的情况,防止产生数据覆盖和丢失。

通过控制台使用已有对象存储

  1. 登录CCE控制台,单击集群名称进入集群。
  2. 静态创建存储卷声明和存储卷。

    1. 在左侧导航栏选择“存储”,在右侧选择“存储卷声明”页签。单击右上角“创建存储卷声明 PVC”,在弹出的窗口中填写存储卷声明参数。

      参数

      描述

      存储卷声明类型

      本文中选择“对象存储”。

      PVC名称

      输入PVC的名称,同一命名空间下的PVC名称需唯一。

      创建方式

      • 已有底层存储的场景下,根据是否已经创建PV可选择“新建存储卷”“已有存储卷”来静态创建PVC。
      • 无可用底层存储的场景下,可选择“动态创建”,具体操作请参见通过动态存储卷使用对象存储

      本文示例中选择“新建存储卷”,可通过控制台同时创建PV及PVC。

      关联存储卷a

      选择集群中已有的PV卷,需要提前创建PV,请参考相关操作中的“创建存储卷”操作。

      本文示例中无需选择。

      对象存储b

      单击“选择对象存储”,您可以在新页面中勾选满足要求的对象存储,并单击“确定”

      PV名称b

      输入PV名称,同一集群内的PV名称需唯一。

      访问模式b

      对象存储类型的存储卷仅支持ReadWriteMany,表示存储卷可以被多个节点以读写方式挂载,详情请参见存储卷访问模式

      回收策略b

      您可以选择Delete或Retain,用于指定删除PVC时底层存储的回收策略,详情请参见PV回收策略

      说明:

      多个PV使用同一个对象存储时建议使用Retain,避免级联删除底层卷。

      访问密钥(AK/SK)b

      自定义密钥:如果您需要为不同OBS存储分配不同的用户权限时,可通过选择不同的Secret实现更灵活的权限控制 (推荐使用)。具体使用请参见对象存储卷挂载设置自定义访问密钥(AK/SK)

      仅支持选择带有 secret.kubernetes.io/used-by = csi 标签的密钥,密钥类型为cfe/secure-opaque。如果无可用密钥,可单击“创建密钥”进行创建:
      • 名称:请输入密钥名称。
      • 命名空间:密钥所在的命名空间。
      • 访问密钥(AK/SK):上传.csv格式的密钥文件,详情请参见获取访问密钥

      挂载参数b

      输入挂载参数键值对,详情请参见设置对象存储挂载参数

      说明:

      a:创建方式选择“已有存储卷 PV”时可设置。

      b:创建方式选择“新建存储卷 PV”时可设置。

    2. 单击“创建”,将同时为您创建存储卷声明和存储卷。

      您可以在左侧导航栏中选择“存储”,在“存储卷声明”“存储卷”页签下查看已经创建的存储卷声明和存储卷。

  3. 创建应用。

    1. 在左侧导航栏中选择“工作负载”,在右侧选择“无状态负载”页签。
    2. 单击页面右上角“创建工作负载”,在“容器配置”中选择“数据存储”页签,并单击“添加存储卷 > 已有存储卷声明 (PVC)”。
      本文主要为您介绍存储卷的挂载使用,如表1,其他参数详情请参见工作负载
      表1 存储卷挂载

      参数

      参数说明

      存储卷声明(PVC)

      选择已有的对象存储卷。

      挂载路径

      请输入挂载路径,如:/tmp。

      数据存储挂载到容器上的路径。请不要挂载在系统目录下,如“/”、“/var/run”等,会导致容器异常。建议挂载在空目录下,若目录不为空,请确保目录下无影响容器启动的文件,否则文件会被替换,导致容器启动异常,工作负载创建失败。
      须知:

      挂载高危目录的情况下 ,建议使用低权限账号启动,否则可能会造成宿主机高危文件被破坏。

      子路径

      请输入存储卷的子路径,将存储卷中的某个路径挂载至容器,可以实现在单一Pod中使用同一个存储卷的不同文件夹。如:tmp,表示容器中挂载路径下的数据会存储在存储卷的tmp文件夹中。不填写时默认为根路径。

      权限

      • 只读:只能读容器路径中的数据卷。
      • 读写:可修改容器路径中的数据卷,容器迁移时新写入的数据不会随之迁移,会造成数据丢失。

      本例中将该存储卷挂载到容器中/data路径下,在该路径下生成的容器数据会存储到对象存储中。

    3. 其余信息都配置完成后,单击“创建工作负载”

      工作负载创建成功后,容器挂载目录下的数据将会持久化保持,您可以参考验证数据持久化及共享性中的步骤进行验证。

通过kubectl命令行使用已有对象存储

  1. 使用kubectl连接集群。
  2. 创建PV。

    1. 创建pv-obs.yaml文件。
      apiVersion: v1
      kind: PersistentVolume
      metadata:
        annotations:
          pv.kubernetes.io/provisioned-by: everest-csi-provisioner
          everest.io/reclaim-policy: retain-volume-only      # 可选字段,删除PV,保留底层存储卷
        name: pv-obs       # PV的名称
      spec:
        accessModes:
        - ReadWriteMany    # 访问模式,对象存储必须为ReadWriteMany
        capacity:
          storage: 1Gi     # 对象存储容量大小
        csi:
          driver: obs.csi.everest.io        # 挂载依赖的存储驱动
          fsType: obsfs                     # 实例类型
          volumeHandle: <your_volume_id>    # 对象存储的名称
          volumeAttributes:
            storage.kubernetes.io/csiProvisionerIdentity: everest-csi-provisioner
            everest.io/obs-volume-type: STANDARD
            everest.io/region: <your_region>                        # 对象存储的区域
          nodePublishSecretRef:            # 设置对象存储的自定义密钥
            name: <your_secret_name>       # 自定义密钥的名称
            namespace: <your_namespace>    # 自定义密钥的命名空间
        persistentVolumeReclaimPolicy: Retain    # 回收策略
        storageClassName: csi-obs               # 存储类名称
        mountOptions: []                         # 挂载参数
      表2 关键参数说明

      参数

      是否必填

      描述

      everest.io/reclaim-policy: retain-volume-only

      可选字段

      目前仅支持配置“retain-volume-only”

      everest插件版本需 >= 1.2.9且回收策略为Delete时生效。如果回收策略是Delete且当前值设置为“retain-volume-only”删除PVC回收逻辑为:删除PV,保留底层存储卷。

      fsType

      实例类型,支持“obsfs”与“s3fs”。

      • obsfs:并行文件系统,配套使用obsfs挂载,推荐使用。
      • s3fs:对象桶,配套使用s3fs挂载。

      volumeHandle

      对象存储的名称。

      everest.io/obs-volume-type

      对象存储类型。

      • fsType设置为s3fs时,支持STANDARD(标准桶)、WARM(低频访问桶)。
      • fsType设置为obsfs时,该字段不起作用。

      everest.io/region

      OBS存储区域。

      nodePublishSecretRef

      对象存储卷挂载支持设置自定义访问密钥(AK/SK),您可以使用AK/SK创建一个Secret,然后挂载到PV。详细说明请参见对象存储卷挂载设置自定义访问密钥(AK/SK)

      示例如下:
      nodePublishSecretRef:
        name: secret-demo
        namespace: default

      mountOptions

      挂载参数,具体请参见设置对象存储挂载参数

      persistentVolumeReclaimPolicy

      集群版本号>=1.19.10且everest插件版本>=1.2.9时正式开放回收策略支持。

      支持Delete、Retain回收策略,详情请参见PV回收策略。多个PV使用同一个对象存储时建议使用Retain,避免级联删除底层卷。

      Delete:

      • Delete且不设置everest.io/reclaim-policy:删除PVC,PV资源与存储均被删除。
      • Delete且设置everest.io/reclaim-policy=retain-volume-only:删除PVC,PV资源被删除,存储资源会保留。

      Retain:删除PVC,PV资源与底层存储资源均不会被删除,需要手动删除回收。PVC删除后PV资源状态为“已释放(Released)”,不能直接再次被PVC绑定使用。

      storage

      存储容量,单位为Gi。

      对对象存储来说,此处仅为校验需要(不能为空和0),设置的大小不起作用,此处设定为固定值1Gi。

      storageClassName

      对象存储对应的存储类名称为csi-obs。

    2. 执行以下命令,创建PV。
      kubectl apply -f pv-obs.yaml

  3. 创建PVC。

    1. 创建pvc-obs.yaml文件。
      apiVersion: v1
      kind: PersistentVolumeClaim
      metadata:
        name: pvc-obs
        namespace: default
        annotations:
          volume.beta.kubernetes.io/storage-provisioner: everest-csi-provisioner
          everest.io/obs-volume-type: STANDARD
          csi.storage.k8s.io/fstype: obsfs
          csi.storage.k8s.io/node-publish-secret-name: <your_secret_name>  # 自定义密钥的名称
          csi.storage.k8s.io/node-publish-secret-namespace: <your_namespace>        # 自定义密钥的命名空间
      spec:
        accessModes:
        - ReadWriteMany                  # 对象存储必须为ReadWriteMany
        resources:
          requests:
            storage: 1Gi
        storageClassName: csi-obs       # 存储类名称,必须与PV的存储类一致。
        volumeName: pv-obs    # PV的名称
      表3 关键参数说明

      参数

      是否必填

      描述

      csi.storage.k8s.io/node-publish-secret-name

      PV中指定的自定义密钥的名称。

      csi.storage.k8s.io/node-publish-secret-namespace

      PV中指定的自定义密钥的命名空间。

      storage

      PVC申请容量,单位为Gi。

      对于对象存储来说,此处仅为校验需要(不能为空和0),设置的大小不起作用,此处设定为固定值1Gi。

      storageClassName

      存储类名称,必须与1中PV的存储类一致。

      对象存储对应的存储类名称为csi-obs。

      volumeName

      PV的名称,必须与1中PV名称一致。

    2. 执行以下命令,创建PVC。
      kubectl apply -f pvc-obs.yaml

  4. 创建应用。

    1. 创建web-demo.yaml文件,本示例中将对象存储挂载至/data路径。
      apiVersion: apps/v1
      kind: Deployment
      metadata:
        name: web-demo
        namespace: default
      spec:
        replicas: 2
        selector:
          matchLabels:
            app: web-demo
        template:
          metadata:
            labels:
              app: web-demo
          spec:
            containers:
            - name: container-1
              image: nginx:latest
              volumeMounts:
              - name: pvc-obs-volume    #卷名称,需与volumes字段中的卷名称对应
                mountPath: /data  #存储卷挂载的位置
            imagePullSecrets:
              - name: default-secret
            volumes:
              - name: pvc-obs-volume    #卷名称,可自定义
                persistentVolumeClaim:
                  claimName: pvc-obs    #已创建的PVC名称
    2. 执行以下命令,创建一个挂载对象存储的应用。
      kubectl apply -f web-demo.yaml

      工作负载创建成功后,您可以尝试验证数据持久化及共享性

验证数据持久化及共享性

  1. 查看部署的应用及文件。

    1. 执行以下命令,查看已创建的Pod。
      kubectl get pod | grep web-demo
      预期输出如下:
      web-demo-846b489584-mjhm9   1/1     Running   0             46s
      web-demo-846b489584-wvv5s   1/1     Running   0             46s
    2. 依次执行以下命令,查看Pod的/data路径下的文件。
      kubectl exec web-demo-846b489584-mjhm9 -- ls /data
      kubectl exec web-demo-846b489584-wvv5s -- ls /data

      两个Pod均无返回结果,说明/data路径下无文件。

  2. 执行以下命令,在/data路径下创建static文件。

    kubectl exec web-demo-846b489584-mjhm9 --  touch /data/static

  3. 执行以下命令,查看/data路径下的文件。

    kubectl exec web-demo-846b489584-mjhm9 -- ls /data

    预期输出如下:

    static

  4. 验证数据持久化

    1. 执行以下命令,删除名称为web-demo-846b489584-mjhm9的Pod。
      kubectl delete pod web-demo-846b489584-mjhm9

      预期输出如下:

      pod "web-demo-846b489584-mjhm9" deleted

      删除后,Deployment控制器会自动重新创建一个副本。

    2. 执行以下命令,查看已创建的Pod。
      kubectl get pod | grep web-demo
      预期输出如下,web-demo-846b489584-d4d4j为新建的Pod:
      web-demo-846b489584-d4d4j   1/1     Running   0             110s
      web-demo-846b489584-wvv5s    1/1     Running   0             7m50s
    3. 执行以下命令,验证新建的Pod中/data路径下的文件是否更改。
      kubectl exec web-demo-846b489584-d4d4j -- ls /data

      预期输出如下:

      static

      static文件仍然存在,则说明数据可持久化保存。

  5. 验证数据共享性

    1. 执行以下命令,查看已创建的Pod。
      kubectl get pod | grep web-demo
      预期输出如下:
      web-demo-846b489584-d4d4j   1/1     Running   0             7m
      web-demo-846b489584-wvv5s   1/1     Running   0             13m
    2. 执行以下命令,在任意一个Pod的/data路径下创建share文件。本例中选择名为web-demo-846b489584-d4d4j的Pod。
      kubectl exec web-demo-846b489584-d4d4j --  touch /data/share
      并查看该Pod中/data路径下的文件。
      kubectl exec web-demo-846b489584-d4d4j -- ls /data

      预期输出如下:

      share
      static
    3. 由于写入share文件的操作未在名为web-demo-846b489584-wvv5s的Pod中执行,在该Pod中查看/data路径下是否存在文件以验证数据共享性。
      kubectl exec web-demo-846b489584-wvv5s -- ls /data

      预期输出如下:

      share
      static

      如果在任意一个Pod中的/data路径下创建文件,其他Pod下的/data路径下均存在此文件,则说明两个Pod共享一个存储卷。

相关操作

您还可以执行表4中的操作。
表4 其他操作

操作

说明

操作步骤

创建存储卷

通过CCE控制台单独创建PV。

  1. 在左侧导航栏选择“存储”,在右侧选择“存储卷”页签。单击右上角“创建存储卷”,在弹出的窗口中填写存储卷声明参数。
    • 存储卷类型:选择“对象存储”
    • 对象存储:单击“选择对象存储”,在新页面中勾选满足要求的对象存储,并单击“确定”
    • PV名称:输入PV名称,同一集群内的PV名称需唯一。
    • 访问模式:仅支持ReadWriteMany,表示存储卷可以被多个节点以读写方式挂载,详情请参见存储卷访问模式
    • 回收策略:Delete或Retain,详情请参见PV回收策略
      说明:

      多个PV使用同一个底层存储时建议使用Retain,避免级联删除底层卷。

    • 自定义密钥:如果您需要为不同OBS存储分配不同的用户权限时,可通过选择不同的Secret实现更灵活的权限控制 (推荐使用)。具体使用请参见对象存储卷挂载设置自定义访问密钥(AK/SK)

      仅支持选择带有 secret.kubernetes.io/used-by = csi 标签的密钥,密钥类型为cfe/secure-opaque。如果无可用密钥,可单击“创建密钥”进行创建。

    • 挂载参数:输入挂载参数键值对,详情请参见设置对象存储挂载参数
  2. 单击“创建”

更新访问密钥

通过CCE控制台更新对象存储的访问密钥。

  1. 在左侧导航栏选择“存储”,在右侧选择“存储卷声明”页签。单击PVC操作列的“更多 > 更新访问密钥”。
  2. 上传.csv格式的密钥文件,详情请参见获取访问密钥。单击“确定”。
    说明:

    更新全局访问密钥后,租户下所有挂载使用全局访问密钥的对象存储的负载实例需要重启后才能正常访问。

事件

查看PVC或PV的事件名称、事件类型、发生次数、Kubernetes事件、首次和最近发生的时间,便于定位问题。

  1. 在左侧导航栏选择“存储”,在右侧选择“存储卷声明”“存储卷”页签。
  2. 单击目标实例操作列的“事件”,即可查看1小时内的事件(事件保存时间为1小时)。

查看YAML

可对PVC或PV的YAML文件进行查看、复制和下载。

  1. 在左侧导航栏选择“存储”,在右侧选择“存储卷声明”“存储卷”页签。
  2. 单击目标实例操作列的“查看YAML”,即可查看或下载YAML。

我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。 详情

文档反馈

文档反馈

意见反馈

0/500

标记内容

同时提交标记内容