CCE容器存储（Everest）

插件简介

CCE容器存储（Everest）是一个云原生容器存储系统，基于CSI（即Container Storage Interface）为Kubernetes v1.15.6及以上版本集群对接云存储服务的能力。

该插件为系统资源插件，Kubernetes 1.15及以上版本的集群在创建时默认安装。

约束与限制

• 集群版本由v1.13升级到v1.15后，v1.13版本集群中的Flexvolume容器存储插件（storage-driver）能力将由v1.15的CSI插件（everest，插件版本v1.1.6及以上）接管，接管后原有功能保持不变。
• 插件版本为1.2.0的CCE容器存储插件（Everest）优化了使用OBS存储时的密钥认证功能，低于该版本的插件在升级完成后，需要重启集群中使用OBS存储的全部工作负载，否则工作负载使用存储的能力将受影响。
• v1.15及以上版本的集群默认安装本插件，v1.13及以下版本集群创建时默认安装storage-driver插件。
• Huawei Cloud EulerOS 1.1系统的节点支持2.x.x版本（2.1.9及以上）和1.2.x版本（1.2.70及以上）的CCE容器存储插件（Everest），不支持1.3.x版本的插件。

安装插件

本插件为系统默认安装，若因特殊情况卸载后，可参照如下步骤重新安装。

1. 登录CCE控制台，单击集群名称进入集群，单击左侧导航栏的“插件中心”，在右侧找到CCE容器存储（Everest）插件，单击“安装”。
2. 在安装插件页面，设置“规格配置”。

   表1 everest插件规格配置

   参数	参数说明
   实例数	插件实例的副本数量。 实例数为1时插件不具备高可用能力，当插件实例所在节点异常时可能导致插件功能无法正常使用，请谨慎选择。
   容器	CCE容器存储插件（Everest）包含everest-csi-controller和everest-csi-driver两个组件，详情请参见组件说明。 插件组件规格可根据您的需求自定义调整。其中，插件组件的CPU和内存申请值可根据集群节点规模和PVC数量不同进行调整，配置建议请参见表2。 非典型场景下，限制值一般估算公式如下： everest-csi-controller： CPU限制值：200及以下节点规模设置为250m；1000节点规模设置为350m；2000节点规模设置为500m。 内存限制值 = （200Mi + 节点数 * 1Mi + PVC数 * 0.2Mi）* 1.2 everest-csi-driver： CPU限制值：200及以下节点规模设置为300m；1000节点规模设置为500m；2000节点规模设置为800m。 内存限制值 = 200及以下节点规模设置为300Mi；1000节点规模设置为600Mi；2000节点规模设置为900Mi。

   表2 典型场景组件限制值建议

   配置场景			everest-csi-controller组件		everest-csi-driver组件
   节点数量	PV/PVC数量	插件实例数	CPU（限制值同申请值）	内存（限制值同申请值）	CPU（限制值同申请值）	内存（限制值同申请值）
   50	1000	2	250m	600Mi	300m	300Mi
   200	1000	2	250m	1Gi	300m	300Mi
   1000	1000	2	350m	2Gi	500m	600Mi
   1000	5000	2	450m	3Gi	500m	600Mi
   2000	5000	2	550m	4Gi	800m	900Mi
   2000	10000	2	650m	5Gi	800m	900Mi

3. 设置插件支持的“参数配置”。

   表3 everest插件参数配置

   参数	参数说明
   csi_attacher_worker_threads	CCE容器存储插件（Everest）中同时处理挂EVS卷的worker数，默认值为“60”。
   csi_attacher_detach_worker_threads	CCE容器存储插件（Everest）中同时处理卸载EVS卷的worker数，默认值均为“60”。
   volume_attaching_flow_ctrl	CCE容器存储插件（Everest）在1分钟内可以挂载EVS卷的最大数量，此参数的默认值“0”表示everest插件不做挂卷限制，此时挂卷性能由底层存储资源决定。
   cluster_id	集群ID。
   default_vpc_id	集群所在VPC的ID。
   disable_auto_mount_secret	挂载对象桶/并行文件系统时，是否允许使用默认的AKSK，默认为false。
   enable_node_attacher	是否开启agent侧attacher，开启后由attacher负责处理VolumeAttachment。
   flow_control	默认为空。用户无需填写。
   number_of_reserved_disks	插件版本为2.3.11及以上时支持该参数，用于设置节点上预留的挂盘数，预留出部分盘位供用户自定义挂载云硬盘使用。 假设节点可挂载的云硬盘上限为20，并设置该参数值为6，则在调度挂载云硬盘的工作负载时，实际上节点可挂载的云硬盘为20-6=14。预留的6个挂盘数中，除去节点上已挂载的1块系统盘和1块数据盘后，还可以自定义挂载4块云硬盘，可以作为额外的数据盘或者作为裸盘用于创建本地存储池。
   over_subscription	本地存储池（local_storage）的超分比。默认为80，若本地存储池为100G，可以超分为180G使用。
   project_id	集群所属项目ID。

   

   CCE容器存储插件（Everest）1.2.26以上版本针对大批量挂EVS卷的性能做了优化，用户可配置如下3个参数：

   • csi_attacher_worker_threads
   • csi_attacher_detach_worker_threads
   • volume_attaching_flow_ctrl

   上述三个参数由于存在关联性且与集群所在局点的底层存储资源限制有关，当您对大批量挂卷的性能有要求（大于500EVS卷/分钟）时，请联系客服，在指导下进行配置，否则可能会因为参数配置不合理导致出现everest插件运行不正常的情况。

4. 设置插件实例的“调度策略”。
   

   • 调度策略对于DaemonSet类型的插件实例不会生效。
   • 设置多可用区部署或节点亲和策略时，需保证集群中存在满足调度策略的节点且拥有足够的资源，否则插件实例将无法运行。

   表4 插件调度配置

   参数	参数说明
   多可用区部署	优先模式：优先将插件的Deployment实例调度到不同可用区的节点上，如集群下节点不满足多可用区，插件实例将调度到单可用区。 均分模式：插件Deployment实例均匀调度到当前集群下各可用区，增加新的可用区后建议扩容插件实例以实现跨可用区高可用部署；均分模式限制不同可用区间插件实例数相差不超过1，单个可用区资源不足会导致后续其他实例无法调度。 强制模式：插件Deployment实例强制调度到不同可用区的节点上，如集群下节点不满足多可用区，插件实例将无法全部运行。
   节点亲和	不亲和：插件实例不指定节点亲和调度。 指定节点调度：指定插件实例部署的节点。若不指定，将根据集群默认调度策略进行随机调度。 指定节点池调度：指定插件实例部署的节点池。若不指定，将根据集群默认调度策略进行随机调度。 自定义亲和策略：填写期望插件部署的节点标签实现更灵活的调度策略，若不填写将根据集群默认调度策略进行随机调度。 同时设置多条自定义亲和策略时，需要保证集群中存在同时满足所有亲和策略的节点，否则插件实例将无法运行。
   容忍策略	容忍策略与节点的污点能力配合使用，允许（不强制）插件的 Deployment 实例调度到带有与之匹配的污点的节点上，也可用于控制插件的 Deployment 实例所在的节点被标记污点后插件的 Deployment 实例的驱逐策略。 插件会对实例添加针对node.kubernetes.io/not-ready和node.kubernetes.io/unreachable污点的默认容忍策略，容忍时间窗为60s。 详情请参见容忍策略。

5. 单击“安装”。

组件说明

版本记录