赞奇超高清云工作站解决方案实践

常用系统权限设置案例 请参考以下文档给IAM用户设置常见云服务的访问权限。 设置 弹性云服务器 （E CS ）的权限 设置弹性负载均衡（ELB）的权限 设置关系型数据库（RDS）的权限 设置云硬盘（EVS）的权限 设置云监控（CES）的权限 设置云容器引擎（CCE）的权限 设置 对象存储服务 （OBS）的权限

查看更多 →

流式计算采用MOR表。 流式计算为低时延的实时计算，需要高性能的流式读写能力，在Hudi表中存在的MOR和COW两种模型中，MOR表的流式读写性能相对较好，因此在流式计算场景下采用MOR表模型。关于MOR表在读写性能的对比关系如下： 对比维度 MOR表 COW表 流式写 高 低 流式读

查看更多 →

视图和关联表设计 视图设计 【建议】除非视图之间存在强依赖关系，否则不建议视图嵌套。 【建议】视图定义中尽量避免排序操作。 关联表设计 【建议】表之间的关联字段应该尽量少。 【建议】关联字段的数据类型应该保持一致。 【建议】关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。

查看更多 →

Hudi表索引设计规范 规则 禁止修改表索引类型。 Hudi表的索引会决定数据存储方式，随意修改索引类型会导致表中已有的存量数据与新增数据之间出现数据重复和数据准确性问题。常见的索引类型如下： 布隆索引：Spark引擎独有索引，采用bloomfiter机制，将布隆索引内容写入到Parquet文件的footer中。

查看更多 →

议使用。 建议 事实表采用日期分区表，维度表采用非分区或者大颗粒度的日期分区 是否采用分区表要根据表的总数据量、增量和使用方式来决定。从表的使用属性看事实表和维度表具有的特点： 事实表：数据总量大，增量大，数据读取多以日期做切分，读取一定时间段的数据。 维度表：总量相对小，增量小

查看更多 →

议使用。 建议 事实表采用日期分区表，维度表采用非分区或者大颗粒度的日期分区 是否采用分区表要根据表的总数据量、增量和使用方式来决定。从表的使用属性看事实表和维度表具有的特点： 事实表：数据总量大，增量大，数据读取多以日期做切分，读取一定时间段的数据。 维度表：总量相对小，增量小

查看更多 →

避免使用分区表，如有需要，可以使用多个独立的表代替。 分区表的缺点： DDL操作需要锁定所有分区，导致所有分区上操作都被阻塞。 当表数据量较大时，对分区表进行DDL或其他运维操作难度大风险高。 分区表使用较少，存在未知风险。 当单台 服务器 性能无法满足时，对分区表进行分拆的成本较高。

查看更多 →

视图和关联表设计 视图设计 除非视图之间存在强依赖关系，否则不建议视图嵌套。 视图定义中尽量避免排序操作。 关联表设计 表之间的关联字段应该尽量少。 关联字段的数据类型应该保持一致。 关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。 父主题： 数据库对象设计

查看更多 →

流式计算采用MOR表。 流式计算为低时延的实时计算，需要高性能的流式读写能力，在Hudi表中存在的MOR和COW两种模型中，MOR表的流式读写性能相对较好，因此在流式计算场景下采用MOR表模型。关于MOR表在读写性能的对比关系如下： 对比维度 MOR表 COW表 流式写 高 低 流式读

查看更多 →

ClickHouse宽表设计原则 宽表设计原则 由于ClickHouse的宽表查询性能较优，且当前ClickHouse可支持上万列的宽表横向扩展。 在大部分场景下，有大表两表join以及多表join的场景，且多个join的表数据变化更新频率较低，这种情况，建议对多个表join查询逻辑提

查看更多 →

ClickHouse本地表设计 规则 单表（分布式表）的记录数不要超过万亿，对于万亿以上表的查询，性能较差，且集群维护难度变大。单表（本地表）不超过百亿。 表的设计都要考虑到数据的生命周期管理，需要进行TTL表属性设置或定期老化清理表分区数据。 单表的字段建议不要超过5000列。

查看更多 →

Hudi表索引设计规范 规则 禁止修改表索引类型。 Hudi表的索引会决定数据存储方式，随意修改索引类型会导致表中已有的存量数据与新增数据之间出现数据重复和数据准确性问题。常见的索引类型如下： 布隆索引：Spark引擎独有索引，采用bloomfiter机制，将布隆索引内容写入到Parquet文件的footer中。

查看更多 →

视图和关联表设计 视图设计 除非视图之间存在强依赖关系，否则不建议视图嵌套。 视图定义中尽量避免排序操作。 关联表设计 表之间的关联字段应该尽量少。 关联字段的数据类型应该保持一致。 关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。 父主题： 数据库对象设计

查看更多 →

视图和关联表设计 视图设计 除非视图之间存在强依赖关系，否则不建议视图嵌套。 视图定义中尽量避免排序操作。 关联表设计 表之间的关联字段应该尽量少。 关联字段的数据类型应该保持一致。 关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。 父主题： 数据库对象设计

查看更多 →

视图和关联表设计 视图设计 除非视图之间存在强依赖关系，否则不建议视图嵌套。 视图定义中尽量避免排序操作。 关联表设计 表之间的关联字段应该尽量少。 关联字段的数据类型应该保持一致。 关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。 父主题： 数据库对象设计

查看更多 →

视图和关联表设计 视图设计 【建议】除非视图之间存在强依赖关系，否则不建议视图嵌套。 【建议】视图定义中尽量避免排序操作。 关联表设计 【建议】表之间的关联字段应该尽量少。 【建议】关联字段的数据类型应该保持一致。 【建议】关联字段在命名上，应该可以明显体现出关联关系。例如，采用同样名称来命名。

查看更多 →

常用操作与系统权限关系 表1列出了 DLI SQL常用操作与系统策略的授权关系，您可以参照该表选择合适的系统策略。更多SQL语法赋权请参考《权限列表》章节。 表1 DLI常用操作与系统权限的关系 资源 操作 说明 DLI FullAccess DLI ReadOnlyAccess Tenant

查看更多 →

0相同的ip都适用于这一条鉴权规则，即192.1.1.1 与 192.1.1.1/32 表达的含义相同。 权限类型 权限分为两部分：读写权限和用户权限。 表1 读写权限 权限 描述 读写 用户拥有读写权限。 只读 用户拥有只读权限。 表2 用户权限 权限 描述 root用户不匿名（no_root_squash）

查看更多 →

my_table_local, rand()); 使用说明 分布式表名称：default.my_table_dis。 本地表名称：default.my_table_local。 通过“AS”关联分布式表和本地表，保证分布式表的字段定义跟本地表一致。 分布式表引擎的参数说明： default_cluster：集群名称。

查看更多 →

图1 流程设计1 单击导入，单击下载流程模板。 图2 流程设计2 下载模板如下 表1 模板 上级流程 *名称 *责任人 描述 - - - - - - - - 模板参数说明如下： 表2 模板参数说明 参数名 说明 上级流程 第一层的流程，其上级流程为空，不用填。 非第一层的流程，其上级

查看更多 →

设计原则 以下是常用的性能优化指导原则： 中心化原则：识别支配性工作量负载功能，并使其处理过程最小化，把注意力集中在对性能影响最大的部分进行提升。 本地化原则：选择靠近的活动、功能和结果的资源；避免通过间接的方式去达到目的，导致通信量或者处理量大辐增加，性能大辐下降。 共享资源：

查看更多 →