AI&大数据

高精度,多场景,快响应,AI&大数据助力企业降本增效

 
 

    机器学习参数调优 更多内容
  • 性能调优

    operator tuning”:先进行子图,再进行算子。 推荐先进行子图,再进行算子,因为先进行子图会生成图的切分方式,子图后算子已经被切分成最终的shape了,再进行算子时,会基于这个最终shape去做算子。如果优先算子,这时调的算子s

    来自:帮助中心

    查看更多 →

  • Spark Core调优

    Spark Core 数据序列化 配置内存 设置并行度 使用广播变量 使用External Shuffle Service提升性能 Yarn模式下动态资源调度 配置进程参数 设计DAG 经验总结 父主题: Spark应用

    来自:帮助中心

    查看更多 →

  • 数据倾斜调优

    qual这几种场景不支持优化; 通过统计信息识别到的倾斜优化计划会受到代价、plan_mode_seed参数、best_agg_plan参数影响,而hint、规则识别到的不会。 父主题: SQL进阶

    来自:帮助中心

    查看更多 →

  • Spark CBO调优

    Distinct Value,NDV)、空值个数(Number of Null)和Histogram(支持等宽直方图)。 CBO 自动优化:用户根据自己的业务场景,输入SQL语句查询,程序会自动去判断输入的SQL语句是否符合优化的场景,从而自动选择Join优化算法。 手动优化:用户可以通过DESC

    来自:帮助中心

    查看更多 →

  • 实际调优案例

    实际案例 案例:调整查询重写GUC参数rewrite_rule 案例:调整基于代价的查询重写GUC参数costbased_rewrite_rule 案例:建立合适的索引 案例:增加JOIN列非空条件 案例:改写SQL消除子查询 案例:改写SQL消除in-clause 父主题:

    来自:帮助中心

    查看更多 →

  • SQL调优案例

    SQL案例 案例:选择合适的分布列 案例:建立合适的索引 案例:增加JOIN列非空条件 案例:使排序下推 案例:设置cost_param对查询性能优化 案例:调整局部聚簇键 案例:调整中间表存储方式 案例:改建分区表 案例:调整GUC参数best_agg_plan 案例:改写SQL排除剪枝干扰

    来自:帮助中心

    查看更多 →

  • 数据倾斜调优

    数据倾斜 数据倾斜问题是分布式架构的重要难题,它破坏了MPP架构中各个节点对等的要求,导致单节点(倾斜节点)所存储或者计算的数据量远大于其他节点,所以会造成以下危害: 存储上的倾斜会严重限制系统容量,在系统容量不饱和的情况下,由于单节点倾斜的限制,使得整个系统容量无法继续增长。

    来自:帮助中心

    查看更多 →

  • SQL调优指南

    ”的指引进行了数据库设计。 Query执行流程 SQL执行计划介绍 优流程 更新统计信息 审视和修改表定义 典型SQL优点 经验总结:SQL语句改写规则 SQL关键参数调整 使用Plan Hint进行 检查隐式转换的性能问题 实际案例

    来自:帮助中心

    查看更多 →

  • SQL调优指南

    。 Query执行流程 SQL执行计划介绍 优流程 更新统计信息 审视和修改表定义 典型SQL优点 经验总结:SQL语句改写规则 SQL关键参数调整 使用Plan Hint进行 检查隐式转换的性能问题 使用向量化执行引擎进行 使用SQL PATCH进行 实际调优案例

    来自:帮助中心

    查看更多 →

  • 性能调优

    对于低任务量场景,调整抽取并发数是性能的最佳方式。 CDM 迁移作业支持设置作业抽取并发数,同时也可以设置集群最大抽取并发数。 CDM通过数据迁移作业,将源端数据迁移到目的端数据源中。其中,主要运行逻辑如下: 数据迁移作业提交运行后,CDM会根据作业配置中的“抽取并发数”参数,将每个作业拆分为多个Task,即作业分片。

    来自:帮助中心

    查看更多 →

  • SQL调优进阶

    SQL进阶 SQL自诊断 语句下推 子查询 统计信息 算子级 数据倾斜 SQL语句改写规则 优化器参数调整 父主题: SQL

    来自:帮助中心

    查看更多 →

  • 语句下推调优

    。在进行性能的时候,应尽量避免只能选择第3种策略的查询语句。 执行语句不能下推是因为语句中含有不支持下推的函数或者不支持下推的语法。一般都可以通过等价改写规避执行计划不能下推的问题。 语句下推典型场景 在 GaussDB 优化器中如果想要支持语句下推需要将GUC参数enable_

    来自:帮助中心

    查看更多 →

  • 子查询调优

    子查询 子查询背景介绍 应用程序通过SQL语句来操作数据库时会使用大量的子查询,这种写法比直接对两个表做连接操作在结构上和思路上更清晰,尤其是在一些比较复杂的查询语句中,子查询有更完整、更独立的语义,会使SQL对业务逻辑的表达更清晰更容易理解,因此得到了广泛的应用。 Gaus

    来自:帮助中心

    查看更多 →

  • 子查询调优

    子查询 子查询背景介绍 应用程序通过SQL语句来操作数据库时会使用大量的子查询,这种写法比直接对两个表做连接操作在结构上和思路上更清晰,尤其是在一些比较复杂的查询语句中,子查询有更完整、更独立的语义,会使SQL对业务逻辑的表达更清晰更容易理解,因此得到了广泛的应用。 Gaus

    来自:帮助中心

    查看更多 →

  • 算子级调优

    算子级 算子级介绍 一个查询语句要经过多个算子步骤才会输出最终的结果。由于个别算子耗时过长导致整体查询性能下降的情况比较常见。这些算子是整个查询的瓶颈算子。通用的优化手段是EXPLAIN ANALYZE/PERFORMANCE命令查看执行过程的瓶颈算子,然后进行针对性优化。

    来自:帮助中心

    查看更多 →

  • 算子级调优

    算子级 算子级介绍 一个查询语句要经过多个算子步骤才会输出最终的结果。由于个别算子耗时过长导致整体查询性能下降的情况比较常见。这些算子是整个查询的瓶颈算子。通用的优化手段是EXPLAIN ANALYZE/PERFORMANCE命令查看执行过程的瓶颈算子,然后进行针对性优化。

    来自:帮助中心

    查看更多 →

  • 算子级调优

    算子级 算子级介绍 一个查询语句要经过多个算子步骤才会输出最终的结果。由于个别算子耗时过长导致整体查询性能下降的情况比较常见。这些算子是整个查询的瓶颈算子。通用的优化手段是EXPLAIN ANALYZE/PERFORMANCE命令查看执行过程的瓶颈算子,然后进行针对性优化。

    来自:帮助中心

    查看更多 →

  • 实际调优案例

    实际案例 案例:选择合适的分布列 案例:建立合适的索引 案例:调整分布键 案例:调整GUC参数best_agg_plan 案例:改写SQL消除子查询 案例:改写SQL排除剪枝干扰 案例:改写SQL消除in-clause 案例:调整查询重写GUC参数rewrite_rule 案

    来自:帮助中心

    查看更多 →

  • 数据倾斜调优

    qual这几种场景不支持优化; 通过统计信息识别到的倾斜优化计划会受到代价、plan_mode_seed参数、best_agg_plan参数影响,而hint、规则识别到的不会。 父主题: SQL进阶

    来自:帮助中心

    查看更多 →

  • CarbonData调优思路

    CPU核数约等于: 并行任务数x扫描仪线程数。其中并行任务数为分割数和执行器数x执行器核数两者之间的较小值。 数据加载性能 数据加载性能与查询性能差异很大。跟查询性能一样,数据加载性能也取决于可达到的并行性。在数据加载情况下,工作线程的数量决定并行的单元。因此,更多的

    来自:帮助中心

    查看更多 →

  • 数据倾斜调优

    数据倾斜 数据倾斜问题是分布式架构的重要难题,它破坏了MPP架构中各个节点对等的要求,导致单节点(倾斜节点)所存储或者计算的数据量远大于其他节点,所以会造成以下危害: 存储上的倾斜会严重限制系统容量,在系统容量不饱和的情况下,由于单节点倾斜的限制,使得整个系统容量无法继续增长。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了