在介绍Workflow之前，先了解MLOps的概念。 MLOps(Machine Learning Operation)是“机器学习”（Machine Learning）和“DevOps”（Development and Operations）的组合实践。机器学习开发流程主要可以定义为四个步骤：项目设计、

查看更多 →

Kafka性能优化 Kafka性能优化 优化客户端配置 生产者配置建议 可参考配置建议。 消费者配置建议 参数 推荐值 说明 max.poll.records 500 消费者一次能消费到的最大消息数量，默认为500，如果每条消息处理时间较长，建议调小该值，确保在max.poll.interval

查看更多 →

集群服务部署规划 服务规模与业务容量参数配置对照表 Spark作为内存计算引擎，需要更多的内存和CPU。用户在规划规格时，应根据当前的业务容量和增长速度，规划合理的内存和CPU资源，特别需要关注以下几点： 当程序运行在yarn-client模式下时，需要关注在driver端汇聚

查看更多 →

性能优化类 Hadoop压力测试工具如何获取？ 如何提高集群Core节点的资源使用率？ 如何配置 MRS 集群knox内存？ 如何调整MRS集群manager-executor进程内存？ 如何设置Spark作业执行时自动获取更多资源？ spark.yarn.executor.memo

查看更多 →

xml”中，查看Hive的数据库路径的配置，默认为“/user/hive/warehouse”。Spark服务多实例默认数据库路径为“/user/hive/warehouse”，例如“/user/hive1/warehouse”。 <property> <name>hive.metastore

查看更多 →

一，通过将Numeric转化为int64/int128类型，提高Numeric运算的性能。 该参数属于SUSET类型参数，请参考表1中对应设置方法进行设置。 取值范围：布尔型 on/true表示开启Numeric优化。 off/false表示关闭Numeric优化。 默认值：on

查看更多 →

开销。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。 取值范围：浮点型，0～DBL_MAX。 默认值：0.005 cpu_operator_cost 参数说明：设置优化器计算一次查询中执行一个操作符或函数的开销。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

HOURS;--单位只支持HOURS 优化Delta表 为了提高查询速度，Delta Lake支持优化数据在存储中的布局，这会将许多较小的文件压缩为较大的文件。 optimize delta_table0; optimize delta_table0 where date >= '2020-01-01'; Z排序

查看更多 →

开销。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。 取值范围：浮点型，0～DBL_MAX。 默认值：0.005 cpu_operator_cost 参数说明：设置优化器计算一次查询中执行一个操作符或函数的开销。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

优化器开销常量 介绍优化器开销常量。这里描述的开销可以按照任意标准度量。只关心其相对值，因此以相同的系数缩放它们将不会对优化器的选择产生任何影响。缺省时，以抓取顺序页的开销为基本单位。也就是说将seq_page_cost设为1.0，同时其他开销参数以该参数为基准设置。也可以使用其他基准，比如以毫秒计的实际执行时间。

查看更多 →

参数说明：由于LLVM编译生成最终的可执行机器码需要一定时间，因此只有当实际执行的代价大于编译生成机器码所需要的代价和优化后的执行代价之和时，利用代码生成才有收益。codegen_cost_threshold标识代价的阈值，当执行估算代价大于该代价时，使用LLVM优化。codegen使用执行算子

查看更多 →

float，一般不建议用户修改 TPE算法 TPE算法全称Tree-structured Parzen Estimator，是一种利用高斯混合模型来学习超参模型的算法。在每次试验中，对于每个超参，TPE为与最佳目标值相关的超参维护一个高斯混合模型l(x)，为剩余的超参维护另一个高斯混合模型

查看更多 →

seq_page_cost 参数说明：设置优化器计算一次顺序磁盘页面抓取的开销。 参数类型：USERSET 取值范围：浮点型，0～DBL_MAX。 默认值：1 random_page_cost 参数说明：设置优化器计算一次非顺序抓取磁盘页面的开销。 参数类型：USERSET 取值范围：浮点型，0～DBL_MAX。

查看更多 →

际执行的代价大于编译生成机器码所需要的代码和优化后的执行代价之和时，利用代码生成才有收益。codegen_cost_threshold标识代价的阈值，当执行估算代价大于该代价时，使用LLVM优化。 参数类型：USERSET 取值范围：整型，0～INT_MAX 默认值：10000

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 参数类型：USERSET 取值范围：布尔型 on表示使用。

查看更多 →

要启动聚合算法优化，在Spark客户端的“spark-defaults.conf”配置文件中进行设置。 表1 参数介绍 参数 描述 默认值 spark.sql.codegen.aggregate.map.twolevel.enabled 是否开启聚合算法优化： true：开启 false：不开启

查看更多 →

SQL分析与优化 查看TaurusDB的慢SQL 查看TaurusDB的TOP SQL 使用TaurusDB的SQL洞察 使用TaurusDB的SQL限流 使用TaurusDB自治限流 父主题： 智能DBA助手

查看更多 →

之前，请先部署系统应用$sys_edge_apigw。 添加流转规则 流转规则是非必选的，OT应用需要添加数据流转规则。驱动应用和IT应用不用添加。 父主题： 集成ModuleSDK进行数据处理

查看更多 →