Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log prestart脚本日志。 cleanup.log 安装卸载实例时的清理日志。 spark-availability-check

查看更多 →

Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期，应用失败 为什么Spark Str

查看更多 →

Spark on HBase程序 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用

查看更多 →

使用Spark on CCE 使用Spark的Kubernetes调度程序spark-submit，可以将Spark应用程序提交到Kubernetes集群中运行，详情请参见在Kubernetes上运行Spark。使用spark-submit提交Spark应用程序的工作原理如下：

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

DDM是否支持分布式JOIN DDM支持分布式JOIN。 表设计时，增加字段冗余 支持跨分片的JOIN，主要实现的方式有三种：广播表，ER分片和ShareJoin。 DDM目前禁止多个表的跨库update和delete。 父主题： SQL语法类

查看更多 →

据插入到分布式表，分布式表引擎会按轮训算法将数据发送到各个分片。 该键是写分布式表保证数据均匀分布在各分片的唯一方式。 规则 不建议写分布式表。 由于分布式表写数据是异步方式，客户端SQL由Balancer路由到一个节点之后，一批写入数据会先落入写入的节点，随后根据分布式表sch

查看更多 →

_PG_USER_MAPPINGS 存储从本地用户到远程的映射。该视图只有sysadmin权限可以查看。 表1 _PG_USER_MAPPINGS字段 名称 类型 描述 oid oid 从本地用户到远程的映射的oid。 umoptions text[] 用户映射指定选项，使用"k

查看更多 →

是否可以删除 删除的后果 /tmp/spark/sparkhive-scratch 固定目录 存放Spark JD BCS erver中metastore session临时文件 否 任务运行失败 /tmp/sparkhive-scratch 固定目录 存放Spark cli方式运行metastore

查看更多 →

本章节主要介绍SAP应用分布式无HA部署和分布式HA部署的容灾方案。SAP应用分布式无HA部署的文件系统规划如表1所示。SAP应用分布式无HA部署的文件系统规划文件系统文件系统类型建议使用的云服务/ext4云硬盘/usr/sapxfs云硬盘/sapmnt/nfs弹性文件服务的SFS Turbo/usr/sap/transnfs弹

查看更多 →

DMS分布式消息服务 DMS分布式消息服务支持以下各种消息类型： Kafka版：基于开源社区版Kafka提供的消息队列服务，向用户提供计算、存储和带宽资源独占式的Kafka专享实例。 RabbitMq版：完全兼容开源RabbitMQ，提供即开即用、消息特性丰富、灵活路由、高可用、

查看更多 →

分布式锁场景最佳实践 分布式锁场景需根据所选取的路由模式来选择合适的策略。 路由模式为single-read-write, single-read-async-double-write时 由于读写都在同一边，分布式锁不受影响。 路由模式为local-read-single-wri

查看更多 →

_PG_FOREIGN_TABLE_COLUMNS 显示外部表的列信息。该视图只有sysadmin权限可以查看。 表1 _PG_FOREIGN_TABLE_COLUMNS字段 名称 类型 描述 nspname name schema名称。 relname name 表名称。 attname

查看更多 →

样例代码项目 样例名称 样例语言 SparkJavaExample Spark Core程序 Java SparkScalaExample Spark Core程序 Scala SparkPyhtonExample Spark Core程序 Python SparkSQLJavaExample

查看更多 →

提供Python语言的API，Spark Core、SparkSQL和Spark Streaming模块的常用接口请参见Spark Python API接口介绍。 按不同的模块分，Spark Core和Spark Streaming使用上表中的API接口进行程序开发。而SparkSQL模块，支持CLI或者JD

查看更多 →

力拆分成若干个物模型服务，再定义每个物模型服务具备的属性、命令以及命令的参数，最终完成物模型定义。 规则引擎 ROMA Connect不直接存储设备上报的数据，用户可以通过规则引擎配置设备数据的转发规则，把设备上报的数据转发到其他云服务进行存储或做进一步分析处理，供业务应用使用。

查看更多 →

UA配置”页签，勾选需要下发的OPC UA连接点，单击“下发策略”按钮。 配置规则引擎。 配置普通设备采集上来的数据转发到MQS。 在规则引擎界面单击“创建规则”按钮，规则引擎所属应用需要与普通产品相同。 单击规则引擎名称进入规则引擎详情页面，配置数据源端和数据目的端。 数据源端选择之前创建的产品和设备。

查看更多 →

据真实有效等及时有效的管控。 方案架构 业务方案 图1 业务架构图 技术方案 图2 部署架构 架构说明 围绕微服务治理体系，依托分布式消息服务、分布式应用部署、数据库集群等中间件，打造“厚平台，薄应用”开放能力的共享架构； 通过E CS 服务集群，搭建完成应用运行环境，通过RDS数据

查看更多 →

export PATH=$SPARK_HOME/bin:$SPARK_HOME/sbin:$PATH 配置spark。 重命名/opt/spark-2.3.3/conf/spark-env.sh.template为spark-env.sh并增加配置： export SPARK_DIST_CLASSPATH=$(hadoop

查看更多 →

Spark作业相类 Spark作业开发类 Spark作业运维类

查看更多 →