Json格式上传流式数据 参见初始化DIS客户端的操作初始化一个DIS客户端实例。 配置参数如下： 1 streamname="dis-test1"| #已存在的通道名 putRecords_sample.py文件中的putRecords_test方法中的records为需要上传的数据内容，数据上传格式如下：

查看更多 →

计算 弹性云服务器 E CS 裸金属服务器 BMS 镜像服务 IMS 弹性伸缩 AS 父主题： SCP授权参考

查看更多 →

提升数据可靠性。 大数据融合分析 随着IT、信息技术的发展和进步，数据资源已经成为企业的核心资源。整合数据资源，构建大数据平台，发现数据价值，成为企业经营的新趋势和迫切诉求。而如何从海量数据中快速挖掘“价值”，成为助力客户实现预测性分析的关键要素。 图2 大数据融合分析 优势 统一分析入口

查看更多 →

快速购买Kafka流式集群 本章节为您介绍如何快速购买一个Kafka流式集群，Kafka集群使用Kafka和Storm组件提供一个开源高吞吐量，可扩展性的消息系统。广泛用于日志收集、监控数据聚合等场景，实现高效的流式数据采集，实时数据处理存储等。 Kafka流式集群包含如下组件：

查看更多 →

提交流式训练作业 功能介绍 该接口用于提交流式训练作业。 URI POST /v1/{project_id}/stream-etl-job 参数说明请参见表1。 表1 URI参数说明 名称 是否必选 类型 说明 project_id 是 String 项目编号，用于资源隔离。获取方法请参见获取项目ID。

查看更多 →

Flink流式读Hudi表规则 Flink流式读Hudi表参数规范如下所示。 表1 Flink流式读Hudi表参数规范 参数名称 是否必填 参数描述 示例 Connector 必填 读取表类型。 hudi Path 必填 表存储的路径。 根据实际情况填写 table.type 必填

查看更多 →

Flink流式写Hudi表规范 Flink流式写Hudi表规则 Flink流式写Hudi表建议 父主题： Flink on Hudi开发规范

查看更多 →

Flink流式写Hudi表建议 使用SparkSQL统一建表。 推荐使用Spark异步任务对Hudi表进行Compaction。 父主题： Flink流式写Hudi表规范

查看更多 →

对接大数据组件 支持的大数据组件简介 Hadoop对接OBS Hive对接OBS Spark对接OBS Presto对接OBS Flume对接OBS DataX对接OBS Druid对接OBS Flink对接OBS Logstash对接OBS 父主题： 大数据场景下使用OBS实现存算分离

查看更多 →

数据计算 算子简介 名称：数据计算 功能说明：按照表达式进行数值计算，计算的结果赋值给某个属性。举例：原消息中有温度属性，其数值是以摄氏度数值表示，可以通过本算子设置计算公式，将摄氏温度计算转换成华氏度读数再赋予给原来的温度属性，或者可以选择将计算转换后的数值赋予一个新属性。 约

查看更多 →

计算服务 本章节主要介绍弹性 云服务器 、裸金属 服务器 和镜像服务，让您更好的了解这些计算服务。 弹性云服务器 弹性云服务器（Elastic Cloud Server，ECS）是由CPU、内存、镜像、云硬盘组成的一种可随时获取、弹性可扩展的计算服务器，同时它结合VPC、虚拟防火墙、数据

查看更多 →

计算配置 节点类型 参数名 取值范围 默认值 是否允许修改 作用范围 type 无 无 允许 CCE Standard/ CCE Turbo CCE Standard集群： 弹性云服务器-虚拟机：基于弹性云 服务器部署 容器服务。 弹性云服务器-物理机：基于擎天架构的服务器部署容器服务。

查看更多 →

计算配置 节点池类型 节点池类型。不填写时默认为vm。 参数名 取值范围 默认值 是否允许修改 作用范围 .spec.type vm、ElasticBMS、pm vm 支持初始化时配置，不支持后续修改 CCE Standard/CCE Turbo 匹配实际节点ECS/BMS规格分类

查看更多 →

表单、预置数据表中选择数值组件。 绝对值：计算某个字段的绝对值，只能选取1个数值组件。 平均值：计算字段的平均值，支持选取1个或多个数值组件。 最小值：计算字段中的最小值，支持选取1个或多个数值组件。 最大值：计算字段中的最大值，支持选取1个或多个数值组件。 自定义算式：由数值组

查看更多 →

计算签名 将SK（Secret Access Key）和创建的待签字符串作为加密哈希函数的输入，计算签名，将二进制值转换为十六进制表示形式。 伪代码如下： signature = HexEncode(HMAC(Secret Access Key, string to sign))

查看更多 →

对接大数据平台 支持的大数据平台简介 华为云 MRS 对接OBS Cloudera CDH对接OBS Hortonworks HDP对接OBS 父主题： 大数据场景下使用OBS实现存算分离

查看更多 →

表单、预置数据表中选择数值组件。 绝对值：计算某个字段的绝对值，只能选取1个数值组件。 平均值：计算字段的平均值，支持选取1个或多个数值组件。 最小值：计算字段中的最小值，支持选取1个或多个数值组件。 最大值：计算字段中的最大值，支持选取1个或多个数值组件。 自定义算式：由数值组

查看更多 →

示。 计算类型：当前支持数值和日期计算。 计算方式：在下拉框中选择所需的计算方法。 当“计算类型”选择“数值”时，支持求和、平均值、最大值、最小值和乘积。参与计算的字段当前仅支持“数字输入框”。 在下拉框中选择计算公式，再选择参与计算的字段，即可自动计算出结果。 当“计算类型”选

查看更多 →

Protobuf格式上传流式数据 参见初始化DIS客户端的操作初始化一个DIS客户端实例。 初始化DIS客户端，加入一项参数bodySerializeType，如下所示： cli = disclient(endpoint='', ak=os.environ.get("HUAWEICLOUD_SDK_AK")

查看更多 →

Flink流式读Hudi表规范 Flink流式读Hudi表规则 Flink流式读Hudi表建议 父主题： Flink on Hudi开发规范

查看更多 →

Flink流式读Hudi表建议 设置合理的消费参数避免File Not Found问题 当下游消费Hudi过慢，上游写入端会把Hudi文件归档，导致File Not Found问题。优化建议如下： 调大read.tasks。 如果有限流则调大限流参数。 调大上游compaction、archive、clean参数。

查看更多 →