功能介绍 在Flink应用中，调用flink-connector-kafka模块的接口，生产并消费数据。 代码样例 下面列出producer和consumer主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink.examples.WriteIntoKafka和com

查看更多 →

PyFlink样例程序代码说明 通过Python API的方式提交Flink读写Kafka作业到Yarn上代码样例 下面列出pyflink-kafka.py的主要逻辑代码作为演示，在提交之前需要确保“file_path” 为要运行的SQL的路径，建议写全路径。 完整代码参见“flink

查看更多 →

ZooKeeper的quorumpeer实例业务IP： ZooKeeper服务所有quorumpeer实例业务IP。登录 FusionInsight Manager，选择“集群 > 服务 > ZooKeeper > 实例”，可查看所有quorumpeer实例所在主机业务IP地址。 ZooKeeper客户端端口号：

查看更多 →

Manager（ MRS 3.x及之后版本）。然后选择“集群 > 待操作的集群名称 > 服务 > ZooKeeper > 实例”。 查看ZooKeeper角色实例的IP地址。 记录ZooKeeper角色实例其中任意一个的IP地址即可。 根据业务情况，准备好客户端，登录安装客户端的节点。

查看更多 →

fka模块的接口，生产并消费数据。 代码样例 用户在开发前需要使用对接安全模式的Kafka，则需要引入FusionInsight的kafka-clients-*.jar，该jar包可在kafka客户端目录下获取。 下面代码片段仅为演示，完整代码参见FlinkKafkaScalaExample样例工程下的com

查看更多 →

jar，该jar包可在MRS client目录下获取。 代码样例 下面列出producer和consumer主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink.examples.WriteIntoKafka和com.huawei.flink.example.kafka

查看更多 →

return props; } BOOTSTRAP_SERVERS需根据集群实际情况，配置为Kafka Broker节点的主机名及端口，可通过集群FusionInsight Manager界面中选择“集群 > 服务 > Kafka > 实例”查看。 SECURITY_PROT

查看更多 →

在Flink任务运行过程中禁止重启HDFS服务或者重启所有DataNode实例，否则可能会导致任务失败，并可能导致应用部分临时数据无法清空。 运行DataStream样例程序（Scala和Java语言）。 在终端另开一个窗口，进入Flink客户端目录，调用bin/flink run脚本运行代码，例如： bin/flink

查看更多 →

功能介绍 在Flink应用中，调用flink-connector-kafka模块的接口，生产并消费数据。 代码样例 下面列出producer和consumer主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink.examples.WriteIntoKafka和com

查看更多 →

注意：使用“--enable-az-aware”选项的前提是服务端开启了跨AZ特性，即服务端启动参数“az.aware.enable”为“true”,否则会执行失败。 “--bootstrap-server”方式由服务端生成副本分配方案，后续版本，社区将只支持这种方式来进行Top

查看更多 →

提交代码到代码仓库 开发在本地完成业务代码和IaC脚本后，需要提交代码文件至代码仓库。 前提条件 开发业务代码和编写IaC脚本已完成。 已创建代码仓库。 需要具备开发人员角色权限，权限申请方法请参见申请权限。具体角色权限说明请参考用户角色和权限说明。 操作入口 在开发中心工作台左上角单击，在菜单列表中选择“全部菜单

查看更多 →

在Spark应用中，通过使用StructuredStreaming调用Kafka接口来获取单词记录，然后把单词记录分类统计，得到每个单词记录数。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.spark.examples.KafkaWordCount。 当Streaming

查看更多 →

创建函数 能否在函数代码中使用线程和进程？ FunctionGraph函数工程打包有哪些规范（限制）？ FunctionGraph如何隔离代码？ HTTP函数bootstrap启动文件如何创建？

查看更多 →

return props; } BOOTSTRAP_SERVERS需根据集群实际情况，配置为Kafka Broker节点的主机名及端口，可通过集群FusionInsight Manager界面中单击“集群 > 服务 > Kafka > 实例”查看。 SECURITY_PROT

查看更多 →

注意：使用“--enable-az-aware”选项的前提是服务端开启了跨AZ特性，即服务端启动参数“az.aware.enable”为“true”,否则会执行失败。 “--bootstrap-server”方式由服务端生成副本分配方案，后续版本，社区将只支持这种方式来进行Top

查看更多 →

flink”目录执行，例如“/opt/client/Flink/flink”。 在Flink任务运行过程中禁止重启HDFS服务或者重启所有DataNode实例，否则可能会导致任务失败，并可能导致应用部分临时数据无法清空。 请确保Jar包和配置文件的用户权限与Flink客户端一致，例如都是omm用户，且权限为755。

查看更多 →

请求数据、广告展示数据、广告点击数据，实时获取广告有效展示统计数据和广告有效点击统计数据，将统计结果写入kafka中。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.spark.examples.KafkaADCount。 /** * 运行Structured

查看更多 →

已完成实名制认证。未完成可在华为云上单击实名认证完成认证，否则无法使用设备接入功能。 已开通设备接入服务。未开通则访问设备接入服务，单击“立即使用”后开通该服务。开通设备接入服务，进入到设备发放服务页面，单击“授权开通”对服务进行授权。 对应的设备接入服务已经上传了产品。 整体方案 基于MQTT协议的上行请求引导和下行接受引导信息的业务定义如下：

查看更多 →

使用Kafka客户端SSL加密 前提说明 客户端使用SSL功能前，必须要保证服务端SSL对应服务功能已经开启（服务端参数“ssl.mode.enable”设置为“true”）。 SSL功能需要配合API进行使用，可参考Kafka安全使用说明章节。 使用说明 Linux客户端使用SSL功能

查看更多 →

protocol：Kafka的安全协议。在Kafka实例控制台的基本信息页面中获取。很久前创建的Kafka实例在详情页如果未显示“启用的安全协议”，默认使用SASL_SSL协议。 sasl.mechanism：SASL认证机制。在Kafka实例控制台的基本信息页面中获取。如果SC RAM -

查看更多 →

华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →