在ISDP+开发中心首页“开发场景”区域大屏开发场景下，如图1所示，单击“订购资产”，进入资产货架页面。 图1 进入订购资产 订购应用资产（大屏数据处理应用模板）。 在“资产货架”页面，根据筛选条件，筛选出需要订阅的资产，或直接输入资产名称查询（支持模糊查询），查询出要订购的资产（大屏），如图2所示。

查看更多 →

Hive和Pig这样的项目使用Tez而不是MapReduce作为其数据处理的骨干，那么将会显著提升它们的响应时间，Tez构建在YARN之上，能够不需要做任何改动地运行MR任务。 商用 Tez简介 4 MRS 支持Presto HA能力 MRS支持为大规格的集群默认安装Presto多实例，

查看更多 →

数据连接概述 DLV 提供了丰富的数据源，您在使用大屏时可以根据数据存储的位置，进行数据连接，在大屏上展示数据结果。 登录DLV控制台，单击“我的数据”，您可以对数据源进行管理。 DLV目前支持接入以下几种类型的数据源： API类 数据库类 文件类 其他 API类 DLV目前只支持API数据源。

查看更多 →

快速创建和使用Kafka流式数据处理集群 操作场景 本入门提供从零开始创建流式分析集群并在Kafka主题中产生和消费消息的操作指导。 Kafka集群提供一个高吞吐量、可扩展性的消息系统，广泛用于日志收集、监控数据聚合等场景。Kafka可实现高效的流式数据采集、实时数据处理存储等。 操作流程

查看更多 →

布、新冠疫情态势大屏、新冠肺炎疫情实时播报、新冠肺炎疫情态势管控大屏、某运输行业大数据平台、数据中心云监控。 预览 用户可以预览数据大屏的即时数据，及时了解数据大屏的呈现效果。 发布 用户开发完成一个数据大屏后，通过发布功能向其他用户分享即时的或历史版本的数据大屏。

查看更多 →

SQL语言操作结构化数据。 MapReduce服务（MRS Clickhouse） ClickHouse是一款开源的面向联机分析处理的列式数据库，其独立于Hadoop大数据体系，最核心的特点是极致压缩率和极速查询性能。同时，ClickHouse支持SQL查询，且查询性能好，特别是基于大宽表的聚合分

查看更多 →

MapReduce任务commit阶段优化 操作场景 默认情况下，如果一个MR任务会产生大量的输出结果文件，那么该job在最后的commit阶段，会耗费较长的时间将每个task的临时输出结果commit到最终的结果输出目录。特别是在大集群中，大Job的commit过程会严重影响任务的性能表现。

查看更多 →

更多的内存来管理。AM默认分配的内存堆大小是1GB。 操作步骤 通过调大如下的参数来进行AM调优。 参数入口： 在Yarn客户端的“mapred-site.xml”配置文件中调整如下参数。“mapred-site.xml”配置文件在客户端安装路径的conf目录下，例如“/opt/

查看更多 →

储bz2、gz压缩格式的数据。 目前MRS集群支持在线创建如下几种类型的作业： MapReduce：提供快速并行处理大量数据的能力，是一种分布式数据处理模式和执行环境，MRS支持提交MapReduce Jar程序。 Spark：基于内存进行计算的分布式计算框架，MRS支持提交SparkSubmit、Spark

查看更多 →

开发大屏 开发页面 单击导入的项目（大屏Demo），单击进入项目。 如图1所示，单击“指挥看板”，进入页面。 图1 进入页面 单击“编辑页面”，进入页面的编辑状态，如图2所示。 图2 编辑状态 在模板页面中，删除组件。 按照规划，删除不要的组件，选择组件，右击鼠标，在弹出的下拉菜单中选择“删除”。

查看更多 →

ocess-output，Tez将若干小任务灵活重组，形成一个大的DAG作业。 图1 Hive基于MapReduce提交任务和基于Tez提交任务流程图 Hive on MapReduce任务中包含多个MapReduce任务，每个任务都会将中间结果存储到HDFS上——前一个步骤中的

查看更多 →

修改项目中数据处理作业的参数接口 功能介绍 修改项目中数据处理作业的参数。 URI URI格式 POST /softcomai/datalake/dataplan/v1.0/data/process/job/{job_id}/config 参数说明 参数名 是否必选 参数类型 备注

查看更多 →

集成ModuleSDK进行数据处理 操作场景 代码解析 注册节点 创建产品 修改代码 项目打包 制作镜像包 创建应用 部署应用 添加边缘设备 设备接入 父主题： 集成ModuleSDK(Java)

查看更多 →

description String 数据处理任务的版本描述。 duration_seconds Integer 数据处理任务的运行时间，单位秒。 inputs Array of ProcessorDataSource objects 数据处理任务的输入通道。 modified_sample_count

查看更多 →

按时老化存储在系统中的用户数据。 根据用户配置，将用户数据存储到 对象存储服务 （Object Storage Service，简称OBS）、MapReduce服务（MapReduce Service,简称MRS）、 数据仓库 服务（Data Warehouse Service，简称DWS）、 数据湖探索 （Data

查看更多 →

compress.codec”项。当map的输出数据大，减少网络压力，使用压缩传输中间数据。 setPriority(JobPriority priority) 指定MapReduce作业的优先级，共有5个优先级别，VERY_HIGH、HIGH、NORMAL、LOW、VERY_LOW，默认级别为

查看更多 →

更多的内存来管理。AM默认分配的内存堆大小是1GB。 操作步骤 通过调大如下的参数来进行AM调优。 参数入口： 在Yarn客户端的“mapred-site.xml”配置文件中调整如下参数。“mapred-site.xml”配置文件在客户端安装路径的conf目录下，例如“/opt/

查看更多 →

存的80%。 是，执行1.e。 否，执行2。 单击“组件管理 > MapReduce > 服务配置 > 全部配置 > JobHistoryServer > 系统”。将GC_OPTS参数中-Xmx的值根据实际情况调大，并单击“保存配置”，勾选“重新启动角色实例。”，单击“确定”进行重启。

查看更多 →

compress.codec”项。当map的输出数据大，减少网络压力，使用压缩传输中间数据。 setPriority(JobPriority priority) 指定MapReduce作业的优先级，共有5个优先级别，VERY_HIGH、HIGH、NORMAL、LOW、VERY_LOW，默认级别为

查看更多 →

compress.codec”项。当map的输出数据大，减少网络压力，使用压缩传输中间数据。 setPriority(JobPriority priority) 指定MapReduce作业的优先级，共有5个优先级别，VERY_HIGH、HIGH、NORMAL、LOW、VERY_LOW，默认级别为

查看更多 →

然后根据它们的键缩小键/值对列表。MapReduce起到了将大事务分散到不同设备处理的能力，这样原来必须用单台较强 服务器 才能运行的任务，在分布式环境下也能完成。 更多信息，请参阅MapReduce教程。 MapReduce结构 MapReduce通过实现YARN的Client和A

查看更多 →