如某导购网站 日志分析 业务，存储经常扩容，计算需求没有明显增长，计算资源浪费；某互联网客户推荐业务，存储容量缓慢线性增加，计算突发需求大，峰值计算资源消耗是低谷时几十倍，无法弹性使用计算资源。使用对象存储代替HDFS/本地盘，计算存储分离，多种计算组件独立部署，计算和存储各自按需使用，避免绑定性浪费，结构化降本30%。

查看更多 →

技术原理 下图展示在 app 中集成视频通话的基本工作流程： 图2-1技术原理

查看更多 →

技术模型 技术模型定义系统采用的关键技术部件和技术栈，包括整体框架技术，公共机制，基础设施，公共服务/组件，以及各逻辑功能元素的技术方案等。元素介绍如下表所示： 表1 技术模型元素介绍 元素名 图标 含义 Module （IEEE 610.12-1990）系统中一个逻辑上可分离的

查看更多 →

技术架构 创建技术架构 复制技术架构 创建技术适配器 父主题： 信息架构

查看更多 →

数据处理支持什么类型脚本？ 目前数据处理仅支持Python脚本。数据处理集成了华为公有云ModelArts服务的引擎，用来执行用户自编码的Python脚本。 父主题： 数据处理

查看更多 →

数据处理场景介绍 ModelArts平台提供的数据处理功能，基本目的是从大量的、杂乱无章的、难以理解的数据中抽取或者生成对某些特定的人们来说是有价值、有意义的数据。当数据采集和接入之后，数据一般是不能直接满足训练要求的。为了保障数据质量，以免对后续操作（如数据标注、模型训练等）带

查看更多 →

个人数据处理说明 个人数据清单 使用目的 存留期 用户屏幕图像 投屏中屏幕镜像信息投放 IdeaShare不保存个人数据 用户音频输出口 投屏中音频信息投放 用户IP地址 投屏连接

查看更多 →

技术原理 应用安全的原理如图1所示。 图1 应用安全原理图 父主题： 应用安全介绍

查看更多 →

技术模型的基础构造型与自定义构造型元素才认定为技术元素）。 在技术模型图上创建出来的技术元素； 引用到技术模型中的技术元素（包含关联空间中的引用的技术元素）； 如何检查 查询基于模型图（只有技术模型图内的技术元素参与构树）并展示不匹配元素构出的技术模型架构树，找出所有技术元素中不在架构树中的技术元素。 正确示例

查看更多 →

分布式数据处理模式和执行环境， MRS 支持提交MapReduce Jar程序。 Spark：基于内存进行计算的分布式计算框架，MRS支持提交SparkSubmit、Spark Script和Spark SQL作业。 SparkSubmit：提交Spark Jar和Spark Python程序，运行Spark

查看更多 →

技术原理 父主题： CA代理服务介绍

查看更多 →

技术原理 CA服务技术原理图请参见图1。 图1 CA服务的技术原理 用户在通过CA服务申请证书时，需要根据实际需求来配置CA信息、证书模板、白名单和CRL等信息。 申请证书方式： 手动申请：分为通过基本信息申请证书、通过上传 CS R文件申请证书两种方式。 自动申请：通过配置CMP协

查看更多 →

技术栈 查询运行时栈 查询内置镜像 创建技术栈 根据技术栈ID查询技术栈 根据技术栈ID修改技术栈 根据技术栈ID删除技术栈 发布和取消发布技术栈 父主题： 应用管理API（v3版本）

查看更多 →

生的数据量越来越大，数据种类越来越多，数据产生的速度越来越快。传统的数据处理技术，比如说单机存储，关系数据库已经无法解决这些新的大数据问题。为解决以上大数据处理问题，Apache基金会推出了Hadoop大数据处理的开源解决方案。Hadoop是一个开源分布式计算平台，可以充分利用集

查看更多 →

String 技术栈类型：Nodejs、Java、Tomcat、Python、Docker、Php。 version String 技术栈版本。 spec Object 技术栈相关参数，请参考表6。 system Integer 是否是系统技术栈。 1：系统技术栈。 0：自定义技术栈。 status

查看更多 →

DLI 中的Spark组件与MRS中的Spark组件有什么区别？ DLI和MRS都支持Spark组件，但在服务模式、接口方式、应用场景和性能特性上存在一些差异。 DLI服务的Spark组件是全托管式服务，用户对Spark组件不感知，仅仅可以使用该服务，且接口为封装式接口。 DLI的

查看更多 →

用户项目ID。获取方法请参见获取项目ID和名称。 task_id 是 String 数据处理任务ID。 version_id 是 String 数据处理任务的版本ID。 请求参数 无 响应参数 无 请求示例 停止数据处理任务的版本 POST https://{endpoint}/v2/{pr

查看更多 →

查看数据处理任务详情 登录ModelArts管理控制台，在左侧的导航栏中选择“数据准备>数据处理”，进入“数据处理”页面。 在数据处理列表中，单击数据处理任务名称，进入数据处理任务的版本管理页面。您可以在该页面进行数据处理任务的“修改”与“删除”。 图1 数据处理版本管理页面 您可

查看更多 →

Spark Spark基本原理 Spark HA方案介绍 Spark与其他组件的关系 Spark开源增强特性 父主题： 组件介绍

查看更多 →

运行Spark Streaming任务参数调优的注意事项 问题 运行Spark Streaming任务时，随着executor个数的增长，数据处理性能没有明显提升，对于参数调优有哪些注意事项？ 回答 在executor核数等于1的情况下，遵循以下规则对调优Spark Streaming运行参数有所帮助。

查看更多 →

String 技术栈类型：Nodejs、Java、Tomcat、Python、Docker、Php。 version String 技术栈版本。 spec Object 技术栈相关参数，请参考表4。 system Integer 是否是系统技术栈。 1：系统技术栈。 0：自定义技术栈。 status

查看更多 →