placeholder_type=wf.PlaceholderType.STR, default="0.002", description="训练的学习率策略(10:0.001,20:0.0001代表0-10个epoch学习率0.001，10-20epoch学习率0.0001),如果不指定epoch

查看更多 →

使用MLS预置算链进行机器学习建模 本章节介绍如何通过一键运行预置的餐厅经营销售量预测算链，完成建模，帮助开发者快速了解MLS的建模过程。 前提条件 已经创建一个基于MLStudio的Notebook镜像，并进入MLS Editor可视化编辑界面，具体参考进入ML Studio操作界面章节。

查看更多 →

方库，尤其是基于PySpark的融合机器学习相关的大数据分析程序。传统上，通常是直接基于pip把Python库安装到执行机器上，对于 DLI 这样的Serverless化服务用户无需也感知不到底层的计算资源，那如何来保证用户可以更好的运行他的程序呢？ DLI服务在其计算资源中已经内置

查看更多 →

collect() spark-submit 用于提交Spark应用到Spark集群中运行，返回运行结果。需要指定class、master、jar包以及入参。 示例：执行jar包中的GroupByTest例子，入参为4个，指定集群运行模式是local单核运行。 ./bin/spark-submit

查看更多 →

Studio操作界面章节。 Step1 创建一个空算链 单击Launcher界面的MLS Editor，选择名为PySpark-2.4.5的Kernel，创建一个空的算链。 创建算链后，左侧界面自动跳转到资产预览界面。 图1 算链创建成功 Step2 使用ML Studio建模 从左侧资产浏览界面

查看更多 →

，可帮助开发者快速构建具有实用价值的机器学习应用。 MLS为AI开发者提供可视化的操作界面来编排机器学习模型的训练、评估和预测的过程，无缝衔接数据分析和预测应用，为用户的数据挖掘分析业务提供易用、高效、高性能的工具。 了解概念 算子 在MLS中，算子是一种基本功能单元，以ipyn

查看更多 →

collect() spark-submit 用于提交Spark应用到Spark集群中运行，返回运行结果。需要指定class、master、jar包以及入参。 示例：执行jar包中的GroupByTest例子，入参为4个，指定集群运行模式是local单核运行。 ./bin/spark-submit

查看更多 →

0版本之前未开启Kerberos认证的集群不支持访问权限细分。只有开启Kerberos认证才有角色管理权限， MRS 1.8.0及之后版本的所有集群均拥有角色管理权限。 MRS集群未开启kerberos认证，视为“不合规” MRS服务暂不支持集群创建完成后手动开启和关闭Kerberos服务，

查看更多 →

开发一个DLI Spark作业 在本章节您可以学习到数据开发模块资源管理、作业编辑等功能。 场景说明 用户在使用DLI服务时，大部分时间会使用SQL对数据进行分析处理，有时候处理的逻辑特别复杂，无法通过SQL处理，那么可以通过Spark作业进行分析处理。本章节通过一个例子演示如何在数据开发模块中提交一个Spark作业。

查看更多 →

提供了一个简单学习API的方法，类似于交互式数据分析的工具。同时支持Scala和Python两种语言。在Spark目录下，执行./bin/spark-shell即可进入Scala交互式界面从HDFS中获取数据，再操作RDD。 示例：一行代码可以实现统计一个文件中所有单词。 scala> sc.textFile("hdfs://10

查看更多 →

基本概念 AI引擎 可支持用户进行机器学习、深度学习、模型训练作业开发的框架，如Tensorflow、Spark MLlib、MXNet、PyTorch、华为自研AI框架MindSpore等。 数据集 某业务下具有相同数据格式的数据逻辑集合。 特征操作 特征操作主要是对数据集进行特征处理。

查看更多 →

按不同的模块分，Spark Core和Spark Streaming使用上表中的API接口进行程序开发。而SparkSQL模块，支持CLI或者ThriftServer两种方式访问。其中ThriftServer的连接方式也有Beeline和JDBC客户端代码两种。 spark-sql脚本

查看更多 →

提供了一个简单学习API的方法，类似于交互式数据分析的工具。同时支持Scala和Python两种语言。在Spark目录下，执行./bin/spark-shell即可进入Scala交互式界面从HDFS中获取数据，再操作RDD。 示例：一行代码可以实现统计一个文件中所有单词。 scala> sc.textFile("hdfs://10

查看更多 →

present in query. */ def getFilteredSegments(sql: String, sparkSession: SparkSession): Array[String]; 例子： CarbonSegmentUtil.getFilteredSegments("select

查看更多 →

present in query. */ def getFilteredSegments(sql: String, sparkSession: SparkSession): Array[String]; 例子： CarbonSegmentUtil.getFilteredSegments("select

查看更多 →

迁移学习 如果当前数据集的特征数据不够理想，而此数据集的数据类别和一份理想的数据集部分重合或者相差不大的时候，可以使用特征迁移功能，将理想数据集的特征数据迁移到当前数据集中。 进行特征迁移前，请先完成如下操作： 将源数据集和目标数据集导入系统，详细操作请参见数据集。 创建迁移数据

查看更多 →

Spark Spark jar包冲突列表 Jar包名称 描述 处理方案 spark-core_2.1.1-*.jar Spark任务的核心jar包。 Spark可以直接使用开源同版本的Spark包运行样例代码，但是不同版本的spark-core包在使用的时候可能导致互相序列化ID不一样，因此建议使用集群自带jar包。

查看更多 →

ML Studio快速入门 背景信息 使用MLS预置算链进行机器学习建模 从0到1利用ML Studio进行机器学习建模 父主题： ML Studio

查看更多 →

提交机制的工作原理 在CCE上运行SparkPi例子 在执行Spark的机器上安装kubectl，详情请参见通过kubectl连接集群。 kubectl安装成功后，执行如下命令授予集群权限。 # 创建服务账号 kubectl create serviceaccount spark # 将集群角色s

查看更多 →

Spark Spark基本原理 Spark HA方案介绍 Spark与其他组件的关系 Spark开源增强特性 父主题： 组件介绍

查看更多 →

声音分类场景。可根据最终部署环境和开发者需求的推理速度，自动调优并生成满足要求的模型。 图1 自动学习流程 ModelArts的自动学习不止为入门级开发者使用设计，还提供了“自动学习白盒化”的能力，开放模型参数，实现模板化开发。很多资深的开发者说，希望有一款工具，可以自动生成模型

查看更多 →