中软国际数据治理专业服务解决方案实践

机器学习端到端场景 本章节以图像分类为例，阐述机器学习端到端场景的完整开发过程，主要包括数据标注、模型训练、服务部署等过程。您可以前往AI Gallery搜索订阅预置的“图像分类-ResNet_v1_50工作流”进行体验。 准备工作 准备一个图像分类算法（或者可以直接从AI Ga

查看更多 →

n_clusters auto auto 数据样本的种类数，默认为auto，即按照目录中图片个数取类别总数，可指定具体类别数，如4。 do_validation 否 True 是否进行数据校验，可填True或者False。表示数据去冗余前需要进行数据校验，否则只进行数据去重。 输入要求 算子输入分为两种，“数据集”或“OBS目录”。

查看更多 →

数据去重 SimDeduplication算子概述 可以依据用户设置的相似程度阈值完成图像去重处理。图像去重是图像数据处理常见的数据处理方法。图像重复指图像内容完全一样，或者有少量的尺度、位移、色彩、亮度变化，或者是添加了少量其他内容等。 图1 SimDeduplication效果图

查看更多 →

智能去噪 智能去噪支持对以下三类数据屏蔽： AP屏蔽：对不需要参与到“网络健康度”、“网络问题分析”统计的AP进行屏蔽。 用户屏蔽：对不需要参与到“网络健康度”、“网络问题分析”统计的用户进行屏蔽。 SSID屏蔽：对不需要参与到“网络健康度”、“网络问题分析”统计的SSID下接入的所有用户进行屏蔽。

查看更多 →

使用MLS预置算链进行机器学习建模 本章节介绍如何通过一键运行预置的餐厅经营销售量预测算链，完成建模，帮助开发者快速了解MLS的建模过程。 前提条件 已经创建一个基于MLStudio的Notebook镜像，并进入MLS Editor可视化编辑界面，具体参考进入ML Studio操作界面章节。

查看更多 →

Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number FROM ( SELECT *,

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

系统会从原始数据中去除上述噪声点，并采用线性插值的方法对去除噪声的数据进行填充。操作步骤如下。 单击表头，选择需要数据去噪的特征列。 单击“数据准备”，从下拉框中选择“数据去噪”。 弹出“数据去噪”对话框。检查“已选择特征”是否为用户选择的特征列。 单击“确定”，执行数据去噪。 父主题： Python和Spark开发平台

查看更多 →

Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number FROM ( SELECT *,

查看更多 →

数据集行去重 概述 “去重”节点用于删除数据集中的重复行（假如有两行相同，保留其中一行）。 对于那些不允许有重复记录输入的节点算法，可以先使用该算法做预处理。 输入 参数 子参数 参数说明 inputs dataframe inputs为字典类型，dataframe为pyspark中的DataFrame类型对象

查看更多 →

数据扩增通过简单的数据扩增例如缩放、裁剪、变换、合成等操作直接或间接的方式增加数据量。 数据生成应用相关深度学习模型，通过对原数据集进行学习，训练生成新的数据集的方式增加数据量。 数据域迁移应用相关深度学习模型，通过对原域和目标域数据集进行学习，训练生成原域向目标域迁移的数据。

查看更多 →

窗口去重 功能描述 窗口去重是一种特殊的去重，它根据指定的多个列来删除重复的行，保留每个窗口和分区键的第一个或最后一个数据。 对于流式查询，与普通去重不同，窗口去重只在窗口的最后返回结果数据，不会产生中间结果。它会清除不需要的中间状态。 因此，窗口去重查询在用户不需要更新结果时，

查看更多 →

新列名 经过去噪后产生的新数据的列名。如果不设置，则直接在原有特征列上进行去噪处理。 时间列 待去噪时序数据的时间列。 其他参数配置 该参数用于在去噪时指定frac值。 去噪使用了statsmodels的局部加权回归散点平滑法（locally weighted scatterplot smoothing

查看更多 →

csv”，表示读取文件为该路径下的“sales_train.csv”。 图5 读取数据参数设置 如果源算子和目标算子其中一个及以上具有多个输出输入端口，连线时需选择输入输出端口，如图6所示。 数据集分割算子连线随机森林回归算子，数据集分割算子具有输出端口datafram_1和dataframe_2

查看更多 →

学习任务 管理员以任务形式，把需要学习的知识内容派发给学员，学员在规定期限内完成任务，管理员可进行实时监控并获得学习相关数据。 入口展示 图1 入口展示 创建学习任务 操作路径：培训-学习-学习任务-【新建】 图2 新建学习任务 基础信息：任务名称、有效期是必填，其他信息选填 图3

查看更多 →

学习目标 掌握座席侧的前端页面开发设计。 父主题： 开发指南

查看更多 →

ingTimeWindows类型窗口有效，单位为秒。 去噪字段: 指定去噪字段进行计算。 去噪算法: 指定去噪的算法类型，MaxCountOfValue/MinCountOfValue是某个取值出现的次数最多/最小则为正常数据。 算子如果配置正确，提示为： 算子如果配置错误，提示为：

查看更多 →

在服务首页快捷菜单栏，选择“常用 > 网络环境监控”，单击“查看全部指标”，跳转至无线健康度首页。 单击“智能去噪”。 屏蔽系统自动判断出的离网AP、边缘AP。 在“设备”页签，选择待屏蔽AP，单击“屏蔽去噪”。 确认是否要选中“同时屏蔽问题分析”，单击“确认”。 手动屏蔽AP。 在“设备”页签，单击“手动添加”。

查看更多 →

0版本之前未开启Kerberos认证的集群不支持访问权限细分。只有开启Kerberos认证才有角色管理权限， MRS 1.8.0及之后版本的所有集群均拥有角色管理权限。 MRS集群未开启kerberos认证，视为“不合规” MRS服务暂不支持集群创建完成后手动开启和关闭Kerberos服务，

查看更多 →