训练过程读取数据 在ModelArts上训练模型，输入输出数据如何配置？ 如何提升训练效率，同时减少与OBS的交互？ 大量数据文件，训练过程中读取数据效率低？ 使用Moxing时如何定义路径变量？ 父主题： Standard训练作业

查看更多 →

读取HDFS指定文件内容 功能简介 获取HDFS上某个指定文件的内容。过程为： 使用FileSystem实例的open方法获取读取文件的输入流。 使用该输入流读取HDFS的指定文件的内容。 在完成后，需关闭所申请资源。 代码样例 如下是读文件的代码片段，详细代码请参考com.huawei

查看更多 →

读取HDFS指定文件内容 功能简介 获取HDFS上某个指定文件的内容。过程为： 使用FileSystem实例的open方法获取读取文件的输入流。 使用该输入流读取HDFS的指定文件的内容。 在完成后，需关闭所申请资源。 代码样例 如下是读文件的代码片段，详细代码请参考com.huawei

查看更多 →

读取HDFS指定文件内容 功能简介 获取HDFS上某个指定文件的内容。过程为： 使用FileSystem实例的open方法获取读取文件的输入流。 使用该输入流读取HDFS的指定文件的内容。 在完成后，需关闭所申请资源。 代码样例 如下是读文件的代码片段，详细代码请参考com.huawei

查看更多 →

配置Hive读取Hudi表 Hudi表对应的Hive外部表介绍 Hudi源表对应一份HDFS的数据，通过Spark组件、Flink组件或者Hudi客户端，可以将Hudi表的数据映射为Hive外部表，基于该外部表，Hive可以进行实时视图查询、读优化视图查询以及增量视图查询。 根据

查看更多 →

使用Scan读取HBase数据 功能简介 要从表中读取数据，首先需要实例化该表对应的Table实例，然后创建一个Scan对象，并针对查询条件设置Scan对象的参数值，为了提高查询效率，最好指定StartRow和StopRow。查询结果的多行数据保存在ResultScanner对象

查看更多 →

MySQL 账号管理 数据库管理 SQL操作 表管理 视图管理 存储过程管理 事件管理 触发器管理 函数管理 数据导入和导出 自动生成测试数据（不再推广） 数据追踪与回滚（不再推广） 任务管理 表结构对比与同步（不再推广） DBA智能运维（新版） DBA智能运维（旧版）

查看更多 →

MySQL MySQL连接器用于连接MySQL数据库，负责建立和维护应用程序和MySQL数据库之间的连接，并管理数据的传输。 MySQL是一个流行的开源关系型数据库，广泛用于Web应用程序的后端。它支持多种操作系统，包括Windows、Linux、Unix和Mac OS X。My

查看更多 →

Python API接口 数据处理是通过执行python脚本处理OBS数据。Python脚本执行平台使用的是华为公有云ModelArts服务的训练作业执行引擎。 用户可以在脚本中直接使用MoXing中提供的一套文件对象API，用来读写本地文件或OBS文件系统。 在python脚本

查看更多 →

Python SDK 本章节介绍 对话机器人服务 Python SDK，您可以参考本章节进行快速集成开发。 准备工作 已注册华为云账号，并完成实名认证，账号不能处于欠费或冻结状态。 已具备开发环境，支持Python3及以上版本。 登录“我的凭证 > 访问秘钥”页面，获取Access Key（AK）和Secret

查看更多 →

本样例以“华北-北京四”区域为例，获取对应的项目ID（project_id）。 图2 我的凭证 安装SDK 支持Python3及以上版本，执行python --version检查当前Python的版本信息。 使用SDK前，需要安装“huaweicloudsdkcore”和“huaweicloudsdkfrs”。

查看更多 →

基于Python开发 PyMongo包 连接数据库 访问数据库 完整示例 父主题： 应用程序开发教程

查看更多 →

当前Python文件 使用此启动配置运行当前在代码编辑器中打开的Python文件。 要在没有手动创建启动配置的时候快速运行Python文件，可以在资源管理器右键单击该文件或其代码编辑器中右键单击，从上下文菜单中选择”在终端中运行 Python 文件”。CodeArts IDE会自动为此文件创建

查看更多 →

Python SDK 客户端初始化 使用流程 Python SDK样例参考 父主题： 使用业务面SDK

查看更多 →

配置Python环境 前提条件 确保已安装Python3，目前Python SDK仅支持Python3。 确保已安装setuptools、requests、websocket-client。 操作步骤 下载SDK，通过pip-list命令查看安装包。若未安装，则执行以下命令： pip

查看更多 →

Python（TCP协议） 收发普通消息 收发顺序消息 收发事务消息 发送定时消息 使用ACL权限访问

查看更多 →

MRS Spark Python 功能 通过MRS Spark Python节点实现在MRS中执行预先定义的Spark Python作业。 MRS Spark Python算子的具体使用教程，请参见开发一个MRS Spark Python作业。 参数 用户可参考表1，表2和表3配置MRS

查看更多 →

读取HDFS指定文件内容 功能简介 获取HDFS上某个指定文件的内容。过程为： 使用FileSystem实例的open方法获取读取文件的输入流。 使用该输入流读取HDFS的指定文件的内容。 在完成后，需关闭所申请资源。 代码样例 如下是读文件的代码片段，详细代码请参考com.huawei

查看更多 →

将Spark作业结果存储在MySQL数据库中，缺少pymysql模块，如何使用python脚本访问MySQL数据库？ 缺少pymysql模块，可以查看是否有对应的egg包，如果没有，在“程序包管理”页面上传pyFile。具体步骤参考如下： 将egg包上传到指定的OBS桶路径下。 登录 DLI 管理控制台，单击“数据管理

查看更多 →

使用Get读取HBase数据 功能简介 要从表中读取一条数据，首先需要实例化该表对应的Table实例，然后创建一个Get对象。也可以为Get对象设定参数值，如列族的名称和列的名称。查询到的行数据存储在Result对象中，Result中可以存储多个Cell。 代码样例 以下代码片段在com

查看更多 →

测试连接”。 数据库连接成功后，单击“确定”，即可读取数据库数据。 读取数据需要等待一段时间，您可以单击刷新数据源的状态，当“状态”为“读取成功”即表示成功将本地数据库的物理表读取至应用设计态。 读取成功后，xDM-F会根据读取的物理表数据自动生成相应的建模信息和物理表信息，这些

查看更多 →