中软国际数据治理专业服务解决方案实践

Hive ORC数据存储优化 操作场景 “ORC”是一种高效的列存储格式，在压缩比和读取效率上优于其他文件格式。 建议使用“ORC”作为Hive表默认的存储格式。 前提条件 已登录Hive客户端，具体操作请参见Hive客户端使用实践。 操作步骤 推荐：使用“SNAPPY”压缩，适用于压缩比和读取效率要求均衡场景。

查看更多 →

数据分区查找优化 分区表对数据查找方面的帮助主要体现在对分区键进行谓词查询场景，例如一张以月份Month作为分区键的表，如图1所示。如果以普通表的方式设计表结构则需要访问表全量的数据（Full Table Scan），如果以日期为分区键重新设计该表，那么原有的全表扫描会被优化成为

查看更多 →

数据分区查找优化 分区表对数据查找方面的帮助主要体现在对分区键进行谓词查询场景，例如一张以月份Month作为分区键的表，如图1所示。如果以普通表的方式设计表结构则需要访问表全量的数据（Full Table Scan），如果以日期为分区键重新设计该表，那么原有的全表扫描会被优化成为

查看更多 →

0中的Keras高层接口及TensorFlow2.0实战 深度学习预备知识 介绍学习算法，机器学习的分类、整体流程、常见算法，超参数和验证集，参数估计、最大似然估计和贝叶斯估计 深度学习概览 介绍神经网络的定义与发展，深度学习的训练法则，神经网络的类型以及深度学习的应用 图像识别、 语音识别 、 机器翻译 编程实验

查看更多 →

一次训练所选取的样本数。 训练数据集切分数量 将整个数据集切分成多个子数据集，依次训练，每个epoch训练一个子数据集。 DeepFM DeepFM，结合了FM和深度神经网络对于特征表达的学习，同时学习高阶和低阶特征组合，从而达到准确地特征组合学习，进行精准推荐。 表2 深度网络因子分解机参数说明

查看更多 →

基于文件的权限管理。 高性能 性能 基于软硬件一体化的深度垂直优化。 大数据开源版本性能。 跨源分析 支持多种数据格式，云上多种数据源、E CS 自建数据库以及线下数据库，数据无需搬迁，即可实现对云上多个数据源进行分析，构建企业的统一视图，帮助企业快速完成业务创新和数据价值探索。

查看更多 →

支持样本平衡性综合分析，便于用户直观的了解数据集中不同类别样本的分布情况，判断样本集的分布平衡性，并可在组织内共享数据集。 图10 数据均衡性分析 图11 共享样本数据库管理 全流程可视化自主训练，用户可选择网络结构、数据集利用云端算力进行自动学习，也可以利用notebook进行算法开

查看更多 →

提供“自动学习白盒化”能力，开放模型参数、自动生成模型，实现模板化开发，提高开发效率 采用自动深度学习技术，通过迁移学习（只通过少量数据生成高质量的模型），多维度下的模型架构自动设计（神经网络搜索和自适应模型调优），和更快、更准的训练参数自动调优自动训练 采用自动机器学习技术，基于

查看更多 →

学习任务 管理员以任务形式，把需要学习的知识内容派发给学员，学员在规定期限内完成任务，管理员可进行实时监控并获得学习相关数据。 入口展示 图1 入口展示 创建学习任务 操作路径：培训-学习-学习任务-【新建】 图2 新建学习任务 基础信息：任务名称、有效期是必填，其他信息选填 图3

查看更多 →

课程学习 前提条件 用户具有课程发布权限 操作步骤-电脑端 登录ISDP系统，选择“作业人员->学习管理->我的学习”并进入，查看当前可以学习的课程。 图1 我的学习入口 在“我的学习”的页面，点击每个具体的课程卡片，进入课程详情页面。可以按学习状态（未完成/已完成）、学习类型（

查看更多 →

分区导入数据性能优化 场景描述 当向分区表插入数据的时候，如果插入的数据为常量/参数/表达式等简单类型，会自动对INSERT算子进行执行优化（FastPath）。可以通过执行计划来判断是否触发了执行优化，触发执行优化时Insert计划前会带有FastPath关键字。 示例 gaussdb=#

查看更多 →

大数据优化与提升服务 结合华为自身理论经验，帮助企业规划构建大数据体系和治理平台。 产品介绍 常见问题 计费说明 父主题： 优化与提升

查看更多 →

学习空间 我的课堂 MOOC课程 我的考试

查看更多 →

数据库性能优化 以下章节我们结合一些具体建议和案例来说明如何针对数据库的使用进行性能优化： 1.优化数据库配置实践 数据库的配置参数应从具体业务诉求着手，根据实际需要进行设计；华为云在各个数据库云服务中均提供了默认的配置参数，以满足最普遍的业务需要。 华为云提供了多款数据库服务，

查看更多 →

分区导入数据性能优化 场景描述 当往分区表中插入数据时候，如果插入的数据为常量/参数/表达式等简单类型，会自动对INSERT算子进行执行优化（FastPath）。可以通过执行计划来判断是否触发了执行优化，触发执行优化时Insert计划前会带有FastPath关键字。 示例 gaussdb=#

查看更多 →

优化数据库语句方法 文档数据库属于NoSQL数据库，提供了可扩展的高性能数据解决方案，与关系型数据库（例如MySQL、SQLServer、Oracle）一样，在数据库设计、语句优化、索引创建等方面都会影响数据库的使用性能。 下面从不同维度，给出提升DDS使用性能的建议。 数据库和集合的创建

查看更多 →

知因子分解机。 深度网络因子分解机，结合了因子分解机和深度神经网络对于特征表达的学习，同时学习高阶和低阶特征组合，从而达到准确地特征组合学习，进行精准推荐。DEEPFM算法参数请参见深度网络因子分解机。 核函数特征交互神经网络是深度网络因子分解机的改进版本，深度网络因子分解机通过

查看更多 →

可以实现1分钟以内音频到文字的转换。对于用户上传的二进制音频格式数据，系统经过处理，生成语音对应的文字，支持的语言包含中文普通话、方言以及英语。方言当前支持四川话、粤语和上海话。 产品优势 高识别率 基于深度学习技术，对特定领域场景的语音识别进行优化，识别率达到业界领先。 前沿技术 使用工业界成熟

查看更多 →

的。 准备数据 数据准备主要是指收集和预处理数据的过程。 按照确定的分析目的，有目的性的收集、整合相关数据，数据准备是AI开发的一个基础。此时最重要的是保证获取数据的真实可靠性。而事实上，不能一次性将所有数据都采集全，因此，在数据标注阶段你可能会发现还缺少某一部分数据源，反复调整优化。

查看更多 →

特征的数量并非重点，质量才是，总之强表达能力的特征最重要。 能否挖掘出强表达能力的特征，还在于对数据本身以及具体应用场景的深刻理解，这依赖于经验。 调整参数和超参数。 神经网络中：学习率、学习衰减率、隐藏层数、隐藏层的单元数、Adam优化算法中的β1和β2参数、batch_size数值等。 其他算法中：随机

查看更多 →

知识与场景需求的深度融合，为客户提供 NLP、CV、多模态等领域的模型应用解决方案，帮助企业解决特定的业务问题。 方案架构 天宽昇腾云行业大模型适配服务通过深度学习算法优化与高效计算，结合华为昇腾算力，为各行业提供全面的大模型迁移、适配与优化服务。天宽通过深度优化昇腾算力，结合大

查看更多 →