Spark Core企业级能力增强 配置Spark HA增强高可用 配置Spark事件队列大小 配置parquet表的压缩格式 使用Ranger时适配第三方JDK 使用Spark小文件合并工具说明 配置流式读取Saprk Driver执行结果 父主题： 使用Spark2x（ MRS

查看更多 →

Spark Core企业级能力增强 配置Spark HA增强高可用 配置Spark Native引擎 配置Spark事件队列大小 配置parquet表的压缩格式 使用Ranger时适配第三方JDK 使用Spark小文件合并工具说明 使用Spark小文件合并工具说明 配置流式读取Saprk

查看更多 →

Spark SQL企业级能力增强 配置矢量化读取ORC数据 配置过滤掉分区表中路径不存在的分区 配置Drop Partition命令支持批量删除 配置Hive表分区动态覆盖 配置Spark SQL开启Adaptive Execution特性 父主题： 使用Spark/Spark2x

查看更多 →

使用Tensorflow训练神经网络 应用场景 当前主流的大数据、AI训练和推理等应用（如Tensorflow、Caffe）均采用容器化方式运行，并需要大量GPU、高性能网络和存储等硬件加速能力，并且都是任务型计算，需要快速申请大量资源，计算任务完成后快速释放。本文将演示在云容器

查看更多 →

使用TensorFlow进行线性回归 首先在FunctionGraph页面将tensorflow添加为公共依赖 图1 tensorflow添加为公共依赖 在代码中导入tensorflow并使用 import json import random # 导入 TensorFlow 依赖库

查看更多 →

Hive企业级能力增强 配置Hive目录旧数据自动移除至回收站 配置Hive插入数据到不存在的目录中 配置创建Hive内部表时不能指定Location 配置用户在具有读和执行权限的目录中创建外表 配置基于HTTPS/HTTP协议的REST接口 配置Hive Transform功能开关

查看更多 →

Hive企业级能力增强 配置Hive表不同分区分别存储至OBS和HDFS 配置Hive目录旧数据自动移除至回收站 配置Hive插入数据到不存在的目录中 配置创建Hive内部表时不能指定Location 配置用户在具有读和执行权限的目录中创建外表 配置基于HTTPS/HTTP协议的REST接口

查看更多 →

HDFS企业级能力增强 配置HDFS快速关闭文件功能 配置DataNode节点容量不一致时的副本放置策略 配置DataNode预留磁盘百分比 配置从NameNode支持读操作 配置NameNode黑名单功能 配置Hadoop数据传输加密 父主题： 使用HDFS

查看更多 →

Flink企业级能力增强 Flink SQL语法增强 多流Join场景支持配置表级别的TTL时间 配置Flink SQL Client支持SQL校验功能 Flink作业大小表Join能力增强 父主题： 使用Flink

查看更多 →

获取云主机ID 操作场景 在调用接口的时候，部分URL中需要填入云主机ID，所以需要获取到云主机ID。云主机ID有如下两种获取方式： 调用API获取云主机ID 从控制台获取云主机ID 调用API获取云主机ID 云主机ID可以通过API指定条件获取一个或多个ID，API信息详见查询Flexus

查看更多 →

批量关闭云主机 功能介绍 根据指定的云主机ID列表，批量关机云主机，1分钟内最多可以处理1000台。 本接口为异步接口，当前批量关机云主机请求下发成功后会返回job_id，此时批量关机云主机并没有立即完成，需要通过调用查询任务的执行状态查询job状态，当Job状态为 SUCCESS

查看更多 →

HBase企业级能力增强 配置HBase本地二级索引提升查询效率 增强HBase BulkLoad工具数据迁移能力 配置RSGroup管理RegionServer资源 父主题： 使用HBase

查看更多 →

Kafka企业级能力增强 配置Kafka高可用和高可靠 配置Kafka数据安全传输协议 配置Kafka数据均衡工具 父主题： 使用Kafka

查看更多 →

Yarn企业级能力增强 配置Yarn权限控制开关 手动指定运行Yarn任务的用户 配置AM失败重试次数 配置AM自动调整分配内存 配置AM作业自动保留 配置Yarn数据访问通道协议 配置自定义调度器的WebUI 配置NodeManager角色实例使用的资源 配置ResourceM

查看更多 →

Oozie企业级能力增强 开启Oozie HA机制 使用Share Lib工具检查Oozie依赖Jar包正确性 父主题： 使用Oozie

查看更多 →

Doris企业级能力增强 配置Doris高可用功能 配置Doris支持多源数据 父主题： 使用Doris

查看更多 →

HDFS企业级能力增强 配置DataNode节点容量不一致时的副本放置策略 配置DataNode预留磁盘百分比 配置从NameNode支持读操作 配置NameNode黑名单功能 配置Hadoop数据传输加密 父主题： 使用HDFS

查看更多 →

HBase企业级能力增强 配置HBase全局二级索引提升查询效率 配置HBase本地二级索引提升查询效率 增强HBase BulkLoad工具数据迁移能力 配置HBase冷热分离 配置RSGroup管理RegionServer资源 查看HBase慢请求和超大请求信息 父主题： 使用HBase

查看更多 →

Kafka企业级能力增强 配置Kafka高可用和高可靠 配置Kafka数据安全传输协议 配置Kafka数据均衡工具 配置外网客户端访问Kafka Broker 父主题： 使用Kafka

查看更多 →

Yarn企业级能力增强 配置Yarn权限控制开关 手动指定运行Yarn任务的用户 配置AM失败重试次数 配置AM自动调整分配内存 配置AM作业自动保留 配置Yarn数据访问通道协议 配置自定义调度器的WebUI 配置NodeManager角色实例使用的资源 配置ResourceM

查看更多 →

推理基础镜像详情TensorFlow（CPU/GPU） ModelArts提供了以下TensorFlow（CPU/GPU）推理基础镜像： 引擎版本一：tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64 引擎版本二： tensorflow_1

查看更多 →