mrs
- 开发指南(适用于2.x及之前)
- 简介
- MapReduce服务样例工程构建方式
- HBase应用开发
- Hive应用开发
- MapReduce应用开发
- HDFS应用开发
- Spark应用开发
- 概述
- 环境准备
- 开发程序
- 调测程序
- 调优程序
- Spark接口
- FAQ
- 如何添加自定义代码的依赖包
- 如何处理自动加载的依赖包
- 运行SparkStreamingKafka样例工程时报“类不存在”问题
- 执行Spark Core应用,尝试收集大量数据到Driver端,当Driver端内存不足时,应用挂起不退出
- Spark应用名在使用yarn-cluster模式提交时不生效
- 如何采用Java命令提交Spark应用
- SparkSQL UDF功能的权限控制机制
- 由于kafka配置的限制,导致Spark Streaming应用运行失败
- 如何使用IDEA远程调试
- 使用IBM JDK产生异常,提示“Problem performing GSS wrap”信息
- Structured Streaming的cluster模式,在数据处理过程中终止ApplicationManager,应用失败
- Spark on Yarn的client模式下spark-submit提交任务出现FileNotFoundException异常
- Spark任务读取HBase报错“had a not serializable result”
- 开发规范
- Storm应用开发
- Kafka应用开发
- Presto应用开发
- OpenTSDB应用开发
- Flink应用开发
- Impala应用开发
- Alluxio应用开发
- 附录
常用概念
链接复制成功!
更新时间:2020/12/15 GMT+08:00
Masters
由两个进程组成,一个是处理用户请求和管理Journal存储系统元数据的Alluxio Master,另一个是调度文件系统操作的Alluxio Job Master。
Workers
负责管理用户可配置的本地资源(例如:内存、SDD、HDD),对底层存储进行数据操作。
Client
Alluxio Client主要包括三种方式:Java API、Shell、HTTP REST API。
- Java API
- Shell
- HTTP REST API
提供除Shell、Java API以外的其他接口,可通过此接口查询信息,具体请参考Alluxio接口。
Namespace
透明命名机制:保证了Alluxio和底层存储系统的命名空间是一致的。
统一命名空间:Alluxio提供了一个挂载API,通过该API能够在Alluxio中访问多个数据源中的数据。
父主题: 概述
