接口总览
Aura DataFrame主要包含数据处理、数据管理、输入/输出、辅助工具、触发执行五个部分:
- 数据处理:支持丰富的变换操作,如map()、flat_map()、filter()、join()、groupby()等,可对样本进行特征工程和结构化处理。
- 数据管理:提供对数据集的增删改查能力,包括insert()、update()、delete()以及索引创建与删除,支持数据生命周期管理。
- 输入/输出:具备向主流湖仓格式,如Parquet、Iceberg写入数据的能力,实现与数据湖无缝集成。
- 辅助工具:提供schema()、columns()和explain_plan()等元信息查询与执行计划分析功能,便于调试与优化。
- 触发执行:通过execute()、limit()、take()等方法触发实际计算并获取结果,支持懒加载与按需执行。
| 操作类型 | 接口 | 描述 |
|---|---|---|
| Dataset APIs | 获取Dataset的所有列的列名集合。 | |
| 给一个Dataset添加列。 | ||
| 删除Dataset的列。 | ||
| 通过指定分组字段,用一组聚合函数对数据集进行聚合。 | ||
| 计算该Dataset的总行数。 | ||
| 执行表达式。 | ||
| 过滤掉不满足条件的行。 | ||
| 将给定的函数应用于每一行,并对结果进行展平。 | ||
| 将给定的函数应用于批量数据。 | ||
| 创建一个分组的Dataset。 | ||
| 在两个Dataset之间执行join操作。 | ||
| 对当前Dataset的每一行应用给定函数。 | ||
| 根据一个或多个表达式对Dataset进行排序。 | ||
| 重命名Dataset中的列。 | ||
| 返回Dataset的schema。 | ||
| 从Dataset的列中选取指定的列。 | ||
| 显示查询结果生成的数据。 | ||
| 从Dataset中返回最多limit行数据,该方法适用于数据检查和预览。 | ||
| 计算Dataset中指定列的最大值。 | ||
| 计算Dataset中指定列的最小值。 | ||
| 计算Dataset中指定列的均值。 | ||
| 计算Dataset中指定列的唯一值集合。 | ||
| 从当前Dataset中选择行,起始位置为偏移量。 | ||
| 从Dataset中返回最多batch_size行数据。 | ||
| AI APIs | 使用大语言模型生成文本,并将生成结果作为新列添加到Dataset中。model_name需已注册。 | |
| 创建一个抽象本地模型,用于绑定到远程LLM服务。 | ||
| 查看指定数据库或默认数据库中的所有模型。 | ||
| 删除与模型名称对应的抽象本地模型。 | ||
| 查看指定的模型的详细信息。 | ||
| Table APIs | 用于将Dataset插入到数据库表中。 | |
| 用于显示表的前N行数据。 | ||
| 将当前表对象转换为Dataset对象。 | ||
| 向表中添加一个或多个新列。 | ||
| 用于从表中删除一个或多个列。 | ||
| 修改表中指定列的数据类型。 | ||
| 重命名表中的列名。 | ||
| 从表中删除满足指定条件的数据。 | ||
| 在指定数据库中创建一个新表。 | ||
| 从数据库中删除指定的Dataset。 | ||
| 描述指定数据库中的表。 | ||
| 从指定数据库中删除一个表。 | ||
| 列出指定数据库或默认数据库中的所有表。 | ||
| 打开指定数据库中的表。 | ||
| 更新表中满足指定条件的行数据。 | ||
| User-Defined Function APIs | 从后端DB中返回UDF的函数签名和返回值类型。 | |
| 从后端DB中返回UDF函数。 | ||
| 从后端DB中返回所有的UDF函数名称。 | ||
| 从后端DB中删除指定的UDF函数。 | ||
| Session APIs | 从指定数据库加载数据集。 | |
| 配置函数部署所需的临时工作区,包括设置必要的凭证和存储信息。 | ||
| 用于执行SQL查询语句,并返回查询结果。 | ||
| 生成作业执行计划。 | ||
| 执行查询并生成计划,计划中包含执行过程中详细的性能指标。 | ||
| 获取当前会话的所有历史作业的执行记录。 | ||
| I/O APIs | 从OBS指定的路径中读取图片文件到Dataset。 | |
| 从OBS指定的路径中读取音频文件到Dataset。 | ||
| 从OBS指定的路径中读取视频帧(图片)文件到Dataset。 | ||
| 将图片数据写入指定路径的OBS中。 | ||
| 将音频数据写入指定路径的OBS中。 | ||
| 将视频数据写入指定路径的OBS中。 | ||
| 将数据写入指定的Iceberg表中。 | ||
| 将数据写入指定的ORC表中。 | ||
| 将数据写入指定的parquet表中。 |