更新时间:2026-09-01 GMT+08:00
分享

force数据集的归一化统计信息算子

force数据集的归一化统计信息算子用于计算数据集中关键特征(action和state)的统计信息(均值、方差等),并将原始数据集复制到目标位置,同时保存这些统计信息供后续训练直接使用。

  • 核心能力:
    • 数据集验证:检查是否为合法的LeRobot V3格式。
    • 自动字段适配:如果缺少action字段,自动添加映射。
    • 统计量计算:计算state和action的均值、方差等统计信息。
    • 数据集复制:完整复制源数据集到目标位置。
    • 统计量持久化:将统计结果保存为标准化参数文件。
  • 输入:LeRobot V3格式数据集目录。
  • 输出:包含norm_stats的LeRobot V3格式数据集目录。

输入说明

支持LeRobot V3格式数据集,同时需要满足力控VLA的数据要求,具体要求可见force-vla的说明,若输入为不符合要求的数据集则运行时会报错。

输入数据集目录结构

输入须为LeRobot V3格式:
<dataset_dir>/                           # 输入路径(V3 数据集根目录)  
└──meta
	└──episodes # Episode 元信息目录
		└──chunk-000
			└──file-xxx.parquet
	└──info.json   # 数据集基本信息(版本、帧率等)
	└──stats.json  # 数据统计信息
	└──tasks.parquet  # 任务定义 
└──videos      # 视频数据
	└──observation.images.front
		└──chunk-000
			└──file-xxx.mp4
	└──observation.images.wrist
		└──chunk-000
			└──file-xxx.mp4
└──data
	└──chunk-000
		└──file-xxx.parquet   # 轨迹数据

输出说明

根据输入数据集目录层级生成同目录结构的输出包含norm_stats的LeRobot V3格式数据集。

输出目录结构

包含norm_stats的 LeRobot V3格式数据集:

<output_dir>/<key>/  
  
├── cloudrobo/       
      └── dataset-0/       
            └── norm_stats.json             # 统计信息
└──meta
	└──episodes # Episode 元信息目录
		└──chunk-000
			└──file-xxx.parquet
	└──info.json   # 数据集基本信息(版本、帧率等)
	└──stats.json  # 数据统计信息
	└──tasks.parquet  # 任务定义 
└──videos      # 视频数据
	└──observation.images.front
		└──chunk-000
			└──file-xxx.mp4
	└──observation.images.wrist
		└──chunk-000
			└──file-xxx.mp4
└──data
	└──chunk-000
		└──file-xxx.parquet   # 轨迹数据

相关文档