文档首页> MapReduce服务 MRS> 组件操作指南> 使用Hudi> Hudi常见问题> 数据写入> 写入更新数据时报错 Parquet/Avro schema
更新时间:2022-05-13 GMT+08:00
分享

写入更新数据时报错 Parquet/Avro schema

问题

数据写入时报错:

org.apache.parquet.io.InvalidRecordException: Parquet/Avro schema mismatch: Avro field 'col1' not found

回答

建议在使用Hudi时,schema应该以向后兼容的方式演进。此错误通常发生在使用向后不兼容的演进方式删除某些列如“col1”后,更新parquet文件中以旧的schema写入的列“col1”,在这种情况下,parquet尝试在传入记录中查找所有当前字段,当发现“col1”不存在时,抛出上述异常。

解决这个问题的办法是使用所有schema演进版本来创建uber schema,并使用该schema作为target schema。用户可以从hive metastore中获取schema并将其与当前schema合并。

分享:

    相关文档

    相关产品

close