tongchenkeji 发表于:2023-3-28 10:30:150次点击 已关注取消关注 关注 私信 hb在读取配置parquet格式的时候,如果没有对应的字段,可以赋默认值吗?[阿里云机器学习PAI] 暂停朗读为您朗读 hb在读取配置parquet格式的时 候,如果没有对应的字段,可以赋默认值吗?类似于tf.io.FixedLenFeature的默认值参数那样 「点点赞赏,手留余香」 赞赏 还没有人赞赏,快来当第一个赞赏的人吧! 海报 机器学习PAI# 人工智能平台 PAI1410
爱回答的三好学生AM 2023-11-28 2:58:15 1 你是说在 parquet dataset 里如果字段不存在就返回一个常量吗?这种情况是否可以用 dataset map 或者 flat_map 来实现?这样感觉比parquet dataset 更清晰一些。此回答整理自钉群“【外】HybridBackend 开源社区”
你是说在 parquet dataset 里如果字段不存在就返回一个常量吗?这种情况是否可以用 dataset map 或者 flat_map 来实现?这样感觉比parquet dataset 更清晰一些。此回答整理自钉群“【外】HybridBackend 开源社区”
这个优化的配置参数为spark.sql.hive.convertMetastoreParquet,默认值为开启。