如何将分区的ApacheArrow或Parquet文件读入/写出Julia
我正在尝试在 Julia 中读取和写入一个简单的数据集。数据集是mtcars,取自 R,具有任意添加的bt带有随机布尔值的列。文件/文件夹结构(如下)是使用 Rarrow包写出的。
文件排列如下:
arr
|-- bt=false
| `-- part-1.arrow
`-- bt=true
`-- part-0.arrow
如何在 Julia 中忠实地重现原始表?
到目前为止我尝试过的:
-
使用
Parquet.jl包。文档建议它应该自动检测 bool/string/date 类型列的分区文件夹结构。当我使用 读取数据时,read_parquet(path; kwargs)生成的数据结构没有该bt列。我试过将column_generator关键字参数设置为默认值,Parquet.dataset_column_generator但这不起作用。 -
使用
Arrow.jl- 我找不到直接读取分区数据结构的记录方式(除非我误解了)。
R 不会生成额外的元数据文件来存储架构,但我知道这是可选的,而不是箭头规范的一部分?
THE END
二维码