pandas处理parquet timestamp出的车祸

问题

要对parquet文件进行匿名化处理，需要读写parquet文件，我用了pandas库进行处理，但是遇到了timestamp精度的问题。当时以为只是简单的精度截断，不影响最终效果，所以没太在意，结果截断之后不能用spark读取了，因为spark无法读取早于1900年的timestamp，而截断导致9999-m-d变成了1816-m-d。
说来轻松，但是定位bug到这里还是费了亿番功夫。测试发现使用pandas和pyarrow都存在这样的问题。使用了参数allow_truncated_timestamps，这会导致截断。但是使用了use_deprecated_int96_timestamps仍然会导致截断，不清楚具体原因

结论

用spark处理parquets