我现在有一个PySpark DataFrame ,它有许多列由整数计数填充。其中许多列的计数为零。我想找到一种方法来计算有多少列的计数大于零。
换言之,我希望使用一种方法对行中的值进行求和,其中给定行的所有列都是有效的布尔值(尽管可能不需要进行数据类型 transformation)。我的表中有几列是datetime或string,因此理想情况下,我应该有一种方法首先选择数值列。
当前 DataFrame 示例和所需输出
+---+---------- +----------+------------
|USER| DATE |COUNT_COL1| COUNT_COL2|... DESIRED COLUMN
+---+---------- +----------+------------
| b | 7/1/2019 | 12 | 1 | 2 (2 columns are non-zero)
| a | 6/9/2019 | 0 | 5 | 1
| c | 1/1/2019 | 0 | 0 | 0
Pandas:例如,在Pandas中,可以通过选择数值列、 transformation为bool并使用轴=1求和来完成。我在找一个与PySpark相当的。
test_cols=list(pandas_df.select_dtypes(include=[np.number]).columns.values)
pandas_df[test_cols].astype(bool).sum(axis=1)