分组数据计算方差

Question

我想要计算PySpark2中的分组数据对象上的方差。看看http://spark.apache.org/docs/2.1.0/api/python/pyspark.sql.html#pyspark.sql.GroupedData，我没有看到任何内置的计算差异函数。

是否有一种有效的方法来计算PySpark2中的GroupedData对象上的方差？

这里是我将如何计算平均值的示例代码，最小值和最大值一个GroupedData对象上，但我不知道如何计算方差：

from pyspark.sql import * 
from pyspark.sql.session import SparkSession 

spark = SparkSession.builder.getOrCreate() 

columns = ['a', 'b'] 
vals = [('x', 3), ('x', 5), ('y', 1), ('y', 8), ('y', 4), ('z', 5), ('z', 7), ('z', 4), ('z', 9)] 

df = spark.createDataFrame(vals, columns) 

df.groupBy('a').agg(avg('b'), min('b'), max('b')).show() 

数据帧df是这样的：

+---+---+ 
| a| b| 
+---+---+ 
| x| 3| 
| x| 5| 
| y| 1| 
| y| 8| 
| y| 4| 
| z| 5| 
| z| 7| 
| z| 4| 
| z| 9| 
+---+---+ 

我想创建一个类似于下面的一个新的数据框，显示方差：

+---+--------+ 
| a| b_var| 
+---+--------+ 
| x| 1.0000| 
| y| 8.2222| 
| z| 3.6875| 
+---+--------+ 

Answer 1

内置函数为here;有两种方法var_pop和var_samp的pyspark.sql.functions模块中分别计算总体方差和样本方差，你需要的是VAR_POP功能：

import pyspark.sql.functions as F 

(df.groupBy("a").agg(
    F.round(F.var_pop("b"), 2).alias("var_pop_b"), 
    F.round(F.var_samp("b"), 2).alias("var_samp_b") 
)).show() 
+---+---------+----------+ 
| a|var_pop_b|var_samp_b| 
+---+---------+----------+ 
| x|  1.0|  2.0| 
| z|  3.69|  4.92| 
| y|  8.22|  12.33| 
+---+---------+----------+