线性支持向量机多类分类与PySpark API

Question

支持向量机当前还不支持Spark中的多类分类，但将来会如Spark page中所述。

是否有任何发布日期或任何机会使用支持向量机实现多类的PySpark API运行？感谢您的任何见解。

Answer 1

在实践中，您可以使用任意二进制分类器和一个vs-rest策略执行多类分类。 mllib不提供一个（在ml有一个），但你可以轻松地建立自己的。假设数据是这样的

import numpy as np 
np.random.seed(323) 

classes = [0, 1, 2, 3, 4, 5] 

def make_point(classes): 
    label = np.random.choice(classes) 
    features = np.random.random(len(classes)) 
    features[label] += 10 
    return LabeledPoint(label, features) 

data = sc.parallelize([make_point(classes) for _ in range(1000)]) 

xs = data.take(5) 

，我们可以训练单独的模型为每个类：

def model_for_class(c, rdd): 
    def adjust_label(lp): 
     return LabeledPoint(1 if lp.label == c else 0, lp.features) 

    model = SVMWithSGD.train(rdd.map(adjust_label)) 
    model.clearThreshold() 
    return model 

models = [model_for_class(c, data) for c in classes] 

，并用它来预测：

[(x.label, np.argmax([model.predict(x.features) for model in models])) 
for x in xs] 
## [(0.0, 0), (1.0, 1), (0.0, 0), (5.0, 5), (2.0, 2)] 

在侧面说明，你不能指望任何进一步的pyspark.mllib的开发项目，因为它已被弃用，转而使用ml。