回归 - 样本外预测

Question

我试图找出如何处理我的预测问题，我不确定我的理解是否正确，所以如果有人能帮助我，这将是非常好的。首先，我的目标是预测回归的时间序列。除了使用ARIMA模型或其他启发式车型我想专注于机器学习技术，如回归，如随机森林回归，K近邻回归等。这里是数据集的概述：

Timestamp   UsageCPU  UsageMemory Indicator Delay 
2014-01-03 21:50:00 3123   1231   1  123 
2014-01-03 22:00:00 5123   2355   1  322 
2014-01-03 22:10:00 3121   1233   2  321 
2014-01-03 22:20:00 2111   1234   2  211 
2014-01-03 22:30:00 1000   2222   2   0 
2014-01-03 22:40:00 4754   1599   1   0 

的时间戳以10分钟为单位增加，我想用自变量UsageMemory，Indicator等预测独立变量UsageCPU。此时我将解释我对预测部分的一般知识。所以对于预测来说，有必要将数据集分成训练集，验证集和测试集。为此，我的数据集包含2个整周，分为60％培训，20％验证和20％测试。这意味着对于训练集我有第一个8天包括和验证和我每3天的测试集。之后，我可以在SparkR中训练模型（设置不重要）。

model <- spark.randomForest(train, UsageMemory ~ UsageMemory, Indicator, Delay, 
         type = "regression", maxDepth = 30, maxBins = 50, numTrees=50, 
         impurity="variance", featureSubsetStrategy="all") 

所以在这之后，我可以确认与验证组的结果，并计算RMSE看到模型和点在我的模型构建部分调整的精度。如果完成我可以预测的测试数据集：

predictions <- predict(model, test) 

因此预测工作正常，但这只是一个样本内的预测，不能用于预测例如第二天。根据我的理解，样本内只能用于预测数据集中的数据，而不能预测未来可能发生的值。因此，真的很想预测第二天或仅接下来的10分钟/ 1小时，这只有通过样本外预测才能成功。我也对随机森林的预测值进行了类似的尝试（滚动回归），但在我的情况中，滚动回归仅用于评估不同回归因子对不同参数组合的表现。所以这是我的理解没有样本外预测。

t <- bind(prediction, RollingRegression3 = rollApply(prediction, fun=function(x) mean(UsageCPU), window=6, align='right')) 

所以，在我的理解我需要的东西（也许滞后值？），建模过程开始之前。我还阅读了很多不同的论文和书籍，但没有清楚的方法来解决问题，关键是什么。只有t + 1，t + n这样的东西，但现在我甚至不知道该怎么做。如果有人能够帮助我，那真的很不错，因为我从三个月起就试图解决这个问题，谢谢。

Answer 1

让我们看看我的问题是否正确。我想，给定一个时间窗口，例如UsageCPU，UsageMemory，Indicator和Delay的最后一次观察（一天），你想要预测UsageCPU的'n'个下一个观察值。你可以用随机森林做这样的事情的一种方法是为每个你想要预测的下一次观察分配一个模型。所以，如果你想预测10个UsageCPU观察值，你应该训练10个随机森林模型。

使用我开始的例子，你可以将你拥有的数据分成154个观测值。在每个中，您将使用前144个观察值来预测UsageCPU的最后10个值。有很多方法可以使用特征工程从这些前144个观测值中提取信息，以便用您的模型进行训练。对每个变量均值，每个变量的最后一次观察值，每个变量的全局平均值。因此，对于每个块，您将得到一个包含一堆预测变量和10个目标值的向量。

绑定您为每个块获得的矢量，并且您将获得一个矩阵，其中第一列是预测变量，最后10列是目标。用n个预测变量列和1个目标列训练每个随机森林。现在，您可以将模型应用于从包含144个观察值的任何数据块中提取的要素。为目标第1列训练的模型将“预测”前一个观测值，为目标第2列训练的模型将“预测”两个观测值，为目标第3列训练的模型将“预测”前面三个观测值...