R中用于QSAR数据的特征选择用于回归分析

Question

我正在为我的数据进行QSAR研究，并在通过DRAGON软件运行我的结构并获取描述符后，剩下383个描述符（移除常量和全部）。 现在我想对我的数据执行特征选择。其中n = 26和p = 383。那么我应该遵循什么方法？ 我已经做了一些明智的回归分析以及遗传算法研究，以获得7个非常合适的描述符的R2值为0.831。 但我想尝试其他方法，例如随机森林方法，PLS或PCA来处理我的数据。我使用相同的R。因此，可以使用的包的任何想法。我已经与Caret和Boruta包合作。 Plus交叉验证研究包的任何想法。我需要执行LOOCV和Bootstrap。

感谢您的帮助。

Answer 1

如果您使用随机森林或梯度增强算法，它们有时会实现一个功能，显示每个功能的“重要性”分数。

这基本上是算法选择某个特征的频率。你可以运行你所有功能的算法，然后看看这个分数。在例如XGBoost未使用的功能甚至不会出现在该列表中。所以，你可以用它来测试哪些功能是重要的或不是。

由于您拥有许多功能，因此您可能会先使用随机功能子集运行，然后终止不是或仅很少使用的功能。

我发现“重要性”这个词在这里有点误导，因为杀死很多“不重要”的功能可能会导致性能的降低。但是，测试无法使用的功能肯定是一个很好的策略。