(在延续这个post)问:KNN中的R - 奇怪的行为
有谁知道为什么下面的KNN R代码里面给出了不同种不同的预测?这很奇怪,因为K <-5,因此大多数都是明确的。另外,浮点数很大 - 因此不会出现数据问题的精确度+数据被缩放和居中。
library(class)
from = -(2^30)
to = -(from)
seed <- -229881389
set.seed(seed)
K <- 5
m = as.integer(runif(1, K, 20))
n = as.integer(runif(1, 5, 1000))
train = matrix(runif(m*n, from, to), nrow=m, ncol=n)
trainLabels = sample.int(2, size = m, replace=T)-1
test = matrix(runif(n, from, to), nrow=1)
sc<-function(x){(x-mean(x))/sd(x)}
train<-apply(train,2,sc)
test<-t(apply(test,1,sc))
seed <- as.integer(runif(1, from, to))
set.seed(seed)
pred_1 <- knn(train=train, test=test, cl = trainLabels, k=K)
message("predicted: ", pred_1, ", seed: ", seed)
seed <- as.integer(runif(1, from, to))
set.seed(seed)
pred_2 <- knn(train=train, test=test, cl = trainLabels, k=K)
message("predicted: ", pred_2, ", seed: ", seed)
手动检查:
euc.dist <- function(x1, x2) sqrt(sum((x1 - x2)^2))
result = vector(mode="numeric", length=nrow(train))
for(i in 1:nrow(train)) {
result[i] <- euc.dist(train[i,], test)
}
a <- data.frame(result, trainLabels)
names(a) = c("RSSE", "labels")
b <- a[with(a, order(result, decreasing =T)), ]
headK <- head(b, K)
message("Manual predicted K: ", paste(K," class:", names(which.max(table(headK[,2])))))
print(b)
将使预测0,对于前k个(= 5)。
可能重复的[问:KNN在R-奇怪的行为](http://stackoverflow.com/questions/38932289/q-knn-in-r-strange-behavior) – nrussell
这不是一个重复的,因为这个问题是做缩放和居中(虽然[这一个](http://stackoverflow.com/questions/38932289/q-knn-in-r-strange-behavior)不是) – erans
顺便说一句,对于一个可重复的例子,你应该不要使用随机本身的种子......也就是说,在应用knn时存在一些随机性,这是处理关系所需要的。所以,使用不同的种子你会得到不同的结果。 – DatamineR