r - 神经网络的预测函数给出奇怪的结果

Question

我对机器学习技术和 R 编程都比较陌生，目前我正在尝试将神经网络拟合到我拥有的一些数据中。然而，神经网络的预测结果对我来说没有意义。我浏览了 StackOverflow 但找不到解决此问题的方法。

我的数据(这是测试集的一部分，训练集格式相同)

    target monday tuesday wednesday thursday friday saturday  indepedent
428    277      1       0         0        0      0        0        3317
429    204      0       1         0        0      0        0        1942
430    309      0       0         1        0      0        0        2346
431    487      0       0         0        1      0        0        2394
432    289      0       0         0        0      1        0        2023
433    411      0       0         0        0      0        1        1886
434    182      0       0         0        0      0        0        1750
435    296      1       0         0        0      0        0        1749
436    212      0       1         0        0      0        0        1810
437    308      0       0         1        0      0        0        2021
438    378      0       0         0        1      0        0        2494
439    329      0       0         0        0      1        0        2110
440    349      0       0         0        0      0        1        1933

我的代码

resultsnn <- neuralnet(target~monday+tuesday+wednesday+thursday+friday+saturday+independent,data=training,hidden=3,threshold=0.01,linear.output = TRUE)
compute(resultsnn,test[,2:8])$net.result

我的结果(所有测试集案例的预测值均相同)

           [,1]
428 508.4962231
429 508.4962231
430 508.4962231
431 508.4962231
432 508.4962231
433 508.4962231
434 508.4962231
435 508.4962231
436 508.4962231
437 508.4962231
438 508.4962231
439 508.4962231
440 508.4962231

我还尝试过什么？

我尝试过没有虚拟变量的版本(仅包括自变量，这不会改变结果的类型)

我创建了一些合成数据并将其用作输入，对于相同的代码，这确实可以正常工作:

#building training set
input_train <- as.data.frame(c(1:100))
output_train <- as.data.frame(c(sqrt((1:100)+1)))

train <- cbind.data.frame(output_train,input_train)
colnames(train) <- c("output","input")

#building test set
input_test <- as.data.frame(c(101:150))
output_test <- as.data.frame(c(sqrt((101:150)+1)))

test <- cbind.data.frame(output_test,input_test)
colnames(test) <- c("output","input")

#NEURALNET PACKAGE
#neural network 3 neurons
res.train <- neuralnet(output~input,data=train,hidden=3,threshold=0.01) #train nn
compute(res.train,test[,2])$net.result #predict using nn on test set

我还尝试了其他软件包(例如，nnet 和 RSNNS)，但这些软件包在使用合成数据时已经无法提供正确的预测。

一些附加信息

有关数据类型的一些附加信息:

str(test)
 'data.frame':  82 obs. of  8 variables:
  $ target     : int  277 204 309 487 289 411 182 296 212 308 ...
  $ monday     : int  1 0 0 0 0 0 0 1 0 0 ...
  $ tuesday    : int  0 1 0 0 0 0 0 0 1 0 ...
  $ wednesday  : int  0 0 1 0 0 0 0 0 0 1 ...
  $ thursday   : int  0 0 0 1 0 0 0 0 0 0 ...
  $ friday     : int  0 0 0 0 1 0 0 0 0 0 ...
  $ saturday   : int  0 0 0 0 0 1 0 0 0 0 ...
  $ independent: int  3317 1942 2346 2394 2023 1886 1750 1749 1810 2021 ...

str(training)
 'data.frame':  397 obs. of  8 variables:
  $ target     : int  1079 1164 1069 1038 629 412 873 790 904 898 ...
  $ monday     : int  0 0 0 0 0 0 1 0 0 0 ...
  $ tuesday    : int  1 0 0 0 0 0 0 1 0 0 ...
  $ wednesday  : int  0 1 0 0 0 0 0 0 1 0 ...
  $ thursday   : int  0 0 1 0 0 0 0 0 0 1 ...
  $ friday     : int  0 0 0 1 0 0 0 0 0 0 ...
  $ saturday   : int  0 0 0 0 1 0 0 0 0 0 ...
  $ independent: int  2249 2381 4185 2899 2387 2145 2933 2617 2378 3569 ...

如果您需要任何其他信息，请告诉我!感谢大家的帮助(:

Answer 1

目标和独立之间似乎没有信号。现在忽略工作日，如果您拟合带梯度和不带梯度的线性模型:

# a linear model looking at response with indepedent (with intercept)
lm1 <- lm(target ~ indepedent, data = training)
lm1
#
# Call:
# lm(formula = target ~ indepedent, data = training)
#
# Coefficients:
#  (Intercept)    indepedent  
# 206.37312594    0.04853823 
# intercept only
lm0 <- lm(target ~ 1, data = training)
lm0
#
# Call:
# lm(formula = target ~ 1, data = training)
#
# Coefficients:
# (Intercept)  
#   310.0769  
# two models of the data equivalent to possible outcomes
plot(target ~ indepedent, data = training)
lines(fitted(lm1) ~ indepedent, data = training, lty = 2)
lines(fitted(lm0) ~ indepedent, data = training, col = 2)

...仅拦截模型是首选:

# test which model is better
# large p-value suggests we're happy accepting the simple model
anova(lm0, lm1)
# Analysis of Variance Table
#
# Model 1: target ~ 1
# Model 2: target ~ indepedent
#   Res.Df       RSS Df  Sum of Sq       F  Pr(>F)
# 1     12 86990.923                             
# 2     11 81792.165  1 5198.7582 0.69917 0.42086
head(fitted(lm0))
#         428         429         430         431         432         433 
# 310.0769231 310.0769231 310.0769231 310.0769231 310.0769231 310.0769231

这就是机器学习方法也告诉您的内容。简单模型为每个独立值预测一个目标值。添加工作日变量显然并不能改善这一点。

您看到了对您的玩具示例的预测，因为响应中存在强烈信号。