将神经网络输出限制为正值

Question

我正在使用 R 的神经网络函数训练 160 个独立的神经网络模型，每个模型都有两个输入变量，并将它们部署到测试数据上。

我需要将预测限制为正值。
我认为在 nueralnet 函数中指定 act.fct = "logistic"可以实现此目的。

但是，激活函数似乎并未被应用。检查权重后，函数的输出似乎只是输入值和权重加上偏置节点值的和积。

对于我的输出，在我尝试预测的 9 条记录中，有 2 条为负数 - 均为 -0.0885。为了简单起见，我指定了一个没有隐藏层的神经网络。创建模型后，我确定负值的罪魁祸首是偏差节点。虽然两个变量的权重为正，但偏差节点为负。

if (require(neuralnet==F)) install.packages("neuralnet"); require(neuralnet)

for (i in 1:160) {
    training.list[[i]] <- neuralnet(nn.training[,i] ~  nn.training[,i+160]+nn.training[,i+320], nn.training, 
                              act.fct = "logistic", hidden = 0, threshold = 0.01)                                  
 }

 plot(training.list[[1]])

# Load test data in proper format 
load("nn_test.Rdata")

 # predict on only the first dataset for illustration's sake
 a <- compute(training.list[[1]], cbind(test[,1], test[,1+160]))

a的输出是

$net.result
         [,1]
  [1,]  0.44661508
  [2,]  0.31966633
  [3,]  0.01916739
  [4,] -0.08849801
  [5,] -0.08849801
  [6,]  0.39840670
  [7,]  0.33252190
  [8,]  0.33573579
  [9,]  0.38555113

图中的权重为 0.71174，每个输入节点的权重为 0.39118，偏置节点的权重为 -0.0891。

为了将输出限制为正值，我需要指定什么？

Answer 1

默认情况下，act.fct仅应用于隐藏层。如果您希望它也影响输出一 - 您必须设置linear.output = FALSE。

来自documentation

act.fct a differentiable function that is used for smoothing the result of the cross product of the covariate or neurons and the weights. Additionally the strings, ’logistic’ and ’tanh’ are possible for the logistic function and tangent hyperbolicus.

linear.output logical. If act.fct should not be applied to the output neurons set linear output to TRUE, otherwise to FALSE.