C#编码神经网络-尽管神经网络的总体误差很低，但预期输出与实际误差相差甚远

本文关键字：误差 神经网络 输出 编码 | 更新日期: 2023-09-27 17:57:33

我已经试着让Encog运行了几天了。

我的数据由4个输入变量（介于1和1000之间）和1个输出变量（介于-30和30之间）组成。我正在使用大约50000行数据进行训练。

数据被归一化（tanh激活函数在-1和1之间），然后将其传递到具有以下结构和训练的神经网络：

 Network.AddLayer(new BasicLayer(null, true, 4));
 Network.AddLayer(new BasicLayer(new ActivationTANH(), true, 8));
 Network.AddLayer(new BasicLayer(new ActivationTANH(), false, 1));
 Network.Structure.FinalizeStructure();
 Network.Reset();
 IMLDataSet trainingData = new BasicMLDataSet(Input.ToArray(), ExpectedOutput.ToArray());
 IMLTrain train = new ResilientPropagation(Network, trainingData);
 int epoch = 1;
 do
 {
     train.Iteration();
     Console.WriteLine(@"Epoch #" + epoch + @" Error:" + train.Error);
     epoch++;
 } while (train.Error > 0.024);

然后，该程序输出每一行的预期输出以及神经网络的实际输出。以下是输出的屏幕截图（几行）：https://i.stack.imgur.com/7iglz.png

如您所见，在打印此输出之前，误差（即所有行的神经网络的平均误差）必须低于0.024。但许多预期和实际产出都存在巨大的误差。

我认为神经网络对传播不够敏感。我相信，神经网络的实际输出似乎都非常接近，因为它们与最初的随机权重相差不远。

有人能建议我如何解决这个问题吗？

我尝试过减少输入的大小（我使用了50），我也尝试过消除偏差，这两种方法都会产生类似的结果。

C#编码神经网络-尽管神经网络的总体误差很低，但预期输出与实际误差相差甚远

如果没有看到您的数据，我真的无法说出差异来自哪里。我怀疑某些数据元素的错误要比其他数据元素高得多。如果您使用此方法，它将为您提供如何计算错误的详细信息，以及在数据处理过程中每个元素的"当前错误"是什么。如果您的数据集很大，这将产生相当多的输出。

    public static void errorDiagnostic(BasicNetwork network, MLDataSet dataSet) {
    int count = 0;
    double totalError = 0;
    System.out.println("Network error: " + network.calculateError(dataSet));

    for(MLDataPair pair : dataSet) {
        MLData actual = network.compute(pair.getInput());
        System.out.println("Evaluating element " + count + " : " + pair.getInput().toString());
        for(int i=0;i<pair.getIdeal().size();i++) {
            double delta = Math.abs(actual.getData(i) - pair.getIdeal().getData(i));
            totalError += delta*delta;
            count++;
            double currentError = totalError/count;
            System.out.println("'tIdeal: " + pair.getIdeal().getData(i) + ", Actual: " + actual.getData(i) + ", Delta: " + delta + ", Current Error: " + currentError);
        }
    }
}

例如，经过训练的XOR（来自Encog-helloworld应用程序）的输出是：

    Network error: 0.009643582111728128
Evaluating element 0 : [BasicMLData:0.0,0.0]
    Ideal: 0.0, Actual: 0.10384251352940682, Delta: 0.10384251352940682, Current Error: 0.01078326761610504
Evaluating element 1 : [BasicMLData:1.0,0.0]
    Ideal: 1.0, Actual: 0.9109458503325736, Delta: 0.08905414966742642, Current Error: 0.009356954594546711
Evaluating element 2 : [BasicMLData:0.0,1.0]
    Ideal: 1.0, Actual: 0.8914073581830911, Delta: 0.10859264181690886, Current Error: 0.01016875701528963
Evaluating element 3 : [BasicMLData:1.0,1.0]
    Ideal: 0.0, Actual: 0.08982236581744897, Delta: 0.08982236581744897, Current Error: 0.009643582111728128

这样可以查看每个元素对错误的贡献程度。

相关文章：