java - 无法在 Java API 中运行 Tensorflow 预测

Question

我正在尝试对使用“使用 TensorFlow 微调 AlexNet”训练的模型执行预测 https://kratzert.github.io/2017/02/24/finetuning-alexnet-with-tensorflow.html

我在 Python 中使用 tf.saved_model.builder.SavedModelBuilder 保存模型，并使用 SavedModelBundle.load 在 Java 中加载模型。 代码的主要部分是:

    SavedModelBundle smb = SavedModelBundle.load(path, "serve");
    Session s = smb.session();
    byte[] imageBytes = readAllBytesOrExit(Paths.get(path));
    Tensor image = constructAndExecuteGraphToNormalizeImage(imageBytes);
    Tensor result = s.runner().feed("input_tensor", image).fetch("fc8/fc8").run().get(0);
    final long[] rshape = result.shape();
    if (result.numDimensions() != 2 || rshape[0] != 1) {
        throw new RuntimeException(
                String.format(
                        "Expected model to produce a [1 N] shaped tensor where N is the number of labels, instead it produced one with shape %s",
                        Arrays.toString(rshape)));
    }
    int nlabels = (int) rshape[1];
    float [] a =  result.copyTo(new float[1][nlabels])[0];`

我收到此异常:

Exception in thread "main" java.lang.IllegalArgumentException: You must feed a value for placeholder tensor 'Placeholder_1' with dtype float [[Node: Placeholder_1 = Placeholder_output_shapes=[[]], dtype=DT_FLOAT, shape=[], _device="/job:localhost/replica:0/task:0/cpu:0"]]

我看到上面的代码对某些人有用，但我不知道这里缺少什么。 请注意，网络熟悉节点“input_tensor”和“fc8/fc8”，因为它没有说它不知道它们。

Answer 1

从错误消息来看，您使用的模型似乎需要提供另一个值(图中的节点名称为 Placeholder_1，预期类型为浮点标量张量)。

您似乎已经自定义了您的模型(而不是逐字遵循您链接到的文章)。也就是说，本文显示了需要输入的多个占位符，一个用于图像，另一个用于控制丢失。文章中定义为:

keep_prob = tf.placeholder(tf.float32)

并且需要提供该占位符的值。如果您正在进行推理，那么您需要将 keep_prob 设置为 1.0。像这样的东西:

Tensor keep_prob = Tensor.create(1.0f);
Tensor result = s.runner()
  .feed("input_tensor", image)
  .feed("Placeholder_1", keep_prob)
  .fetch("fc8/fc8")
  .run()
  .get(0);

希望有帮助。