tensorflow - 如何在 tensorflow 的发行版中使用 Tensorflow XLA AOT 支持

标签 tensorflow

Tensorflow 1.0 引入了 XLA 支持,包括 JIT 编译和 AOT 编译。对于 JIT 编译,我找到了一个可以对其进行单元测试的 python 测试脚本。但是,我还没有找到任何用于 AOT 编译的 python 测试。不过有 bazel 测试,可以在源代码树上运行。 Tensorflow 的链接 https://www.tensorflow.org/performance/xla/tfcompile提供有关如何测试的信息。但是tfcompile并没有把tensorflow的分发内容做成。我在这里可能是错的。但是我在安装它的 TF 分发目录中的任何地方都看不到 tfcompile。 谁能帮助我了解如何在现有分发内容上测试 AOT 编译,或者我需要调整代码中的某些内容以允许 AOT 内容进入分发? 提前致谢。

最佳答案

我知道您专门询问有关 AOT 的问题,但我建议您先阅读此页面:https://www.tensorflow.org/performance/xla/

然后阅读这一篇:https://www.tensorflow.org/performance/xla/jit

特别注意 XLA 不包含在我们的二进制发行版中;您现在必须从源代码构建。请注意,您必须在运行 ./configure 时选择“启用 XLA”才能启用 XLA 支持。

完成后,Yaroslav Bulatov 的建议就是正确的;您可以自己构建二进制文件,或通过 bazel 运行测试。

关于tensorflow - 如何在 tensorflow 的发行版中使用 Tensorflow XLA AOT 支持,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42719117/

相关文章:

java - Java 中的 TensorFlow 服务 - 在一个 session 运行中进行多个预测

machine-learning - Google tensorflow 图像分类器的最低要求

python - InvalidArgumentError : Received a label value of 8825 which is outside the valid range of [0, 8825) SEQ2SEQ 模型

python - 有没有在 Cloud Functions 上运行 Tensorflow 的好方法?尤其是偶尔打电话的时候

tensorflow - 如何使用 tpu 解决 tf.keras 中的 "Propagation of dynamic dimension failed"错误?

tensorflow - cudnn 在 TensorFlow 中编译配置

tensorflow - 如何从 PredictResponse 对象中检索 float_val?

python - TensorFlow 相当于 np.in1d

TensorFlow:我的(广义)骰子损失实现有什么问题?

python - 相同图像的 tensorflow 预测速度提高