TensorFlow 不会在 GPU 上运行

Question

我是 AWS 和 Tensorflow 的新手，上周我通过 Udacity 的机器学习类(class)学习了 CNN。
现在我需要使用 GPU 的 AWS 实例。我使用源代码(CUDA 8，Ubuntu)启动了深度学习 AMI 的 p2.xlarge 实例(这是他们推荐的)

但现在看来，tensorflow 根本没有使用 GPU。它仍在使用 CPU 进行训练。我做了一些搜索，找到了这个问题的一些答案，但它们似乎都不起作用。



当我运行 Jupyter 笔记本时，它仍然使用 CPU



我该怎么做才能让它在 GPU 而不是 CPU 上运行？

Answer 1

tensorflow 无法检测到 GPU 的问题可能是由于以下原因之一。

系统中只安装了 tensorflow CPU 版本。

系统中安装了tensorflow CPU和GPU版本，但是Python环境优先选择CPU版本而不是GPU版本。

在继续解决问题之前，我们假设安装的环境是 AWS Deep Learning AMI安装了 CUDA 8.0 和 tensorflow 1.4.1 版。这个假设来自评论中的讨论。
为了解决这个问题，我们进行如下操作:

通过从 OS 终端执行以下命令来检查已安装的 tensorflow 版本。

pip freeze | grep tensorflow

如果只安装了 CPU 版本，则删除它并通过执行以下命令安装 GPU 版本。

pip uninstall tensorflow

pip install tensorflow-gpu==1.4.1

如果同时安装了 CPU 和 GPU 版本，则将它们都删除，并仅安装 GPU 版本。

pip uninstall tensorflow

pip uninstall tensorflow-gpu

pip install tensorflow-gpu==1.4.1

此时，如果 tensorflow 的所有依赖项都安装正确，则 tensorflow GPU 版本应该可以正常工作。此阶段的一个常见错误(如 OP 遇到的)是缺少 cuDNN 库，这可能导致在将 tensorflow 导入 python 模块时出现以下错误

ImportError: libcudnn.so.6: cannot open shared object file: No such file or directory

可以通过安装正确版本的 NVIDIA cuDNN 库来修复它。 TensorFlow 1.4.1 版本依赖于 cuDNN 6.0 版本和 CUDA 8，因此我们从 cuDNN 存档页面 (Download Link) 下载相应版本。我们必须登录 NVIDIA 开发者帐户才能下载文件，因此无法使用 wget 等命令行工具下载文件。或 curl .一种可能的解决方案是在主机系统上下载文件并使用 scp将其复制到 AWS。
复制到 AWS 后，使用以下命令提取文件:

tar -xzvf cudnn-8.0-linux-x64-v6.0.tgz

解压后的目录应该具有类似于 CUDA 工具包安装目录的结构。假设CUDA工具包安装在目录/usr/local/cuda ，我们可以通过将下载的存档中的文件复制到CUDA Toolkit安装目录的相应文件夹中，然后使用链接器更新命令ldconfig来安装cuDNN如下:

cp cuda/include/* /usr/local/cuda/include

cp cuda/lib64/* /usr/local/cuda/lib64

ldconfig

在此之后，我们应该能够将 tensorflow GPU 版本导入我们的 python 模块。
一些注意事项:

如果我们使用 Python3，pip应替换为 pip3 .

根据用户权限，命令 pip , cp和 ldconfig可能需要以 sudo 身份运行.