python - 警告 (theano.sandbox.cuda) : CUDA is installed, 但设备 gpu 不可用(错误:cuda 不可用)

Question

在 Ubuntu MATE 16.04 中，我尝试使用 GPU 在此处运行深度学习 python 示例:

testing Theano with GPU

我确实运行了示例代码，

THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32 python check1.py

不过好像用的是CPU，不是GPU。这是终端输出的最后一部分:

WARNING (theano.sandbox.cuda): CUDA is installed, but device gpu0 is not  available  (error: cuda unavailable)
...
Used the cpu

我也试过运行这段代码:

THEANO_FLAGS=device=cuda0 python check1.py

但是输出是:

ERROR (theano.sandbox.gpuarray): pygpu was configured but could not be imported
Traceback (most recent call last):
  File "/usr/local/lib/python2.7/dist-packages/theano/sandbox/gpuarray/__init__.py", line 20, in <module>
    import pygpu
ImportError: No module named pygpu
...
used cpu

我从 apt 安装了 cuda 工具包。 这里有(希望)有用的数据:

python --version
Python 2.7.12

g++ -v
gcc version 5.4.0

nvcc --version
Cuda compilation tools, release 7.5, V7.5.17

lspci
NVIDIA Corporation GM107 [GeForce GTX 750 Ti] (rev a2)

nvidia-smi

+------------------------------------------------------+                       
| NVIDIA-SMI 361.42     Driver Version: 361.42         |                       
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 750 Ti  Off  | 0000:01:00.0      On |                  N/A |
| 29%   35C    P8     1W /  38W |    100MiB /  2044MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID  Type  Process name                               Usage      |
|=============================================================================|
|    0      2861    G   /usr/lib/xorg/Xorg                              90MiB |
+-----------------------------------------------------------------------------+

Answer 1

终于解决了! 这个帖子 Ubuntu 16.04, Theano and Cuda

建议添加标志

nvcc.flags=-D_FORCE_INLINES 

到命令行，所以命令行变成:

THEANO_FLAGS=floatX=float32,device=gpu,nvcc.flags=-D_FORCE_INLINES python check1.py

它似乎修复了使用 glibc 2.23 时的错误

fix for glibc 2.23

现在程序正确使用了 GPU，这是正确的输出:

THEANO_FLAGS=floatX=float32,device=gpu,nvcc.flags=-D_FORCE_INLINES python check1.py
Using gpu device 0: GeForce GTX 750 Ti (CNMeM is disabled, cuDNN not available)
[GpuElemwise{exp,no_inplace}(<CudaNdarrayType(float32, vector)>), HostFromGpu(GpuElemwise{exp,no_inplace}.0)]
Looping 1000 times took 0.317012 seconds
Result is [ 1.23178029  1.61879349  1.52278066 ...,  2.20771813  2.29967761
  1.62323296]
Used the gpu

请注意，在尝试此解决方案之前，我删除了 nvidia-cuda-toolkit 并从 Nvidia 网站安装了 CUDA，遵循此处的部分说明:

CUDA with Ubuntu 16.04

这正是我所做的:

1) 我从这里下载了 CUDA CUDA 7.5 download 选择 LINUX、x86_64、Ubuntu 15.04、deb local

2) 我安装了 deb 文件

dpkg -i cuda_repo-ubuntu1504-7-5-local_7.5-18_amd64.deb

3) 然后运行

apt-get update

这给出了一些错误!我用以下几行修复了它覆盖\var\cuda-repo-7.5-local 中的文件 Release:

Origin: NVIDIA
Label: NVIDIA CUDA
Architecture: repogenstagetemp
MD5Sum:
 51483bc34577facd49f0fbc8c396aea0            75379 Packages
 4ef963dfa4276be01db8e7bf7d8a4f12            21448 Packages.gz
SHA256:
 532b1bb3b392b9083de4445dab2639b36865d7df1f610aeef8961a3c6f304d8a            75379 Packages
 2e48cc13b6cc5856c9c6f628c6fe8088ef62ed664e9e0046fc72819269f7432c            21448 Packages.gz

(抱歉，我不记得我是在哪里读到这个解决方案的)。

4) 我成功运行了

apt-get-update
apt-get install cuda

5) 一切都安装在\usr\local\cuda-7.5

6) 我在文件\usr\local\cuda-7.5\include\host-config.h 中注释了第 n 115 行

 #if __GNUC__ > 4 || (__GNUC__ == 4 && __GNUC_MINOR__ > 9)

//#error -- unsupported GNU version! gcc versions later than 4.9 are not supported!

#endif /* __GNUC__ > 4 || (__GNUC__ == 4 && __GNUC_MINOR__ > 9) */

这似乎阻止了 CUDA 使用 gcc 5.4 在所有这些操作之后，我更新了 .theanorc 文件，添加了 cuda root

[cuda] 
root = /usr/local/cuda-7.5 

就是这样:)

PS:我不知道它是否适用于 nvidia-cuda-toolkit!