python - 在 Docker 容器中找不到共享库 libpython3.5(但覆盖工作正常)

标签 python linux docker anaconda cntk

我正在尝试部署一个在 Docker 容器中使用 CNTK 的 Python Web 服务(带有 flask )。我使用 Microsoft 的 Ubuntu-Base-Image,它应该包含运行 CNTK 所需的所有必要和正确的程序和库。

脚本在本地(在 Windows 上)工作,当我运行容器并从 cmd 行启动 bash 时也是如此

docker exec -it <container_id> bash

并从“容器内”启动脚本。

一个重要的补充是,python 脚本使用了两个预编译模块,即用于 Windows 的 *.pyd 文件和用于 Linux 的 *.so 文件。因此,对于 docker 镜像,我将前者替换为后者,以便从容器内运行脚本。

当我在 Dockerfile 中使用 CMD 启动脚本时,问题就开始了。图像的创建没有问题。但是当我用

启动容器时
docker run -p 1234:80 app

我收到以下错误:

...
ImportError: libpython3.5m.so.1.0: cannot open shared object file: No such file or directory

好像图书馆不见了。但是(我重复)当我从容器中运行的 bash 中运行脚本时(据我所知,它应该只有容器库),一切正常。我什至可以用

查找图书馆
ldd $(which python)

而且文件肯定在文件夹中。那么问题来了,为什么python在运行docker容器的时候找不到它的依赖。

当我试图通过在环境变量中写入它来明确地给出库的路径时,它甚至变得更奇怪了:

ENV LD_LIBRARY_PATH="${LD_LIBRARY_PATH}:/root/anaconda3/pkgs/python-3.5.2-0/lib/"

然后库似乎找到了库,但不被接受为正确的:

ImportError: dynamic module does not define init function (initcython_bbox)

“cython_bbox”是要导入的 *.pyd/*.so 文件/库之一的名称。这显然是此类文件类型的典型错误。但我对它们没有任何经验。

我也不在那个时候(在我的个人开发中)能够从外部源编译我自己的文件或自己创建 docker 镜像。我依赖于从 Microsoft 获得的部件。但我愿意接受建议。

在导入基础镜像后,我也已经尝试在我的 Dockerfile 中重新安装库

RUN apt-get install -y libpython3.5

但它引发了与我将路径放入环境变量时相同的错误。

我真的很想知道这里出了什么问题。为什么一切都“在容器内”顺利运行,但在使用 CMD 初始化容器时自动启动却不行?

有关其他信息,我添加了 Dockerfile:

# Use an official Python runtime as a parent image FROM microsoft/cntk:2.5.1-cpu-python3.5

# Set the working

directory to /app WORKDIR /app

# Copy the current directory contents into the container at /app ADD . /app

RUN apt-get update && apt-get install -y python-pip RUN pip install --upgrade pip

# Install any needed packages specified in requirements.txt RUN pip install --trusted-host pypi.python.org -r requirements.txt

# Make port 80 available to the world outside this container EXPOSE 80

# Run app.py when the container launches CMD ["python", "test.py"]

项目的其余部分是一个非常简单的 flask-webapp,当我注释掉实际 CNTK 项目的所有导入时,它运行没有问题。这是 CNTK Object Detection with Faster-RCNN顺便说一句,因为它可以在 cntk-git-repository 中找到。

编辑:

我找到了真正的问题所在,但我仍然没有办法解决它。问题是,当我用“docker exec”启动 bash 时,它会在启动时运行一个脚本,用 python3.5 和所有整洁的库激活 anaconda 环境。但是当 CMD 刚启动 python 时,这是由标准的 Bourne shell“sh”完成的,它(正如我所尝试的那样)与 python2.7 一起运行。

所以我需要一种方法,要么用 bash 启动我的容器(包括它的自动启动脚本),要么以其他方式在启动时以某种方式激活环境。

我查看了脚本,它主要检查 bash 是否是当前 shell,设置一些环境变量并激活环境。

if [ -z "$BASH_VERSION" ]; then
  echo Error: only Bash is supported.
elif [ "$(basename "$0" 2> /dev/null)" == "activate-cntk" ]; then
  echo Error: this script is meant to be sourced. Run 'source activate-cntk'
else
  export PATH="/cntk/cntk/bin:$PATH"
  export LD_LIBRARY_PATH="/cntk/cntk/lib:/cntk/cntk/dependencies/lib:$LD_LIBRARY_PATH"
  source "/root/anaconda3/bin/activate" "/root/anaconda3/envs/cntk-py35"

  cat <<MESSAGE

************************************************************
CNTK is activated.

Please checkout tutorials and examples here:
  /cntk/Tutorials
  /cntk/Examples

To deactivate the environment run

  source /root/anaconda3/bin/deactivate

************************************************************
MESSAGE
fi

我尝试了很多东西,比如将 sh 链接到 bash

RUN ln -fs /bin/bash /bin/sh

或使用 bash 作为入口。

最佳答案

我找到了一个目前有效的解决方法。

首先,我在我的环境中手动将 python 链接到 python3:

RUN ln -fs /root/anaconda3/envs/cntk-py35/bin/python3.5 /usr/bin/python

然后我将环境库添加到库路径:

ENV LD_LIBRARY_PATH "/cntk/cntk/lib:/cntk/cntk/dependencies/lib:$LD_LIBRARY_PATH"

并确保我将所有重要文件夹添加到 PATH:

ENV PATH "/cntk/cntk/bin:$PATH"
ENV PATH "/root/anaconda3/envs/cntk-py35/bin:$PATH"

然后我必须再次安装我的 python 包:

RUN pip install flask

终于可以开始我的脚本了:

CMD ["python", "app.py"]

关于python - 在 Docker 容器中找不到共享库 libpython3.5(但覆盖工作正常),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50470014/

相关文章:

linux - IPsec/Openswan日志用户名和公网IP

linux - 在后台运行作业时导致开销的原因是什么?

linux - 为什么 java 需要基础镜像才能在 docker 上运行

docker - 在 Dockerfile 构建中连接到本地主机?

python - 如果鼠标在浏览器 session 的主显示器上,为什么 Selenium 运行速度会变慢

python - 在 python 中插入或更新一条 peewee 记录

Python - 查找一个矩阵的每一行中的 K 个最大值并与二进制矩阵进行比较

android - Android 的什么框架可以用来连接 PC 到 Android 和 Android 到其他 PC?

linux - 如何在 Debian Jessie 中安装 dotnet core sdk

docker - docker restart和docker-compose restart之间的区别