python - 数据科学体验上的 AssertionError : Multiple . dist-info 目录

Question

在由 Apache Spark 服务支持的 Python 3.5 笔记本中，我使用 pip 安装了 BigDL 0.2。当删除该安装并尝试安装 BigDL 0.3 版时，我收到此错误:(为了便于阅读而添加了换行符)

AssertionError: Multiple .dist-info directories:
/gpfs/fs01/user/scbc-4dbab79416a6ec-4cf890276e2b/.local/lib/python3.5/site-packages/BigDL-0.3.0.dist-info,
/gpfs/fs01/user/scbc-4dbab79416a6ec-4cf890276e2b/.local/lib/python3.5/site-packages/BigDL-0.2.0.dist-info

但是，这些目录都不存在:

!ls -al /gpfs/fs01/user/scbc-4dbab79416a6ec-4cf890276e2b/.local/lib/python3.5/site-packages/
total 0
drwx------ 2 scbc-4dbab79416a6ec-4cf890276e2b users 4096 Nov  8 06:12 .
drwx------ 3 scbc-4dbab79416a6ec-4cf890276e2b users 4096 Nov  8 06:12 ..

怎么了？删除旧版本的软件包后如何安装新版本的软件包？

Answer 1

错误信息中的目录路径错误。 DSX 上的 Python 3.5 内核通过设置环境变量 PIP_BUILD 指定 pip 的构建目录。多个 dist-info 目录在那里:

!printenv PIP_BUILD ; ls -l $PIP_BUILD/*
/tmp/scbc-4dbab79416a6ec-4cf890276e2b/pip-build
total 0
drwx------ 8 scbc-4dbab79416a6ec-4cf890276e2b users 117 Nov  7 02:02 bigdl
drwx------ 2 scbc-4dbab79416a6ec-4cf890276e2b users 135 Nov  7 02:02 BigDL-0.2.0.dist-info
drwx------ 2 scbc-4dbab79416a6ec-4cf890276e2b users 135 Nov  8 06:12 BigDL-0.3.0.dist-info

要解决此问题，请删除构建目录:

!rm -rf $PIP_BUILD

之后，pip可以毫无问题地安装该包:

!pip install --no-dependencies bigdl==0.3
Collecting bigdl==0.3
  Using cached BigDL-0.3.0-py2.py3-none-manylinux1_x86_64.whl
Installing collected packages: bigdl
Successfully installed bigdl