python - Dask 工作人员似乎死了，但无法找到工作人员日志来找出原因

Question

我有一段在本地计算机上运行的 DASK 代码，它可以在 90% 的时间内工作，但有时会卡住。卡住的意思。没有崩溃，没有错误打印，没有CPU使用情况。永远不会结束。

我谷歌了一下，认为这可能是因为一些 worker 死了。如果我能看到工作日志并找出原因，我将非常有用。 但我找不到我的 worker 日志。我去编辑 config.yaml 以添加日志记录，但仍然没有从 stderr 中看到任何内容。 然后我转到仪表板 --> 信息 --> 日志并看到空白页面。

它卡住的代码是 X_test = df_test.to_dask_array(长度=True) 或者 概率 = y_pred_proba_train[:, 1].compute()

我的 ~/.config/dask/config.yaml 或 ~.dask/config.yaml 看起来像 记录: 分布式:信息 分布式客户端:警告 分布式工作人员:调试 Bokeh :错误

我正在使用 python 3.6 达克1.1.4 我所需要的只是一种查看日志的方法，以便我可以尝试找出问题所在。

谢谢

约瑟夫

Answer 1

工作日志通常由您用来设置 Dask 的任何系统管理。

也许您使用过 Kubernetes、Yarn 或 SLURM 之类的东西？

这些系统都有办法取回日志。

不幸的是，一旦 Dask 工作线程不再运行，Dask 本身就无法为您收集日志。您需要使用用于启动 Dask 的系统。