Azure HDInsights Spark 集群安装外部库

标签 azure apache-spark tensorflow machine-learning azure-hdinsight

我有一个 HDInsights Spark 群集。我使用脚本操作安装了tensorflow。安装顺利(成功)。

但是现在当我创建一个 Jupyter 笔记本时,我得到:

import tensorflow

Starting Spark application
The code failed because of a fatal error:
    Session 8 unexpectedly reached final status 'dead'. See logs:
YARN Diagnostics:
Application killed by user..

Some things to try:
a) Make sure Spark has enough available resources for Jupyter to create a Spark context. For instructions on how to assign resources see http://go.microsoft.com/fwlink/?LinkId=717038
b) Contact your cluster administrator to make sure the Spark magics library is configured correctly.

我不知道如何修复此错误...我尝试了一些方法,例如查看日志,但它们没有帮助。

我只想连接到我的数据并使用 tensorflow 训练模型。

最佳答案

这看起来像是 Spark 应用程序资源的错误。检查集群上的可用资源并关闭任何不需要的应用程序。请在此处查看更多详细信息:https://learn.microsoft.com/en-us/azure/hdinsight/spark/apache-spark-resource-manager#kill-running-applications

关于Azure HDInsights Spark 集群安装外部库,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49975169/

相关文章:

azure - 在多个 azure 实例中找不到文件

python - Spark Dataframe 在性能上比 Pandas Dataframe 有何优势?

python - Keras 训练神经网络维度值错误 : expected to have 2 dimensions, 但获得形状为 (32, 1, 4) 的数组

python - 正常和拉普拉斯的 KL 散度未在 TensorFlow Probability 和 PyTorch 中实现

python - 值错误: Please initialize `TimeDistributed` layer with a `Layer` instance

java - 使用java中的REST api创建azure自动化帐户

c# - 使用 Azure Functions 进行 ILogger 依赖注入(inject)

c# - Azure Webjobs TimerTrigger 不起作用

apache-spark - 在启动后一分钟,Spark会释放所有执行程序

scala - 在 Scala 中使用元组作为键