json - 如何获取 Spark 驱动程序指标 json?

标签 json driver apache-spark metrics

我遵循了监控指南:
http://spark.apache.org/docs/latest/monitoring.html
配置metricsservlet,但似乎这个文档没有说任何有用的东西......

而metrics.properties 中的共同点说:

” 5.在master、worker和client中默认添加MetricsServlet作为sink
驱动程序,您可以发送 http 请求“/metrics/json”来获取所有
以 json 格式注册的指标。对于 master,请求 "/metrics/master/json"和
“/metrics/applications/json”可以单独发送以获取指标快照
实例主机和应用程序。 MetricsServlet 不能自己配置。


但是http请求url的前缀是什么?我应该在哪里提交http请求?

http://driver-node:4040/metrics/json
不响应 json,只是重定向到 Web UI...

谢谢。

最佳答案

如果您使用的是 Spark 1.2.0,则已知指标 servlet 由于 SparkContext 中的初始化排序错误而损坏( SPARK-4549 ;这是少数已知的 1.1.1 -> 1.2.0 回归之一,并记录在案在发行说明中)。有一个补丁可用于修复此问题 ( https://github.com/apache/spark/pull/3444 ),它将包含在 Spark 1.2.1 中。我们预计将在下周左右开始对 1.2.1 候选版本进行投票,因此您可以期待一个包含此修复程序的维护版本。同时,您可以从 master 自己构建 Spark。或 branch-1.2分支或使用没有此问题的早期版本的 Spark(例如 Spark 1.1.1)。

关于json - 如何获取 Spark 驱动程序指标 json?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28083597/

相关文章:

javascript - 从 JS 文件渲染绘制的波形数据

ruby-on-rails - 如何在 rails json 响应中合并对象中的另一个字段

C++:从打印机读取数据

linux - PCI 驱动程序获取 MAC 地址

android - 如何使用免费 API 获取 NSE 和 BSE 的所有股票列表公司名称和代码?

android - Creative Ziio 和安卓开发,adb

amazon-web-services - 来自 aws-cli 的 EMR Spark 作业

mysql - 使用 SPARK 更新 MySQL 行

apache-spark - 如何使用 aws 数据管道为 spark 应用程序正确设置谷歌云存储

php - 逗号分隔具有一个值的步骤到具有相同值的多个步骤