hadoop - Hadoop 中的 VIRTUAL_MEMORY_BYTES 任务计数器是什么意思?

标签 hadoop mapreduce hortonworks-data-platform apache-tez

权威指南中的以下摘录提供了如下所示的高级详细信息,但是

  1. 这个任务计数器中的虚拟内存到底指的是什么?
  2. 如何解读?它与 PHYSICAL_MEMORY_BYTES 有什么关系?

enter image description here

以下是其中一份工作的示例摘录。物理空间约为 214 GB。虚拟空间约为 611 GB。

enter image description here

最佳答案

1.这个任务计数器中的虚拟内存到底指的是什么?

 Virtual Memory here is used to prevent Out of Memory errors of a task,if data size doesn't fits in RAM(physical mem).
  in RAM.So a portion of memory of size what didn't fit in RAM will be used as Virtual Memory.

因此,在设置 hadoop 集群时,建议设置 vm.swappiness =1 的值以获得更好的性能。在 linux 系统上,vm.swappiness 默认设置为 60。 值越高,内存页面交换越积极。

https://community.hortonworks.com/articles/33522/swappiness-setting-recommendation.html

<强>2。如何解读?它与 PHYSICAL_MEMORY_BYTES 有什么关系?

swapping of memory pages from physical memory to virtual memory on disk when not enough phy mem

这是 PHYSICAL_MEMORY_BYTES 和 VIRTUAL_MEMORY_BYTES 之间的关系。

关于hadoop - Hadoop 中的 VIRTUAL_MEMORY_BYTES 任务计数器是什么意思?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53451612/

相关文章:

apache-spark - Apache Spark 2.3.1 与 HDP 3.0 中的 Hadoop 3.0 的兼容性

algorithm - MapReduce计数对的出现

hadoop - Oozie相关问题

hadoop - 如何在特定版本中启动hadoop

hadoop - HortonWorks中的<urlopen错误[Errno 111]连接被拒绝>

security - Elasticsearch、Apache Metron 和 Apache Spot 在网络安全方面有何技术差异?

hadoop - Hive Server 2/Beeline在HBase上的Hive表上不返回带有INNER JOIN的行

java - 如何从Impala数据库将字符串数据导入到wordcount mapreduce

hadoop - map 缩小输出未生成

hadoop - Pig Inner Join 使用 1 个悬挂 reducer 生产作业