java - Hadoop 作业挂起等待被杀死

标签 java hadoop distributed-computing

我有多个 Hadoop 作业执行不同的处理。当其中一些(自定义业务异常)发生异常时,它会传播到 map() 方法,作业会立即终止。

然而,一些作业在映射器类的 setup() 方法中抛出异常。当发生这种情况时,作业会挂起 40 分钟(我的 Hadoop 计时器必须设置为此),并且根据任务重新运行策略,我必须等待 4*40 = 160 分钟。在这种特殊情况下,其中一个业务类抛出 IllegalArgumentException。

我怎样才能处理这个漫长的“工作卡在云端”的时期,同时保持我的计时器不变?

最佳答案

您可以在命令行上使用 hadoop job -kill <jobid> 终止作业

关于java - Hadoop 作业挂起等待被杀死,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8211248/

相关文章:

Java Executors.newFixedThreadPool() - Web 应用程序中理想的线程数?

java - 使用 tomcat 的简单 Java Web 应用程序,从本地主机到部署

java - Kafka Stream Punctuator 在重建本地存储数据时访问它

java - 在hadoop java中解析json输入

sql - 如何将 ElasticSearch 查询传递给 hadoop

java - 在两台不同机器上运行的两个java项目之间共享队列

distributed-computing - 网络断开后,筏跟随者如何重新加入?

java - Android API 23 java.net.UnknownHostException : Unable to resolve host "URL": No address associated with hostname

hadoop - Hadoop MapReduce映射器任务从HDFS或S3读取输入文件所花费的时间

java - 如何让不同的机器运行不同的任务?