unit-testing - Hadoop 的 Maven 依赖项 : MiniDFSCluster & MiniMRCluster

标签 unit-testing hadoop hadoop2

我想实现一个 Maven 项目,它可以帮助我对 Hadoop MapReduce 作业进行单元测试。我最大的问题是定义 Maven 依赖项以便能够使用测试类:MiniDFSCluster 和 MiniMRCluster。

我正在使用 Hadoop 2.4.1。有什么想法吗?

最佳答案

如果其他人仍在搜索答案:

MiniMRCluster 现已弃用。

您可以在依赖项中获取 MiniDFSCluster 和 MiniMRCluster(针对 Gradle 显示)

compile group: 'org.apache.hadoop', name: 'hadoop-minicluster', version: '2.7.2'

依赖项基本上只是一个 pom 文件,列出了这个包中的依赖项。对于那些想要查找它的人,MiniDFSCluster 在神器 hadoop-hdfs:tests

您不必使用 Cloudera 存储库中的依赖项

关于unit-testing - Hadoop 的 Maven 依赖项 : MiniDFSCluster & MiniMRCluster,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24554050/

相关文章:

使用 GNU make 跨不同目录进行编译

angularjs - 测试模态对话框时的未知提供者

c# - 如何模拟成员(member)提供者

sql - 相当于TD_WEEK_OF_CALENDAR的配置单元

hadoop - 如何在 Hadoop 2.x 中增加 hdfs 的容量

c++ - Visual Studio native 单元测试 : Debug/console output?

windows - Pig 0.13.0 在 Windows 8 上的安装

hadoop - 如何在Redhat上安装Hive?

java - 计数器在 reducer 代码中不起作用

java - 使用 java 使用语句类的单个 execute() 方法执行多个配置单元查询