java - 在映射器中运行 hdfs -text 命令并使用输出

标签 java hadoop hdfs

有没有办法在映射器中运行 hadoop 命令?

例如我要运行

hdfs dfs -text /path/to/file 

我会将该输出用于我的映射器逻辑。或者有其他选择吗?

例如运行命令hdfs dfs -text/path/to/file作为Java的子进程

最佳答案

更好的是使用 Java HDFS API打开 HDFS 文件并将内容读入您可以使用的变量。

例如:

InputStream is = FileSystem.get(yourConfigurationObject).open(new Path("/path/to/file"));

关于java - 在映射器中运行 hdfs -text 命令并使用输出,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/29290932/

相关文章:

JavaFX如何使文本区域中的文本带有下划线?

java - 从 JavaScript 调用 Groovy 或 Java

java - 在 fragment Activity 中使用列表适配器

java - HBase - 无法抑制 fs 关闭 Hook

amazon-ec2 - Hadoop 安全模式恢复 - 花费大量时间

Hadoop:有 0 个数据节点正在运行,并且没有节点被排除在此操作中

java - 在 Eclipse 中使用 Maven 设置 GWT 项目

azure - 如何有效地将大数据从数据中心移至Azure Blob存储,以通过HDInsight进行后续处理?

python - 如何在 Hadoop 上运行的 Cloudera Impala 的 python impyla 查询中转义字符

encryption - 使用 Hadoop 加密