hadoop - 如何在运行 copyFromLocal 命令时更改复制因子?

标签 hadoop hdfs

不是问如何在hadoop中为文件夹/文件设置复制因子。我知道以下命令对于现有文件和文件夹来说可以完美地工作。

hadoop fs -setrep -R -w 3 <folder-path>

我问,在从本地复制数据时,如何设置默认复制因子(在我的场景中为 4)之外的复制因子。我正在运行以下命令,

hadoop fs -copyFromLocal <src> <dest>

当我运行上述命令时,它将数据从 src 复制到 dest 路径,复制因子为 4。但我想将复制因子设置为 1 复制数据时但复制完成后不会。基本上我想要这样的东西,

hadoop fs -setrep -R 1 -copyFromLocal <src> <dest>

我尝试过,但没有成功。那么,可以吗?或者我首先使用复制因子 4 复制数据,然后运行 ​​setrep 命令?

最佳答案

根据this postthis post (都问不同的问题),这个命令似乎有效:

hadoop fs -D dfs.replication=1 -copyFromLocal <src> <dest>

-D option意思是“给定属性(property)的使用值(value)。”

关于hadoop - 如何在运行 copyFromLocal 命令时更改复制因子?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30613856/

相关文章:

bash - 使用Shell解析HIVE中的字符串

eclipse - hadoop 2 中的 hadoop jar 文件在哪里?

Hadoop distcp 命令使用不同的 S3 目标

hadoop 权限问题 (hdfs-site.xml dfs.permissions.enabled)

hadoop - 要求澄清一些 HDFS 概念

hadoop - 无法通过 SSH 连接到 VM,导致使用 bdutil 安装 Hadoop 出现问题

hadoop - 无法连接到远程计算机上的dfs namenode Web UI

hadoop - Hadoop Map Reduce 链接中的数据共享

scala - java.lang.ClassCastException : org. apache.avro.generic.GenericData$Record 无法转换为 packagename.MyRecord

hadoop - 是否可以使用 webhdfs 在请求 url 中传递多个参数?