我不是问如何在hadoop中为文件夹/文件设置复制因子。我知道以下命令对于现有文件和文件夹来说可以完美地工作。
hadoop fs -setrep -R -w 3 <folder-path>
我问,在从本地复制数据时,如何设置默认复制因子(在我的场景中为 4)之外的复制因子。我正在运行以下命令,
hadoop fs -copyFromLocal <src> <dest>
当我运行上述命令时,它将数据从 src
复制到 dest
路径,复制因子为 4。但我想将复制因子设置为 1
复制数据时但复制完成后不会。基本上我想要这样的东西,
hadoop fs -setrep -R 1 -copyFromLocal <src> <dest>
我尝试过,但没有成功。那么,可以吗?或者我首先使用复制因子 4 复制数据,然后运行 setrep
命令?
最佳答案
根据this post和 this post (都问不同的问题),这个命令似乎有效:
hadoop fs -D dfs.replication=1 -copyFromLocal <src> <dest>
-D option意思是“给定属性(property)的使用值(value)。”
关于hadoop - 如何在运行 copyFromLocal 命令时更改复制因子?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30613856/