我在 Apache Pig 中执行脚本时遇到问题。我有 3 个文件,即 movies.csv、ratings.csv、tags.csv。首先我想加载“movies.csv”,然后加载“ratings.csv”并加入两个表。但是我在加载文件时遇到错误。我给的代码如下,
register 'piggybank-0.15.0.jar'
DEFINE CSVLoader org.apache.pig.piggybank.storage.CSVLoader();
part1 = LOAD '/home/cloudera/ml-20m/movies' as (movieId: chararray, title: chararray, genre: chararray);
cat part1;
当我发出“cat”命令时,出现错误,如
Pig 堆栈跟踪
ERROR 2997: Encountered IOException. Directory part1 does not exist.
java.io.IOException: Directory part1 does not exist.
at org.apache.pig.tools.grunt.GruntParser.processCat(GruntParser.java:677)
at org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:233)
at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:198)
at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:173)
at org.apache.pig.tools.grunt.Grunt.run(Grunt.java:69)
at org.apache.pig.Main.run(Main.java:547)
at org.apache.pig.Main.main(Main.java:158)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
但是我在指定位置有文件。我不知道为什么 pig 无法识别输入文件。我试过将输入文件放在 hdfs 中并加载文件。但是错误是一样的。谁能帮帮我吗。提前致谢。
最佳答案
part1 不是文件而是关系。当您在 Pig 中使用 LOAD 命令时,您是在指示将文件的内容加载到关系中。您不能在关系上使用 cat,因为 cat 最常见的用法是读取文件的内容。 要显示第 1 部分的内容,请使用
DUMP part1;
否则如果你坚持使用cat,那么指定文件的完整路径
cat /home/cloudera/ml-20m/movies;
关于csv - ERROR 2997 : Encountered IOException. 目录 part1 不存在,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46727002/