scala - 解码的Snappy压缩字节数组的结尾为零

Question

我正在尝试读写从Hadoop序列文件中的protobuf创建的Snappy压缩字节数组。

从hadoop读回的数组具有尾随零。如果字节数组很小且简单地删除尾随零就足以解析原始缓冲区，但是对于更复杂的对象和大序列文件而言，解析将失败。

字节数组示例:

val data = Array(1,2,6,4,2,1).map(_.toByte)
val distData = sparkContext.parallelize(Array.fill(5)(data))
  .map(j => (NullWritable.get(), new BytesWritable(j)))

distData
  .saveAsSequenceFile(file, Some(classOf[SnappyCodec]))

val original = distData.map(kv=> kv._2.getBytes).collect()

val decoded = sparkContext
  .sequenceFile[NullWritable, BytesWritable](file)
  .map( kv => kv._2.getBytes.mkString).collect().foreach(println(_))

输出:
原始的:= 126421
解码:= 126421000

Answer 1

此问题源于BytesWritable.getBytes，它返回的后备数组可能比数据长。而是调用copyBytes(与Write and read raw byte arrays in Spark - using Sequence File SequenceFile一样)。

有关更多详细信息，请参见HADOOP-6298: BytesWritable#getBytes is a bad name that leads to programming mistakes。