java - Hadoop:基元数组作为键值对中的值

Question

我在之前的帖子中问过一个非常相似的问题 Hadoop: How can i have an array of doubles as a value in a key-value pair? .

我的问题是我想将一个 double 组作为值从 map 传递到 reduce 阶段。我得到的答案是序列化，转换为文本，将其传递给 reducer 并反序列化。这是一个很好的解决方案，但它就像序列化和反序列化两次一样。

ArrayWritable 只接受实现 Writable 的类型，例如 FloatWritable。所以另一种解决方案是将我的 double 组转换为 DoubleWritables 数组。但这也需要一些时间，而且 Writables 是一种非常昂贵的资源。难道没有像 ArrayWritable array=new ArrayWritable(Double.class) 这样非常简单的解决方案吗？？？

Answer 1

只需实现您自己的 Writable界面。

例如，

public class DoubleArrayWritable implements Writable {
    private double[] data;

    public DoubleArrayWritable() {

    }

    public DoubleArrayWritable(double[] data) {
        this.data = data;
    }

    public double[] getData() {
        return data;
    }

    public void setData(double[] data) {
        this.data = data;
    }

    public void write(DataOutput out) throws IOException {
        int length = 0;
        if(data != null) {
            length = data.length;
        }

        out.writeInt(length);

        for(int i = 0; i < length; i++) {
            out.writeDouble(data[i]);
        }
    }

    public void readFields(DataInput in) throws IOException {
        int length = in.readInt();

        data = new double[length];

        for(int i = 0; i < length; i++) {
            data[i] = in.readDouble();
        }
    }
}