hadoop - Hive UDF 执行

Question

我编写了一个 Hive UDF，它使用内部 API 进行解密，如下所示:

public Text evaluate(String customer) {
    String result = new String();

    if (customer == null) { return null; }

    try {
        result = com.voltage.data.access.Data.decrypt(customer.toString(), "name");
    } catch (Exception e) {
        return new Text(e.getMessage());
    }

    return new Text(result);
}

Data.decrypt 的作用是:

public static String decrypt(String data, String type) throws Exception {
    configure();
    String FORMAT = new String();
    if (type.equals("ccn")) {
        FORMAT = "CC";
    } else if (type.equals("ssn")) {
        FORMAT = "SSN";
    }   else if (type.equals("name")) {
        FORMAT = "AlphaNumeric";
    }

    return library.FPEAccess(identity, LibraryContext.getFPE_FORMAT_CUSTOM(),String.format("formatName=%s", FORMAT),authMethod, authInfo, data);
}

其中configure()创建了一个相当昂贵的上下文对象。

我的问题是:Hive 是否对查询返回的每一行执行一次此 UDF？即，如果我选择 10,000 行，则评估方法是否会运行 10,000 次？

我的直觉告诉我是的。如果是这样，那么这是第二个问题:

有什么办法我可以执行以下操作之一:

a) 在查询首次启动时运行configure()一次，然后共享上下文对象

b)UDF 不是返回解密的字符串，而是将加密的字符串聚合到某个 Set 中，然后我对该集合进行批量解密？

提前致谢

Answer 1

configure() 是否需要每个 JVM 调用一次，或者每个 UDF 类实例调用一次？

如果每个 JVM 一次，只需将其放入类中的静态 block 中，如下所示:

static {
    configure();
}

如果每个实例一次，请将其放入构造函数中:

public [class name]() {
    super();
    configure();
}