javascript - 使用 Executescript 和 Javascript 合并 NiFi 中的 json 流文件

Question

我目前正在尝试合并两个 Json 文件 - 一个是嵌套的，另一个是平面的:

"ampdata": [
                {
                    "nr": "303",
                    "code": "JGJGh4958GH",
                    "Anr": "AVAILABLE",
                    "ability": [ "" ],
                    "type": "wheeled",
                    "conns": [
                        {
                            "nr": "447",
                            "status": "",
                            "version": "3",
                            "format": "sckt",

                            "amp": "32",
                            "vol": "400",
                            "vpower": 22

                        }
                    ]
                }

    [ {
  "nr" : 91643421,
  "Anr" : "Real",
  "Title" : null,
  "Comp" : null,
  "Name" : "Smith",
  "CompanyName" : "WhiteC"
}]

我当前的方法是:

    var flowFile = session.get();
if (flowFile != null) {
  var StreamCallback =  Java.type("org.apache.nifi.processor.io.StreamCallback")
  var IOUtils = Java.type("org.apache.commons.io.IOUtils")
  var StandardCharsets = Java.type("java.nio.charset.StandardCharsets")

  flowFile = session.write(flowFile,
    new StreamCallback(function(inputStream, outputStream) {
        var text = IOUtils.buffer(inputStream)
        var obj = JSON.parse(text)
        var neu = [];
        var neuesObjekt = {};
        for (var i = 0; i < obj.ampdata.length; i++) {
            var entry = obj.ampdata[i];
            if(obj.ampdata[i].nr != obj2.nr) {

                           obj2.nr = obj.ampdate[i].nr
                        }

        }



        outputStream.write(JSON.stringify(newObj, null, '\t').getBytes(StandardCharsets.UTF_8)) 
    }))
  flowFile = session.putAttribute(flowFile, "filename", flowFile.getAttribute('filename').split('.')[0]+'_translated.json')
  session.transfer(flowFile, REL_SUCCESS)

如何解析同时传入的两个流文件？我确实喜欢同时使用两者，因为我必须在多个位置上比较它们。我不知道如何避免覆盖第一个流程文件。

我有另一种使用 MergeConent-Processor 的方法，但结果只是两个 Json 的串联，而不再是有效的 Json。不管怎样，我确实更喜欢 Javascript 尝试，我只需要你的帮助来弄清楚如何以正确的方式做到这一点。

Answer 1

我认为您可以使用带有参数的合并内容:

• 合并格式:二进制
• 标题:[
• 页脚:]
• 分界符:,

通过将两个 json 文件合并为一个，将生成一个有效的 json(数组)。

然后，如果您需要重新格式化 json - 您仍然可以使用 ExecuteScript 处理器...

并且您不需要实现连接文件逻辑。

<小时/>

PS:要从输入队列中获取两个文件，请使用此类代码:

var flowFiles = session.get(2);
if(!flowFiles)return;
if(flowFiles.size()!=2){
    session.transfer(flowFiles); //return files back to input queue
    return;
}
//we have exactly two files. let's process them...
var flowFile1 = flowFiles[0];
var flowFile2 = flowFiles[1];
//read each, parse, apply logic, write result
...