java - 使用超大的 json 文件。返回总是内存不足

标签 java json stream base64 jackson

jackson如何使用stream API json?请参阅下面的代码:

    ObjectMapper mapper = new ObjectMapper();

    Map<String, Object> map = new HashMap<String, Object>();

    List<Object> list = new ArrayList<Object>();

    // Get images in database
    try {
            Class.forName(DRIVER);
            connection = DriverManager.getConnection(URL, USER, PASSWORD);

            Statement s = connection.createStatement();
            ResultSet r = s.executeQuery("select * from images");

            while (r.next()) {

                byte[] imageBytes = r.getBytes("image");
                String imageBase64 = DatatypeConverter.printBase64Binary(imageBytes);
                list.add(imageBase64);
            }

    } catch (SQLException e) {

    }

    map.put("images", list);

    // Stream Json API
    try {
            mapper.writeValue(new File("c:\\images.json"), map);
    } catch (JsonGenerationException e) {
            e.printStackTrace();
    } catch (JsonMappingException e) {
            e.printStackTrace();
    } catch (IOException e) {
            e.printStackTrace();
    }

总是返回内存不足。我不知道在 jackson 身上使用流媒体。我使用超大 json,平均 2000 张图像,每张图像一个 imageBase64。我做错了什么?

最佳答案

不是将所有图像都保存在内存中,而是增量地读取和写入它们。 可以找到 Jackson Streaming API 的示例 here (“读写事件流”)。

编辑:这应该很难让人理解......但这是一个基本的例子:

// typed from memory, some methods may be off a bit
JsonFactory f = objectMapper.getFactory();
JsonGenerator gen = f.createGenerator(new File("c:\\images.json"));
gen.writeStartArray(); // to get array of objects
// get the DB connection etc
while (r.next()) {
  gen.writeFieldName("image");
  InputStream in = r.getBinaryStream("image");
  gen.writeBinary(in, -1); // length optional for JSON
  in.close();
}

gen.writeEndArray();//获取对象数组 gen.close();

这应该可以解决问题。

关于java - 使用超大的 json 文件。返回总是内存不足,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15097939/

相关文章:

java - 使用 lambda 表达式从 ArrayList<E> 获取字符串元素

java - youtube 如何计算每个视频的唯一 11 位代码

java - hibernate - 在没有 session 的情况下获取命名查询字符串

mysql - 使用 Node.JS 将 JSON 对象数据插入 MySQL

Python:将 Python 字典列表转换为 JSON 对象数组

java - UVa 594 中的运行时错误

ios - AlamoFireObjectMapper 无法在对象数组中保存数据响应

android - Java : FileNotFoundException when loading Bitmap from URL with basic authentication

shell - 流式操作系统/exec.Command

python - 如何在 Python 中从流追加到文件而不是覆盖