java - Java 8 流的确定性

标签 java java-8 java-stream deterministic

动机

我刚刚重写了大约 30 个主要是琐碎的解析器,我需要新版本的行为与旧版本完全一样。因此,我存储了他们的示例输入文件和旧解析器生成的输出的一些签名,以便与新解析器进行比较。此签名包含成功解析项目的计数、一些哈希码的总和以及最多 10 个伪随机选择的项目。

我认为这是个好主意,因为哈希码总和的相等性在某种程度上保证了输出完全相同,并且样本让我可以看到问题所在。我只使用样本,否则它会变得非常大。

问题

基本上,给定一个无序的字符串集合,我想得到一个最多包含 10 个字符串的列表,这样当集合稍有变化时,我仍然会在相同的位置得到大部分相同的样本(输入是无序的,但输出是一个列表)。这在缺少某些东西时也应该有效,所以像取第 100 个最小元素这样的想法不起作用。

ImmutableList<String> selectSome(Collection<String> list) {
        if (list.isEmpty()) return ImmutableList.of();
        return IntStream.range(1, 20)
            .mapToObj(seed -> selectOne(list, seed))
            .distinct()
            .limit(10)
            .collect(ImmutableList.toImmutableList());
    }

所以我从 1 到 20 的数字开始(这样在 distinct 之后我仍然很可能有 10 个样本),调用无状态确定性函数 selectOne(定义如下) 根据一些有趣的标准返回一个最大的字符串,删除重复项,限制结果并使用 Guava 收集它。所有步骤都应该是恕我直言的确定性和“有序”的,但我可能忽略了一些东西。另一种可能性是我所有的 30 个新解析器都是错误的,但考虑到哈希是正确的,这是不可能的。而且,解析的结果看起来是正确的。

String selectOne(Collection<String> list, int seed) {
    // some boring mixing, definitely deterministic
    for (int i=0; i<10; ++i) {
        seed *= 123456789;
        seed = Integer.rotateLeft(seed, 16);
    }
    // ensure seed is odd
    seed = 2*seed + 1;

    // first element is the candidate result
    String result = list.iterator().next();
    // the value is the hash code multiplied by the seed
    // overflow is fine
    int value = seed * result.hashCode();

    // looking for s maximizing seed * s.hashCode()
    for (final String s : list) {
        final int v = seed * s.hashCode();
        if (v < value) continue;
        // tiebreaking by taking the bigger or smaller s
        // this is needed for determinism
        if (s.compareTo(result) * seed < 0) continue;
        result = s;
        value = v;
    }
    return result;
}

这个抽样好像不行。我得到一个像

这样的序列
"9224000", "9225000", "4165000", "9200000", "7923000", "8806000", ...

使用一个旧的解析器和

"9224000", "9225000", "4165000", "3030000", "1731000", "8806000", ...

有了新的。这两个结果都是完全可重复的。对于其他解析器,它看起来非常相似。

我对流的使用有误吗?我是否必须添加 .sequential() 或类似的东西?

更新

对输入集合进行排序解决了问题:

ImmutableList<String> selectSome(Collection<String> collection) {
    final List<String> list = Lists.newArrayList(collection);
    Collections.sort(list);
    .... as before
}

仍然缺少的是解释原因。

解释

如答案中所述,我的决胜局是一个全胜局,因为我没有检查平局。有点像

if (v==value && s.compareTo(result) < 0) continue;

工作正常。

我希望我的困惑问题至少对寻求“一致采样”的人有用。它与 Java 8 无关。

我应该使用 Guava ComparisonChain 或更好的 Java 8 arg max 来避免我的愚蠢错误:

String selectOne(Collection<String> list, int seed) {
    .... as before
    final int multiplier = 2*seed + 1;
    return list.stream()
          .max(Comparator.comparingInt(s -> multiplier * s.hashCode())
          .thenComparing(s -> s)) // <--- FOOL-PROOF TIEBREAKER
          .get();
}

最佳答案

错误在于您的决胜局实际上并不是打破平局。当 v > value 时,我们应该选择 s,但我们会回退到 compareTo()。这打破了比较对称性,使您的算法依赖于遇到顺序。

作为奖励,这里有一个重现错误的简单测试用例:

System.out.println(selectOne(Arrays.asList("1", "2"), 4));  // 1
System.out.println(selectOne(Arrays.asList("2", "1"), 4));  // 2

关于java - Java 8 流的确定性,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45875953/

相关文章:

java - 子流中列表大小的总和

java - 使用 Collectors.groupingby 创建集合的映射

java - 如何将 map 转换为用户对象列表?

java - Itext 7 在 pdf 中使用 Material ui 图标

java - 批处理文件错误级别问题

java - 数据结构和实现,为什么我不应该只使用数据收集 API?

Java List<String> 到 Map<String, Long> 转换

java - 这个 Haskell 函数的 Java 等价物是什么?

java - 非并行流是否意味着对大量数据进行大量操作?

java - 如何在java中构建正则表达式来检测空格或字符串结尾?