python - python中最短的哈希来命名缓存文件

Question

python 中可用的最短哈希(以文件名可用的形式，如十六进制摘要)是什么？我的应用程序想要为某些对象保存 缓存文件。对象必须具有唯一的 repr() 以便它们用于“播种”文件名。我想为每个对象(不是很多)生成一个可能唯一的文件名。它们不应该发生冲突，但如果它们发生冲突，我的应用程序将只是缺少该对象的缓存(并且必须重新索引该对象的数据，这对应用程序来说成本很小)。

因此，如果发生一次冲突，我们会丢失一个缓存文件，但缓存所有对象的收集节省使应用程序启动速度更快，所以这并不重要。

现在我实际上正在使用 abs(hash(repr(obj)));没错，就是字符串哈希!还没有发现任何冲突，但我想要一个更好的哈希函数。 hashlib.md5 在 python 库中可用，但如果放入文件名，则 hexdigest 真的很长。具有合理抗碰撞性的替代品？

编辑: 用例是这样的: 数据加载器获取数据承载对象的新实例。独特的类型有独特的代表。因此，如果存在 hash(repr(obj)) 的缓存文件，我会取消该缓存文件并将 obj 替换为未腌制的对象。如果发生冲突并且缓存是错误匹配，我会注意到。因此，如果我们没有缓存或存在错误匹配，我会改为初始化 obj(重新加载其数据)。

结论 (?)

python 中的 str 哈希可能已经足够好了，我只是担心它的抗碰撞性。但是，如果我可以用它散列 2**16 个对象，那就足够了。

我发现了如何获取十六进制哈希(来自任何哈希源)并使用 base64 紧凑地存储它:

# 'h' is a string of hex digits 
bytes = "".join(chr(int(h[i:i+2], 16)) for i in xrange(0, len(h), 2))
hashstr = base64.urlsafe_b64encode(bytes).rstrip("=")

Answer 1

birthday paradox适用:给定一个好的散列函数，发生冲突之前的预期散列数约为 sqrt(N)，其中 N 是散列函数可以采用的不同值的数量。 (我指出的维基百科条目给出了确切的公式)。因此，例如，如果您想使用不超过 32 位，那么对于大约 64K 对象(即 2**16 对象 - 的平方根，您的冲突担忧会很严重2**32 您的哈希函数可以采用的不同值)。您希望有多少个对象，按数量级计算？

由于您提到碰撞是一个小麻烦，我建议您将哈希长度的目标设置为大致等于您将拥有的对象数量的平方，或者稍微少一点但不会比这少很多。

你想创建一个文件名——是在区分大小写的文件系统上，就像在 Unix 上典型的那样，还是你也必须迎合不区分大小写的系统？这很重要，因为您的目标是短文件名，但是在区分大小写和不区分大小写的系统上，您可以用来将哈希表示为文件名的每个字符的位数会发生巨大变化。

在区分大小写的系统上，您可以使用标准库的 base64 模块(我推荐使用“urlsafe”版本的编码，即 this 函数，以避免可以出现在普通的 base64 中，这在 Unix 文件名中很重要)。这为每个字符提供了 6 个可用位，比 16 进制的 4 位/字符要好得多。

即使在不区分大小写的系统上，您仍然可以做得比十六进制更好——使用 base64.b32encode 并获得每个字符 5 位。

这些函数接受和返回字符串；如果您选择的哈希函数生成数字，请使用 struct 模块将数字转换为字符串。

如果您确实有数万个对象，我认为您可以使用内置哈希(32 位，因此 6-7 个字符，具体取决于您选择的编码)。对于一百万个对象，您需要 40 位左右(7 或 8 个字符)——您可以将 sha256 折叠(异或，不要截断；-)将 sha256 折叠为具有合理位数的 long，例如 128 位左右, 并在编码前使用 % 运算符将其进一步剪切到所需的长度。