python - 计算Python列表中的编辑距离

Question

我有一个字符串列表，我想根据levenstein距离过滤掉过于相似的字符串。所以如果 lev(list[0], list[10]) < 50 ;然后del list[10] 。有什么方法可以更有效地计算列表中每对字符串之间的距离吗？谢谢!!

data2= []
for i in data:
    for index, j in enumerate(data):
        s = levenshtein(i, j)
        if s < 50:
            del data[index]
    data2.append(i)

上面相当愚蠢的代码计算时间太长......

Answer 1

如果我们只保留命中字符串的索引并稍后跳过它们会怎么样？我忽略了 enumerate() 和 del() 的权重以及命中百分比是多少(即必须从数据集中删除多少字符串)。

THRESHOLD = 50
data = ["hel", "how", "are", "you"] # replace with your dataset

tbr = {} # holds the index of the strings to be removed
idx = 0
for i in data:
    for j in xrange(len(data)):
        if j != idx and levenshtein(i, data[j]) < THRESHOLD:
            tbr[j] = True
    idx += 1

# print tbr
data2 = []
idx = -1
for d in data:
    idx += 1
    if idx in tbr:
        continue # skip this string
    data2.append(d)
# print data2