c# - 如何检测 Lucene 索引中是否已经存储了类似的文档

Question

我需要排除数据库中的重复项。问题是重复项不被视为完全匹配，而是相似的文档。为此，我决定使用 FuzzyQuery，如下所示:

var fuzzyQuery = new global::Lucene.Net.Search.FuzzyQuery(
                     new Term("text", queryText),
                     0.8f,
                     0);
 hits = _searcher.Search(query);

我们的想法是将最小相似度设置为 0.8(我认为这已经足够高了)，这样只会找到相似的文档，排除那些不够相似的文档。

为了测试这段代码，我决定看看它是否找到了已经存在的文档。为变量 queryText 分配了一个存储在索引中的值。上面的代码什么也没找到，换句话说，它甚至没有检测到完全匹配。

索引是由这段代码建立的:

 doc.Add(new global::Lucene.Net.Documents.Field(
            "text",
            text,
            global::Lucene.Net.Documents.Field.Store.YES,
            global::Lucene.Net.Documents.Field.Index.TOKENIZED,
            global::Lucene.Net.Documents.Field.TermVector.WITH_POSITIONS_OFFSETS));

我遵循了下面的建议，结果是: TermQuery 不返回任何结果。 构造查询

 var _analyzer = new RussianAnalyzer();
 var parser = new global::Lucene.Net.QueryParsers
                .QueryParser("text", _analyzer);
 var query = parser.Parse(queryText);
 var _searcher = new IndexSearcher
       (Settings.General.Default.LuceneIndexDirectoryPath);
 var hits = _searcher.Search(query);

返回分数最高的几个结果，其中完全匹配的文档和其他几个内容相似的文档。

Answer 1

查看索引内部可能会有所帮助 - 将清楚地显示您正在查询的数据以及 Lucene 如何“查看”您的数据。您可以使用 Luke为了这。它有一些已知的compatibility issues使用 Lucent.NET，但总比没有好得多。