gpt4 book ai didi

java - lucene默认分数是在0到+无限之间吗?

转载 作者:行者123 更新时间:2023-11-30 03:19:48 25 4
gpt4 key购买 nike

我使用的是lucene 5.2.1,我想实现我自己的排名规则。为了制定正确的规则,我需要知道 Lucene 的默认相关性分数(通过正常搜索获得的分数)是否始终在 0 到 + 无穷大之间。

您可以在下面找到一个简单的代码来获得更好的想法。

Query query = new Query(...); //some query, for example "name:foo"
int maxdocs = 500;
TopDocs topBusiness = searchEngine.search(query, maxdocs);
ScoreDoc[] hits = topBusiness.scoreDocs;
float score = hits[0].score;

我想确保变量分数不能低于 0(例如,分数 = 0.00003 可以,但分数 = -1 则不行)。

有人知道吗?

最佳答案

搜索结果中的分数有可能低于 0!您真正需要做的就是设置一个负提升来查看它的实际效果( example demonstrating negative score )。

<小时/>

如果你可以轻松地假设你永远不必处理负面提升(我想说,这通常是相当安全的)。那么您应该可以放心地假设所有分数同样都是正数。

解释一下,分数是:

score(q,d) = coord(q,d) · queryNorm(q) · ∑ ( tf(t in d) · idf(t)2 · t.getBoost() · norm(t,d) )

要获得负分,其中至少有一项必须为负数。

  • tf - 不能为负数。术语不能在文档中出现 -1 次,因此术语频率必须为 0 或更高。

  • idf2 - 这有点棘手。 idf 是:

    1 + log ( numDocs / (docFreq + 1))

    numDocs 和 docFreq 都是正数,否则我们会做出愚蠢的声明,比如我们的索引有负 1 项。所以,对数是正数,这很好,因为谁愿意处理虚数呢?

    我们发现 idf 可以是正数,也可以是负数,但都是实数(不是虚数)。由于它在分数计算中被平方,所以我们再次得到一个有保证的正数。 Wolfram Alpha might illustrate this better

  • coord - 坐标测量可用查询词与匹配查询词的重叠。由于匹配的术语最少数量为 0,并且您不会使用少于零的术语进行查询,因此该值为正。

  • queryNorm - 这个标准化因子可能是最难获得的,并且在实践中最无趣:

    1 / ( q.getBoost()2 · ∑ ( idf(t) · t.getBoost() )2 )1/2

    就我们的目的而言,我们可以立即看到,一切都在平方,所以除非它是虚构的,否则结果是积极的。提升不会是虚构的,而且我们在上面已经确定 idf 不会是虚构的,所以我们再次在这里看到正数。

  • t.getBoost() - 这是出现负分数的地方,但我们现在假设这对于我们的目的来说是积极的。

  • norm - 规范对长度标准化和索引时间字段增强进行编码。我们假设积极的插入,所以常态也将是积极的。不过这有点学术性。一些测试表明默认的规范编码(长度只有一个字节)并不真正支持负数。任何负数编码和解码后都会输出 0.0。

因此,只有负提升才会带来负分数。评分算法中的任何其他内容都不会。

关于java - lucene默认分数是在0到+无限之间吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31611023/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com