Elasticsearch-60-深入揭秘lucene的相关度分数算法

发表于 | 分类于

上文中说了TF/IDF算法,那么在底层的Lucene中TF/IDF算法的完整的公式是什么

Boolean model

就是我们之前有说过的,一个match会被转换为bool的组合查询,比如说

1
2
3
"match":{
    "query":"hello world"
}

会被转换为:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
"bool": {
	"should": [
		{
			"match": {
				"title": "hello"
			}
		},
		{
			"natch": {
				"title": "world"
			}
		}
	]
}

普通multivalue搜索,转换为bool搜索就是boolean model

lucene practical scoring function

practical scoring function,来计算一个query对一个doc的分数的公式,该函数会使用一个公式来计算

1
2
3
4
5
6
7
8
9
score(q,d)  =  
            queryNorm(q)  
          · coord(q,d)    
          · ∑ (           
                tf(t in d)   
              · idf(t)2      
              · t.getBoost() 
              · norm(t,d)    
            ) (t in q)

score(q,d) is the relevance score of document d for query q.
这个公式的最终结果,就是说是一个query(叫做q),对一个doc(叫做d)的最终的总评分

queryNorm

queryNorm(q) is the query normalization factor (new).
queryNorm,是用来让一个doc的分数处于一个合理的区间内,不要太离谱,举个例子,一个doc分数是10000,一个doc分数是0.1,相差太大,不是很好

coord

coord(q,d) is the coordination factor (new).
简单来说,就是对更加匹配的doc,进行一些分数上的成倍的奖励

∑ (t in q)

∑ :是求和的意思
query中每个term对doc的分数,进行求和,多个term对一个doc的分数,组成一个vector space,就在这一步,要进行TF/IDF算法

tf(t in d)

tf(t in d) is the term frequency for term t in document d.
就是计算单个term对于doc的分数

idf(t)

idf(t) is the inverse document frequency for term t.
进行idf计算

norm(t,d)

norm(t,d) is the field-length norm, combined with the index-time field-level boost, if any. (new).

queryNorm详解

queryNorm = 1 / √sumOfSquaredWeights
sumOfSquaredWeights = 所有term的IDF分数之和,开一个平方根,然后做一个平方根分之1
主要是为了将分数进行规范化, 开平方根,首先数据就变小了, 然后还用1去除以这个平方根,分数就会很小,比如 1.几 或者零点几
分数就不会出现几万,几十万,那样的离谱的分数

coord详解

奖励那些匹配更多字符的doc更多的分数
举个例子:
document1 包含 hello → score: 1.5
document2 包含 hello world → score: 3.0
document3 包含 hello world java → score: 4.5

把计算出来的总分数 * 匹配上的term数量 / 总的term数量,让匹配不同term/query数量的doc,分数之间拉开差距

document1 包含 hello → score: 1.5 1 / 3 = 0.5
document2 包含 hello world → score: 3.0 2 / 3 = 2.0
document3 包含 hello world java → score: 4.5 * 3 / 3 = 4.5

field level boost

就是之前说过的搜索的权重计算