AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


BM42横空出世!BM25统御搜索引擎40年,终于要落幕了?
发布日期:2024-07-10 12:11:25 浏览次数: 1925


Qdrant 在前几天发起了一些重大声明,提到创造了一个新的算法,命名为BM42,用以取代古老的 BM25(甚至更现代的 SPLADE算法)。

对Qdrant不熟悉的小伙伴,提一点,Qdrant是目前OpenAI正在使用的向量库,所以说明各方面可信度都挺高的。

在他们的帖子中,提到:BM25已经统治了搜索引擎40年了,但是BM25在最新的RAG应用场景表现并不好,所以快来看我们的新算法BM42-一个结合语义和关键词的搜索算法。

通过将单词重要性评分(transformer注意力)与IDF等统计指标相结合来解决语义+关键字搜索的问题,声称在各个场景都有优势,如下图

很快,来自 Vespa(竞品公司)的 @Jo Bergum 指出 Quora作为数据集是非常奇怪的,因为这是一个检测句子相似重复的数据集,而不是问答检索数据集。具体点呢,就是 Quora 数据集每个query只有约 1.6 个相关的候选,因此评测种的 precision@10 结果显然是错误的,声称每 10 个query中有4个候选。

最新,Cohere 的 @Nils Reimers 使用 BM42, 在金融、生物医学和维基百科领域的更好数据集上重新运行,遗憾的是 BM42 在所有方面都表现不佳:

Qdrant最新的公关回复,对结果进行了修正,并推送了最新的修正后的代码。但是仍然被质疑评测的BM25分数太低,正常可能能达到0.91。

算是最新的大瓜了,早上刷到了很多帖子。天气太热,吃瓜消遣一下~



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询