粤ICP备17114055号
微信扫码
添加专属顾问
支持私有化部署
我要投稿
引言：
在人工智能的世界里，优化模型以提高准确率是一项充满挑战的任务。本文将带您走进一个RAG（Retrieval-Augmented Generation）模型优化的实战案例，展示OpenAI是如何一步步将准确率从45%提升至98%的。
有一个客户，他们拥有一个RAG管道和两个不同的知识库，以及一个LLM。该系统的目的是获取用户问题，决定使用哪个知识库，触发查询并用它来回答问题。
起初，只是实现了检索功能，基线准确率仅为45%。通过一系列迭代，将尝试的东西旁边标注了勾号和十字，勾号表示实际投入生产的，十字表示尝试后放弃的。通过尝试假设的文档嵌入，生成一个假答案然后进行搜索，尝试了分块和嵌入，调整信息块的大小并嵌入不同内容，在20次迭代后，逐步将准确率提升至65%。
然而65%，这还远远不够，几乎要放弃，但坚持让同学们找到了新的方向。通过重新排序结果，使用交叉编码器和基于规则的方法，交叉编码器显著提高了性能，基于规则的方法还有分类，让模型判断内容属于哪个领域，并根据分类提供额外的元数据，帮助模型决定最相关的内容，准确率提升至85%。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-04-25
OpenAI 白送 200 美元的深度研究功能？实测后发现这个「阉割版」不如不用
2025-04-25
为什么一定要做Agent智能体？
2025-04-25
哇！首个MCPBench来了，MCP竟然不比Function Calls更有优势？ | 最新
2025-04-25
医疗大模型案例分析（一）：Google Med-PaLM
2025-04-25
vLLM+Qwen-32B+Open Web UI构建本地私有大模型
2025-04-25
AI产品经理思考MCP（3）：MCP的未来可能
2025-04-25
AI产品经理思考MCP协议（2）：标准化的必要性
2025-04-25
AI产品经理思考MCP协议（1）：预见MCP——我的“万能库”与标准化之路
2024-08-13
2024-06-13
2024-08-21
2024-09-23
2024-07-31
2024-05-28
2024-08-04
2024-04-26
2024-07-09
2024-09-17
回到顶部