我要投稿

清华开源LongCite，如何提高大模型的溯源能力？

发布日期：2024-09-07 10:03:27 浏览次数： 2545

作者：NLP前沿

微信搜一搜，关注“NLP前沿”

溯源/引用，工业界应用老板们最喜欢加的一个东西。总的来说，这个文章也没啥。做了一个评测基准，开源了一个用于溯源sft的45k数据集，开源了2个模型，介绍了他们的数据生成pipeline。

hf-dataset:https://huggingface.co/datasets/THUDM/LongCite-45k
model 1:https://huggingface.co/THUDM/LongCite-glm4-9b
model 2:https://huggingface.co/THUDM/LongCite-llama3.1-8b
github: https://github.com/THUDM/LongCite

主要看看数据生成的pipeline把，如下图：3步+1步过滤（为啥不一步到位了，说是这样更干净，先出答案，在生成引用）

QA数据生成：LLM生成与给定长文本相关的查询和答案。
块级引用生成：给chunk标上引用，结合问题，答案，生成带引用的chunk级别qa数据
句子级引用提取：从每个chunk引用中提取出支持每个陈述的相关句子，生成细粒度引用。
过滤，丢弃引用数量不足的样本。

数据比例，中文占比比较多。可以比较好的利用私有场景~

整体就是效果更好

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-06

Java团队Cursor最佳实践：3分钟构建「零泄漏」AI开发环境

2025-07-05

用友毕思建：客户成功AI落地模型HERO正式发布

2025-07-04

最全的Ollama使用详解

2025-07-04

Serverless JManus: 企业生产级通用智能体运行时

2025-07-04

Kimi深度研究 vs. OpenAI / Gemini Deep Research：文献综述哪家强？（实测对比）

2025-07-04

大模型开源，厂商靠什么盈利？

2025-07-04

构建AI Agents-你一定要知道的10大开源利器

2025-07-03

阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

看大厂PM，如何玩转多个智能体开发平台

2025-06-17

53AI Hub重磅开源！让99%的智能体开发者赚到钱！

2025-06-17

15个最佳开源 RAG 框架选型指南

2025-04-13

源神降临！阿里 Qwen3 全系发布，免费商用，消费级显卡就能跑！(深度解读 + 实战case)

2025-04-29

OpenAI学院：人工智能领头羊自己下场做课了

2025-04-12

一文看懂谷歌 A2A：它到底是个啥？为什么能带AI Agent 组队开黑？

2025-04-10

Qwen3中性能最强MOE模型部署抛砖引玉 + 实测

2025-04-29

手搓Manus？MCP 原理解析与MCP Client实践

2025-04-15

阿里Qwen3正式发布：最小6亿参数，叫板Gemini-2.5Pro

2025-04-29

刚刚，DeepSeek开源新版R1，媲美OpenAI最高o3模型

2025-05-29

大家都在问

大模型开源，厂商靠什么盈利？

2025-07-04

OpenAI首席研究官没有博士学位，你的985还有用吗？

2025-07-03

卷疯了！这个清华系Agent框架开源后迅速斩获1.9k stars，还要“消灭”Prompt？

2025-06-28

从 MCP 谈起，到底什么才是 AI Native 产品？

2025-06-25

中国AI Agent市场最终会变成一地鸡毛吗？

2025-06-25

如何使用 Agno 构建一个基础的 AI 智能体？

2025-06-21

开源AI工具Magentic UI，凭什么让你的工作效率提升300%？

2025-06-16

如何用Gradio搭建一个完整的AI产品功能？

2025-06-15

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB