清华开源LongCite，如何提高大模型的溯源能力？

发布日期：2024-09-07 10:03:27 浏览次数： 1644

溯源/引用，工业界应用老板们最喜欢加的一个东西。总的来说，这个文章也没啥。做了一个评测基准，开源了一个用于溯源sft的45k数据集，开源了2个模型，介绍了他们的数据生成pipeline。

hf-dataset:https://huggingface.co/datasets/THUDM/LongCite-45k
model 1:https://huggingface.co/THUDM/LongCite-glm4-9b
model 2:https://huggingface.co/THUDM/LongCite-llama3.1-8b
github: https://github.com/THUDM/LongCite

主要看看数据生成的pipeline把，如下图：3步+1步过滤（为啥不一步到位了，说是这样更干净，先出答案，在生成引用）

QA数据生成：LLM生成与给定长文本相关的查询和答案。
块级引用生成：给chunk标上引用，结合问题，答案，生成带引用的chunk级别qa数据
句子级引用提取：从每个chunk引用中提取出支持每个陈述的相关句子，生成细粒度引用。
过滤，丢弃引用数量不足的样本。

数据比例，中文占比比较多。可以比较好的利用私有场景~

整体就是效果更好

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

太强了！10大开源大模型！

2024-05-06

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

2023-07-01

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

教你使用Ollama在本地跑Llama3.1

2024-07-25

Coze收费了，我还用吗？

2024-07-18

中医大模型，开源！

2024-06-16

大家都在问

疯狂24h后，openai o1有哪些新的秘密？

2024-09-14

OpenAI的o1模型会带来哪些影响和机会？

2024-09-14

LLM 基础知识 | WaterMarking，你搞懂了吗？

2024-09-12

清华开源LongCite，如何提高大模型的溯源能力？

2024-09-07

大模型的泡沫什么时候破灭？

2024-08-06

大模型的泡沫什么时候破灭？

2024-08-04

微调Llama 3.1，用神器Unsloth

2024-08-03

AGI｜如何在本地运行大型语言模型？

2024-07-30

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

开源项目Composio：突破 AI 智能体开发的边界

太强了！10大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

Ollama 本地运行大模型(LLM)完全指南

如何免费使用 Claude AI？Claude使用指南！

教你使用Ollama在本地跑Llama3.1

Coze收费了，我还用吗？

中医大模型，开源！

大家都在问

疯狂24h后，openai o1有哪些新的秘密？

OpenAI的o1模型会带来哪些影响和机会？

LLM 基础知识 | WaterMarking，你搞懂了吗？

清华开源LongCite，如何提高大模型的溯源能力？

大模型的泡沫什么时候破灭？

大模型的泡沫什么时候破灭？

微调Llama 3.1，用神器Unsloth

AGI｜如何在本地运行大型语言模型？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

开源项目Composio：突破 AI 智能体开发的边界

太强了！10​大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

Ollama 本地运行大模型(LLM)完全指南

如何免费使用 Claude AI？Claude使用指南！

教你使用Ollama在本地跑Llama3.1

Coze收费了，我还用吗？

中医大模型 ，开源！

大家都在问

疯狂24h后，openai o1有哪些新的秘密？

OpenAI的o1模型会带来哪些影响和机会？

LLM 基础知识 | WaterMarking，你搞懂了吗？

清华开源LongCite，如何提高大模型的溯源能力？

大模型的泡沫什么时候破灭？

大模型的泡沫什么时候破灭？

微调Llama 3.1，用神器Unsloth

AGI｜如何在本地运行大型语言模型？

热门标签

太强了！10大开源大模型！

中医大模型，开源！