转载公众号 | DataFunSummit

360 文档云知识管理/问答应用场景

1. 业务痛点

• 非结构化内容管理难扩展：企业非结构化数据管理的主要挑战是数据的储存、访问、控制、共享和协同，IDC 预测到 2025 年全球数据量将增长至 175 ZB（2018 年 33ZB），80%-90% 为非结构化数据。这些挑战需要高效的技术和策略来解决。

  
  

  
  

• 非结构化数据利用率低：非结构化数据格式复杂，如文本、图像，数据处理成本高，数据分析难度高，数据创新空间低。55%-80% 的组织业务数据处于沉睡状态，价值待挖掘。

• 不懂企业，缺乏行业深度：大模型是万事通，对行业知识和专业知识做不到精通；大模型与组织内部的知识不互通、业务结合不紧密，不能满足企业内部业务开展的要求。

  
  

  
  

• 数据安全隐患，容易造成内部数据泄露：组织内部的 Know How 是核心竞争力，不适合训练到大模型中，容易造成内部数据泄露。

  
  

  
  

• 上下文关联，缺失用户业务行为数据：完全结合问题上下文的推理周期长及准确度不高，上下文的长度受限，对用户的业务行为数据不了解。

• 存储和管理海量的高质量企业数据资产：企业文档包含大量高质量私域语料数据；Office 文件、PDF 等数据统一结构化处理能力；只要持续产生新文档，就有新的数据生成。

  
  

  
  

• 基于组织和权限保护企业数据安全：文档云对文件的9 级权限校验；文档云全生命周期安全防护；覆盖云端扫描+本地态势感知及外发等。

  
  

  
  

• 用户行为记录形成结合上下文的关联：用户最新的使用文档；用户的收藏文档及常用标签；记录用户的所有操作行为。

  
  

  
  

2. 360 智能文档方案

• 第一层是读得懂，对文档内容进行深度解读和总结；

  
  

  
  

• 第二层是搜得到，能够快速从海量知识文档中获取答案；

  
  

  
  

• 第三层是答得准，可以提供准确匹配的搜索结果。

3. 360 智能文档应用

• 文档总结：在科研领域，快速进行论文总结，以及快速了解外文文献核心内容，提升论文筛选效率。在自媒体领域，很多公众号使用大模型自动生成问题，做成 FAQ 放到公众号。

  
  

  
  

• 文档翻译：在完成文档总结之后，使用全文翻译进行精读。

  
  

  
  

• 文档推荐：当预览某篇文档时，自动推荐相关文档给用户，还可以运用知识图谱关联网络做推荐。

• 智能撰写：设定文档智能撰写需求，根据要求编写大纲，并后完成大纲细化及段落撰写。

  
  

  
  

• 智能样式：调用文档理解引擎，实现文档标题识别和样式转换。

  
  

  
  

• 人工监督：自动撰写流程可以人工干预，调整大纲及参数设定，达到更好的生成效果。

  
  

  
  

• 进度跟踪：跟踪文档生成流程环节及进展。

• 划词搜索：利用大模型对选中的内容进行分段和内容提取，然后调用搜索。

  
  

  
  

• 搜索模式升级：利用大模型将搜索内容扩展为多个相关问题；基于上述多个问题调用搜索；使用大模型将得到的多个搜索结果进行相关性排序处理，返回给用户。

  
  

  
  

KG 在文档 RAG 问答中的应用

1. 回顾知识图谱

2. 现实及方向：知识图谱与大语言模型

3. 结合方案

• 大模型进行私有化文档问答常受到长尾问题的影响，容易出现幻觉。

  
  

  
  

• 私有化文档内容结构十分复杂，层级结构较多，且元素众多，大模型区分能力有限。

  
  

  
  

• RAG 流程很长，受到文档标准化、chunck 切分、lost in middle 影响，chunck 之间语义隔断。

• 在知识整理阶段，用知识图谱将文档内容进行语义化组织；

  
  

  
  

• 在意图识别阶段，用知识图谱进行实体别称补全和上下位推理【受控改写】；

  
  

  
  

• 在 Prompt 组装阶段，从知识图谱中查询背景知识放入上下文【精准召回】；

  
  

  
  

• 在结果封装阶段，用知识图谱进行知识修正和知识溯源。

  
  

  
  

KG 在文档标准化、层次化、结构化应用

1. 支撑方案

2. KG 增强方案

3. 进一步延伸：融合 KG 的泛 AI 搜索几种方案思考

• 以结构化知识为中心的 magi 知识搜索：magi 搜索引擎围绕知识 (knowledge) 构建。《也谈 Magi 系统：知识(非搜索)引擎下的别样高度与落地批判》

• 以摘要为核心的 perplexity 等大模型搜索：输入用户 query：首先，使用进行 query 意图理解，这个过程包括 query 的分析(去停用词、实体识别、关键词提取、归一化等)、query 的扩展（一个 query 扩展成多个 sub query，以扩大召回面），形成标准和多样化的 query 集合。接着，使用并发检索的方式，针对 query 进行检索，检索后再进行粗排、精排等方式，召回出符合特定阈值的相关网页文档。最后，将相关网页文档追加至 prompt，然后让大模型进行总结回答，回答出答案以及对应的链接。

  
  

  
  

• 将图谱影子纳入到 AI 搜索的第三种形式：在 query 泛化上的不受控，可以借助预先建设好的知识图谱进行控制；也可以在结果整理阶段，加入一些知识图谱的例子(metaso，360AI 搜索)；一种 schema 驱动的 AI 搜索(global explore)。

  
  

  
  

KG 与 LLM 在文档场景下的挑战及展望

• 如果问题涉及到多个实体，如何做好实体链接？通常需要 case by case 做实体链接。

  
  

  
  

• 如果实体的关系或者属性很多，如何做好实体关系属性的 ranking，以防止检索爆炸。

• 如何更快、更好地自动化构建好结构化知识图谱。

  
  

  
  

• 如何保证知识图谱的实时性和准确性。

• 知识图谱本体 schema 的自动化构建一直是个老大难的问题。

  
  

  
  

• 如何规模化地进行知识图谱 schema 生成。

• 如何正确检测已有大模型中的知识是否与现有结构化知识图谱相冲突。

  
  

  
  

• 两个召回源得到的问答结果如何进行取舍，如何 ranking。

问答环节

Q：PPL 对 query 做搜索扩展的摘要，扩展后的摘要如何评估？

A：首先做 query 扩展时，先计算相关性，只能用量化指标去做。扩展后的摘要如何评估，也是通过相关性的评估方式。扩展之后经过大模型生成结果，可以通过结果看全局的用户体验好不好，再由人工进行评价比对。