AI知识库 AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


COZE升级版,企业级AI Agent应用落地
发布日期:2024-06-26 09:38:28 浏览次数: 1522
前两天发了这篇文章《手把手教你如何用扣子(COZE)打造一个企业级的知识库机器人》,里面我提到对未来企业AI Agents的前景非常看好。结果我很快就找到了一家已经在做企业AI应用落地的公司。
这是这家公司的官网:https://www.torchv.com/,有兴趣的可以去看看。

然后我通过网站找到了torchv这家公司CEO卢向东(员外)先生的公众号【土猛的员外】,并拜读了其中的文章,今天我希望通过解析其中的一篇文章,再深度了解一下这项应用的前景,看一看这家公司为什么做这个方向,和已经做到什么程度了。
首先,让kimi来帮忙解读这几篇文章。
我将借助kimi来帮助我总结分析这几篇文章,体验还是很不错的。我用到的提示词如下:
【? 要点凝练】长文本总结助手,能够总结用户给出的文本、生成摘要和大纲
你是一个擅长总结长文本的助手,能够总结用户给出的文本,并生成摘要##工作流程:让我们一步一步思考,阅读我提供的内容,并做出以下操作:- 标题:xxx- 作者:xxx- 标签:阅读文章内容后给文章打上标签,标签通常是领域、学科或专有名词,请用(,)进行分隔- 原文链接:- 原文字数:- 一句话总结这篇文文章:xxx- 总结文章内容并写成摘要:xxx- 越详细地列举文章的大纲,越详细越好,要完整体现文章要点;##注意- 只有在用户提问的时候你才开始回答,用户不提问时,请不要回答##初始语句:""您好,我是您的文档总结助手,我可以给出长文档的总结摘要和大纲,请把您需要阅读的文本扔进来~""

文章:挖掘非结构化数据的价值(1)—通过RAG实现与文件对话

标签:人工智能,非结构化数据,RAG技术,LLM,企业效率,数据挖掘

一句话总结:文章探讨了如何通过检索增强生成(RAG)技术与非结构化数据建立对话,以提升企业数据利用效率和业务能力

kimi的一句话总结非常的到位。其实讲的就是两点:
一、企业面对非结构化数据所产生的问题和需求;
二、如何利用检索增强生成(RAG)这项技术解决以上问题和满足企业的需求
一、下面先讲讲企业非结构化数据
我在上一篇文章讲了作为AI Agent应用,输入的数据质量非常关键,COZE现在的RAG技术感觉还差点意思,所以我使用了更加结构化的数据excel表格来输入。
但是其实在更多的企业实际运营场景中,大量存在的是非结构化的数据。

而对于一个企业或者事业单位来说,非结构化的数据才是更大占比的存在,比如合同文本、会议纪要、新闻稿、采购单、发票、项目群里的交流记录、电子邮件、财务报表、日报周报、工作计划还有大量的PPT、Excel和Word/Markdown格式的各类文档等等。我去年从老东家离职的时候,在交还的Macbook Pro上留下了超过100G的这类型文件。
这个男人来自千祥,公众号:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话


我自己在平时的工作中也会积攒下大量的文件,有时候在需要查找以往的文档的时候,越是时间久远的文档越不好找,搜索的体验感很差,结果也不如人意。
在职人员尚且如此,当企业一些重要岗位人员离职之后所留下的文档,往往就成了死数据。很难再为公司所用。
当然现在企业也会刻意的去建立自己的档案库,但是仍然会面临着很多问题
  1. 很难理解大段文字的问题输入,也就意味着完全没有和非结构化文件对话的感觉,对于大部分用户来说易用性很差;
  2. 无法跨多文件进行内容挖掘,也不会对结果进行最终的汇总加工,比如去除重复内容,将多个召回结果按一定的规律进行排序等等。

所以要实现与非结构化文件对话,目前最合理、最经济的就是使用最新的RAG技术,当然肯定是依赖于大语言模型(LLM)作为底座的。

这个男人来自千祥,公众号:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话


二、接下来讲讲RAG如何解决这个问题
文章详细解释了RAG技术的工作原理,包括从文档中提取内容、将文本转换为向量数据、通过索引进行匹配和排序,以及如何将这些技术整合到大语言模型中以生成准确的回答。
同时阐述了RAG技术帮助大模型解决了以下三个问题:私有数据和时效性问题、减少幻觉问题,并提高数据安全性。
RAG(Retrieval-Augmented Generation,检索增强生成)是为大语言模型 (LLMs) 提供了从数据源(一般可以认为是各类已经获得的文件资源)检索的信息,以此为基础生成回答。简而言之,RAG 结合了搜索技术和大语言模型的提示(Prompt)功能,即模型根据搜索算法找到的信息作为上下文来回答查询问题。无论是查询还是检索的上下文,都会被整合到发给大语言模型的提示中,然后让大语言模型根据召回的事实内容进行润色输出。
这个男人来自千祥,公众号:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话
总之,通过RAG技术与大模型的配合,让企业可以与文档进行对话,让文件自己告诉我们答案。
下面文章给出了一些实际业务场景的需求和解决方案

一般对外服务型的企业,每天都会面临大量的客户咨询,比如客户在使用咱们提供的系统时,会碰到各种各样的问题,这里面最常见的就是客户不了解使用方式引起的咨询(我们不能完全期望客户会去翻看几万字的使用手册或者更详细的“help”文档)。

如果你自己当过一段时间的坐班客服,就会发现90%以上的问题其实都是“老生常谈”的问题。那么,这时候如果咱们可以将几万字的使用手册、一堆帮助中心的文件与对客服务系统建立连接,不仅可以将这些非结构化知识的价值激活,还可以极大提升对客服务的能力。

这个男人来自千祥,公众号:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话


在某些知识密集型生产型企业,拥有大量行业标准,细到更换某个零件需要遵守的11个步骤都被明确写明。类似这样的行业标准(SOP)文件可能多达几百份,平均每份又多达上百页。在进行日常生产或维修的时候,对于很多从业人员都是一种挑战,要么每次翻阅大量标准文件(耗费大量时间),要么凭直觉或经验(带来错误率)

我们的一位意向客户采用我们的TorchV Bot(基于RAG和LLM)之后,将这些SOP文件全部喂给Bot,然后直接问:“我现在要更换XX机器上的XXX号零件,需要怎么操作?”Bot只需几秒就会告诉你11个标准流程,而且附带原文的预览链接。省去了自己翻阅庞杂文件的时间,也减少了生产和维修中的“拍脑袋”错误

这个男人来自千祥,公众号:土猛的员外挖掘非结构化数据的价值(1)—通过RAG实现与文件对话


更多案例,大家可以直接点击文章链接查看。
包括他们软件运行的很多技术原理、实现手段、业务场景的应用都做了非常好的说明。推荐大家看一下。
最近AI大模型非常的火爆,同时也掺杂了大量的低质量信息,我会持续的关注AI领域,并尽量带来更多更高质量的更落地的各种AI相关的项目。
作为个人或者企业如果自己想去开发AI Agent项目,除了COZE之外,还有不少的免费开源软件可供选择。有兴趣的请在公众号对话框回复“RAG”获取链接。

推荐阅读:

手把手教你如何用扣子(COZE)打造一个企业级的知识库机器人

题图标题:《玄幻老者》
AI算法提供:SD
Prompt:<lora:fantastic characters:0.8>,masterpiece,high quality,fantastic,an elderly man with a long white beard,seated amidst a stormy backdrop with a majestic leopard-like creature at his side. The man wears traditional attire and holds a staff,exuding a powerful and serene aura.,

你也可以阅读原文,了解更多AI信息及资讯。

53AI,大模型落地应用首选服务商

定位:开箱即用的大模型落地应用平台

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

年轻人!来一起搞AI吗?

如果你看见AI对商业世界的变革,欢迎来和我们一起探索~

岗位:销售经理

查看详情

岗位:项目经理

查看详情

岗位:产品经理

查看详情

岗位:测试工程师

查看详情

联系我们

售前咨询
186 6662 7370
产品演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询