AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


网易专家分享:大模型+数据分析在银行、运营商等场景的落地案例
发布日期:2024-04-05 11:26:47 浏览次数: 1800







AIGC加持下的对话式分析可以让用户可以通过自然语言交互方式获取数据洞察,大幅降低数据分析门槛,提升数据开发效率。

本次分享主要围绕对话式分析产品解读和相关案例介绍展开。

分享嘉宾|杨兵 网易数帆高级产品专家、有数BI产品研发负责人

内容已做精简,如需获取专家完整版视频实录和课件,请扫码领取。


01

大模型赋能数据分析
在业务迅猛发展的阶段,业务团队往往会进行规模扩张,然而数据团队未必能随之一起进行大规模人员增补。面对这类难题,如何满足业务人员的各种需求就显得尤为关键,特别是对于取数和分析需求。
为此,网易数帆专门设计了自助取数分析产品,以便于业务团队快速获取所需数据。网易数帆是网易旗下企业服务品牌,基于网易二十余年互联网技术积累,提供自研无绑定的云原生、大数据、人工智能、智能开发等数智化产品和服务。
这款自助取数分析产品去年推出,经过一年左右的大力推广,已有超过一半的一线客户获得了这项服务的普及。从中可以发现,自助取数分析类产品的生命力是非常顽强的。
当业务处于高速发展阶段时,需要迅速获取数据进行决策,检验决策的正确性。当业务进入平稳期后,我们需利用数据进行精细化的运营管理,这些需求绝大部分属于一次性需求,特别是许多需求实际上是临时出现、紧急而复杂的。
以网易的《蛋仔派对》为例,作为一款UGC性质的产品,它为用户提供了机关组件、装饰组件、地图及道具等多种组件。我们的运营团队和策划团队需要对关注系统和UGC生成地图的通关率和死亡率等指标进行实时监控,帮助我们优化各种组件的搭配以及解决所面临的问题。
这类需求非常紧急且频繁,由于大多数情况下这类需求仅可能被使用一两次,然后就会完全弃之不用,因此对于支持我们数据需求的技术团队来说,这些需求很难被沉淀和复用,同时因为优化级等原因可能难以得到及时响应。
数据开发人员每周平均只能完成15-20个任务,也考虑过给业务团队提供BI产品的使用培训,但他们已经习惯了全方位的服务,难以接受自我学习和自我使用BI工具的方式,也因此大量的需求被搁置。临时的需求增多,基数据基础类的建设就会被延误,无法很好地满足用户需求。需求侧与供应侧的平衡状态明显失衡,并且还有大量的长尾需求尚未得到充分满足。
而ChatGPT的出现就很好地改变了这一现状。正如比尔·盖茨在2023年初所发表的一篇博文中所言,ChatGPT是他所见过的最为重要的两次革命性Demo演示之一,也是自从图形界面问世以来无可争议的重大技术进步。他认为控制计算机方式也要去发生变更,不再是通过点击,而是简单的通过母语发送请求。

02

ChatBI让数据分析更可信
接下来讲讲我们的产品ChatBI,产品核心定位旨在让非技术人员可基于自然语言方式获取所需数据。网易倡导的数据文化是人人用数据,实时用数据,这意味着我们的数据使用范围不仅仅局限于传统意义上的少数管理者和决策者,而是涵盖企业内所有参与业务运营的人,包括每一位一线员工。如此广泛的数据使用,将会使得企业的数据生产力得以极大程度的释放。
必须承认的是,我们目前使用的GPT和大模型的能力存在一定幻觉和不稳定性,在没有任何运营和调优的情况下,其准确率也只能达到约70%-80%。在某些行业落地时,如果没有进行运营,其准确率可能会低于该数字。因此,我们需要寻找到一种方法,既充分利用好大模型的能力,又能引进一些确定性手段来避免大模型的幻觉和不稳定性。
为此,我们决定更新评价体系,不再追求绝对的准确率,虽然我们现在的准确率已经能达到90%以上,但我们更注重的是可信度,所以我们主打的是可信的BI。何为可信,当大模型出现差错时,用户可以根据数据分析逻辑来判断其正确性,进而判断大模型的结果是否可用。我们追求的是产品的可信度,是如何帮助用户去判断这个数据是否可用。
为了实现可信度,我们采取了以下四个策略。
第一,需求可理解。ChatBI会运用大模型能力来精确解读我们的用户提出的自然语言诉求,与此同时,还会把我们业务的元数据以及技术的元数据传达给大模型,从而实现模型与用户的需求以及业务的技术语言的精准匹配。在此过程中,我们会运用一些提示词,以及检索增强和数据字典等方面的技术辅助。
第二,过程可验证。我们会将大模型生成的复杂SQL转化成自然语言的查询解释,将筛选条件、聚合方式和排序规则进行结构化的表达,并翻译成中文以便用户更好地理解。用户可以通过解释来识别出这个逻辑是否符合他们的期望。
第三,用户可干预。如果大模型频繁出现错误,即使用户能够识别并纠正错误,也并非良好的用户体验。用户期待大模型几乎不会出现错误,但实际上,如果底层的逻辑和技术架构没有发生变化,这将是困难的。因此,我们需要引入一些确定性的方法,如果我们的大模型存在偏向或缺失,就可以手动调整查询的条件
第四,产品可运营。用户能够纠正错误固然好,但如果大模型在日后遇到类似的问题时不再犯错当然会更好。因此在产品中,管理员可以配置正确的QA对,在系统调用大模型进行回答之前先查找并使用已配置的相似问题,以此提升大模型的回答准确性。尽管大模型能够学习许多通用型知识,但未必能掌握特定行业的知识,所以管理员可通过配置为大模型注入具体的业务知识,比如同义词、计算方式以及诸如算子类等特定类别的操作等。这类似于为我们的产品添加了一个行业知识库,可以用来微调。

03

各领域和场景落地案例
下面介绍几个相关的实践落地成果及案例,主要可以从四个方面来展开:运营支持,经营分析,管理决策以及职能提升。
第一个案例来自于我们内部的网易云音乐。前面提到,业务发展期需要进行精细化运营,网易云音乐同样面临数据需求的增长与开发团队人力资源之间的矛盾。因此,我们在2020年的时候实施了可视化的拖拽模型,2021年做了SQL模式,并在23年推出了ChatBI,期望通过大模型的能力降低进入门槛,以此扩大用户群体。
作为一款产品,我们在推广过程中需要依赖分析师团队和数仓团队的合作,因此在落地的过程中一起进行了数据提效的专项,制定了整体OKR目标。通过建设完善的产品功能、数据资产体系,以及产品的培训,从而辅助我们的一线业务部门提升他们获取数据的效率。
从成果上来看,首先,新增了大概100多个从未接触和不愿使用BI工具的长尾用户,他们的需求也得以满足。其次,我们的需求分析产能得到显著激活,每周能处理的需求从最初的200个提高到了8000个,同时,临时需求所占比例从之前的45%降至10%,分析师可以专心专注于经营策略的分析。数仓团队可以更加专注于模型及性能的优化与建设,进一步协助数据资产体系完成全面重构与商业价值挖掘,并构建一个用户模型优化推广的闭环。
第二个案例来自于某运营商。在落地过程中会为特定的渠道,比如客服提供这种自助分析的便利性,从而有效应对大数据中心面对的临时性和固定性报表的需求。同时,业务部门的同事们可以通过自助取数的方式实现数据化运营的效率提升和服务质量的改善。从结果上来看,近30天的推广使用中使用的频率高达3万次,整体数据得到了充分的利用。
第三个案例来自于一家SaaS类厂商。他们每天要向他们的主要大客户提出的各类需求,所以期望通过一款自然语言取数工具来解决他们人手紧张的问题,同时满足B端客户便捷分析和数据驱动需求,以及能够减少在 IT 方面的支出,并为管理层和决策层沉淀生成相应的case。
第四个案例是某家银行的实践。金融领域过去几年在数据建设方面投入了大量的精力,数据质量也是相对较高,但他们现在面临的最大问题是报表和驾驶舱过于繁多。在该案例中,一位副行长每个月的1日都有分析师专门为他提供快报,而每月的15日则会基于他的临时需求提供分析报告。而在产品落地后,他不再看BI、电子邮件或其他推送的数据,而是仅看分析师为他提供的数据。
第五个案例涉及人力资源职能提效方面。一般而言像HR部门这种职能团队并没有数据团队的支持,只有一个OA系统和其他Excel文件。但是,他们在日常的招聘、团队管理、员工活动福利关怀以及人才盘点等方面仍然需要大量的数据。因此,我们开发了一个XP机器人,可以迅速帮助HR部门获取数据,从而实现以上几个场景的快速获取数据,进而实现业务提效。
以往在构建数据大屏时,往往会受到空间场景的限制,但通过AIGC语音生成式大屏,我们得以打破在物理空间所面临的束缚,扩大展示内容范围,增加灵活性,进而无需每次都定制一张数据大屏,有效地降低了总体实施成本。
以上是本次大模型+数据分析应用以及相关实践案例分享的全部内容,如需获取专家完整版视频实录和课件可扫码领取。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询