AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


技术分享 | DeepChat与大模型重塑智能网页应用新体验
发布日期:2024-08-11 04:31:25 浏览次数: 1729 来源:数果智能


随着科技迅猛发展,智能网页应用越来越普遍,通过结合大模型技术,从传统静态网站变成智能互动平台,大大提升用户体验和操作便利性。

但即便技术快速发展,很多网页应用在没有全面集成大模型的情况下仍然存在以下问题:

1. 用户体验割裂

用户需频繁在主业务界面和AI界面之间切换,导致操作中断,容易出错,降低整体用户体验。

2. 数据提取困难

图表数据常以图形形式展示,用户很难直接提取和使用这些数据,而传统方法又效率低且易出错,影响业务决策的及时性。

3. 自动化任务难以实现

自动填表和智能提示等任务通常依赖固定规则,缺乏智能性和灵活性,影响用户效率和体验。

那么,如何解决这些问题呢

为解决这些问题,越来越多开发者将大模型直接集成到网页前端,它主要有以下显著优势:

无缝用户体验

在前端直接调用大模型,用户可在同一界面内完成问答、数据分析和操作,无需切换界面,增强操作的连续性和流畅性。

快速数据提取

大模型可直接从网页内容中提取和处理数据,替代手动操作,节省时间和精力。

智能自动化

通过前端集成大模型,实现自动填表和智能提示等任务,提高网页应用的灵活性和智能化水平。

为了实现以上的良好效果,我们可以借助DeepChat与大模型函数调用结合

DeepChat简介

DeepChat 是一个可以在任何网页应用中整合AI服务的聊天组件,旨在简化与远程服务交互。

它支持多种API连接,实现智能对话,并允许开发者创建高度定制化的用户体验,同时为其提供极大的灵活性。

01

核心功能与特点

● 多API连接:RESTful接口和WebSocket服务均能有效兼容。

● 实时对话:确保消息即时传递和反馈。

● 多线程交互:支持并行处理多个对话。

● 高度定制化:可全面调整功能和视觉样式,契合品牌形象和用户需求。

● 跨框架兼容:适用于React、Vue、Angular等前端框架。

● 社区驱动:开源项目,接受社区贡献,持续优化和创新。

02

应用场景

● 客户支持:提供7x24小时AI客服服务,提高客户满意度。

● 用户引导:通过对话指导用户使用产品,加快上手速度。

● 数据查询:用户可通过对话框快速查询业务数据。

● 自动填表:智能解析用户输入,减少手动操作。

● 智能推荐:推荐相关内容或商品,提高转化率。

● 实时分析:分析用户输入,提供针对性建议和反馈。

大模型函数调用简介

FunctionCall 是目前大模型中常见的一项功能,让聊天模型像人那样智能地决定何时调用外部 API,比如发邮件、查天气或处理结构化数据。它能让开发者更灵活地使用大语言模型,实现更智能的应用。

01

主要特点

 智能选择函数:模型能根据用户输入自动决定是否需要调用某个函数。

 生成 JSON:模型会生成包含函数参数的 JSON。开发者只需用这个 JSON 去实际调用相关函数。

 可靠的数据返回:通过函数调用,能更准确地返回结构化数据。

● 并行调用:支持多个函数同时调用,大大提高了效率。

02

使用过程

1. 定义函数:先在 API 请求中定义有哪些可用的函数,包括它们的名称和参数。

2. 调用模型:把用户的查询和定义好的函数传给模型。

3. 生成 JSON:模型决定是否需要调用函数,并生成相关的 JSON 数据。

4. 实际调用:把生成的 JSON 数据解析,真正去调用那个函数。

5. 处理结果:函数返回结果后,把它作为新消息传回给模型,生成用户能读懂的结果。

03

常见用例

●API 请求:如查询天气、发邮件等。

●自然语言转 API 调用:比如用户问“谁是我最好的客户?”,模型可以把这个问句转换成调用如 `get_customers` 这样的内部 API。

●抽取结构化数据:从普通文本中提取像名字、生日等具体信息。

下面,我们以订餐表单收集为例制作一个简单的Demo。

1、创建HTML表单

2、集成 DeepChat

3、工具定义

4、工具实现

5、效果示例

初始界面,顶部是表单:

自动填表效果:

大模型函数调用调优技巧

● 函数选取

由于模型能力的限制,函数选取经常会出错。例如,在需要调用“填写表单”功能时,模型可能会选择“获取表单状态”。

为了提高模型选择函数的成功率,可以主动筛选传递给模型的可用函数。可以考虑使用 [semantic-router](https://github.com/aurelio-labs/semantic-router) 实现这一目标。

● 调用成功率

函数调用成功率需要优化,尤其是在使用某些支持函数调用的开源模型时,如 MiniMax、ChatGLM3-6B、llama3 等。这些模型可能在应该调用函数时却没有调用,此时需要通过提示词优化来提升调用成功率。

参考以下统计表格[composio.dev]

(https://composio.dev/blog/gpt-4-function-calling-example/),可以看到不同手段的优化效果。

在数智云产品中的应用

通过引入 DeepChat+大模型,现在数果智能研发的AI智慧助手可以帮大家更方便地查询指标、保存单图和做简单的归因分析。

这些功能让我们的产品变得更智能、更好用。未来,我们还计划添加更多实用的功能,让大家使用起来更加顺手,更符合日常工作需求。

总结

在这个数字时代,DeepChat与大模型的结合,不仅仅是技术的革新,更是对用户体验的深刻理解。

我们将在数智云产品中,不断利用先进的大模型技术,为我们的用户打造更为极致的产品体验!


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询