微信扫码
与创始人交个朋友
我要投稿
随着科技迅猛发展,智能网页应用越来越普遍,通过结合大模型技术,从传统静态网站变成智能互动平台,大大提升用户体验和操作便利性。
但即便技术快速发展,很多网页应用在没有全面集成大模型的情况下仍然存在以下问题:
1. 用户体验割裂
用户需频繁在主业务界面和AI界面之间切换,导致操作中断,容易出错,降低整体用户体验。
2. 数据提取困难
图表数据常以图形形式展示,用户很难直接提取和使用这些数据,而传统方法又效率低且易出错,影响业务决策的及时性。
3. 自动化任务难以实现
自动填表和智能提示等任务通常依赖固定规则,缺乏智能性和灵活性,影响用户效率和体验。
那么,如何解决这些问题呢
为解决这些问题,越来越多开发者将大模型直接集成到网页前端,它主要有以下显著优势:
无缝用户体验
在前端直接调用大模型,用户可在同一界面内完成问答、数据分析和操作,无需切换界面,增强操作的连续性和流畅性。
快速数据提取
大模型可直接从网页内容中提取和处理数据,替代手动操作,节省时间和精力。
智能自动化
通过前端集成大模型,实现自动填表和智能提示等任务,提高网页应用的灵活性和智能化水平。
为了实现以上的良好效果,我们可以借助DeepChat与大模型函数调用结合!
DeepChat 是一个可以在任何网页应用中整合AI服务的聊天组件,旨在简化与远程服务交互。
它支持多种API连接,实现智能对话,并允许开发者创建高度定制化的用户体验,同时为其提供极大的灵活性。
核心功能与特点
● 多API连接:RESTful接口和WebSocket服务均能有效兼容。
● 实时对话:确保消息即时传递和反馈。
● 多线程交互:支持并行处理多个对话。
● 高度定制化:可全面调整功能和视觉样式,契合品牌形象和用户需求。
● 跨框架兼容:适用于React、Vue、Angular等前端框架。
● 社区驱动:开源项目,接受社区贡献,持续优化和创新。
应用场景
● 客户支持:提供7x24小时AI客服服务,提高客户满意度。
● 用户引导:通过对话指导用户使用产品,加快上手速度。
● 数据查询:用户可通过对话框快速查询业务数据。
● 自动填表:智能解析用户输入,减少手动操作。
● 智能推荐:推荐相关内容或商品,提高转化率。
● 实时分析:分析用户输入,提供针对性建议和反馈。
FunctionCall 是目前大模型中常见的一项功能,让聊天模型像人那样智能地决定何时调用外部 API,比如发邮件、查天气或处理结构化数据。它能让开发者更灵活地使用大语言模型,实现更智能的应用。
主要特点
● 智能选择函数:模型能根据用户输入自动决定是否需要调用某个函数。
● 生成 JSON:模型会生成包含函数参数的 JSON。开发者只需用这个 JSON 去实际调用相关函数。
● 可靠的数据返回:通过函数调用,能更准确地返回结构化数据。
● 并行调用:支持多个函数同时调用,大大提高了效率。
使用过程
1. 定义函数:先在 API 请求中定义有哪些可用的函数,包括它们的名称和参数。
2. 调用模型:把用户的查询和定义好的函数传给模型。
3. 生成 JSON:模型决定是否需要调用函数,并生成相关的 JSON 数据。
4. 实际调用:把生成的 JSON 数据解析,真正去调用那个函数。
5. 处理结果:函数返回结果后,把它作为新消息传回给模型,生成用户能读懂的结果。
常见用例
●API 请求:如查询天气、发邮件等。
●自然语言转 API 调用:比如用户问“谁是我最好的客户?”,模型可以把这个问句转换成调用如 `get_customers` 这样的内部 API。
●抽取结构化数据:从普通文本中提取像名字、生日等具体信息。
下面,我们以订餐表单收集为例制作一个简单的Demo。
1、创建HTML表单
2、集成 DeepChat
3、工具定义
4、工具实现
5、效果示例
初始界面,顶部是表单:
自动填表效果:
● 函数选取
由于模型能力的限制,函数选取经常会出错。例如,在需要调用“填写表单”功能时,模型可能会选择“获取表单状态”。
为了提高模型选择函数的成功率,可以主动筛选传递给模型的可用函数。可以考虑使用 [semantic-router](https://github.com/aurelio-labs/semantic-router) 实现这一目标。
● 调用成功率
函数调用成功率需要优化,尤其是在使用某些支持函数调用的开源模型时,如 MiniMax、ChatGLM3-6B、llama3 等。这些模型可能在应该调用函数时却没有调用,此时需要通过提示词优化来提升调用成功率。
参考以下统计表格[composio.dev]
(https://composio.dev/blog/gpt-4-function-calling-example/),可以看到不同手段的优化效果。
通过引入 DeepChat+大模型,现在数果智能研发的AI智慧助手可以帮大家更方便地查询指标、保存单图和做简单的归因分析。
这些功能让我们的产品变得更智能、更好用。未来,我们还计划添加更多实用的功能,让大家使用起来更加顺手,更符合日常工作需求。
在这个数字时代,DeepChat与大模型的结合,不仅仅是技术的革新,更是对用户体验的深刻理解。
我们将在数智云产品中,不断利用先进的大模型技术,为我们的用户打造更为极致的产品体验!
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-05-28
2024-04-26
2024-08-21
2024-04-11
2024-07-09
2024-08-13
2024-07-18
2024-10-25
2024-07-01
2024-06-17