微信扫码
与创始人交个朋友
我要投稿
智能问数是一种对话式数据获取的应用形态,它允许用户通过自然语言的方式进行数据查询。它通过自然语言处理技术,将用户的自然语言查询转换为数据库查询语言(如SQL),从而实现对数据库的查询,这一功能极大地降低了使用者的操作门槛,使得即使是没有技术背景的用户也能快速获取所需数据。以下是一个企业用户使用智能问数技术显著提高运营效率的案例。
1. 客户痛点
客户XS公司是一家从事进口水果贸易的服务商,为国内头部的水果零售企业供货。随着国内消费者对进口水果的需求越来越大,XS公司的业务也越来越繁忙,他们因此也建立了一整套完善的数字化系统,采集货物全生命周期的数据和信息,常用的就包括起运港、目的港、航班号、航名、航次、提单号、柜号、放柜时间、海运CUTOFF、设定温度风口、空运CUTOFF、国内目的地、当前温度、当前位置、查验状态、单证进度、货物实际状态等等几十个字段,用户可以通过系统随时查询货物信息,强大的数字化系统是业务稳定运行的重要保障。
但他们同时也面临新的挑战,图形化界面的信息查询系统虽然很直观,但操作上还是有很多步骤,遇到查询量大的时候,就会显现出效率不高,不够人性化的弊端,用户更多习惯性地微信或电话联系客服,由客服人员代为操作,然后再将查询得到的信息回复给用户。而且这种查询要求及时回复,且不分时间段,即使是晚上也要及时回复信息。这就造成了业务量越大,客服团队的工作压力就越大,需要不断地“堆人”来应对。用户的“偷懒”让XS公司大为头疼,因此他们找到我们,想了解AI能不能在这件事上帮上忙。
2. 解决方案
在了解清楚了客户的痛点后,我们利用大模型的function calling功能为用户定制了自动调取实时数据、通过自然语言回复用户的智能问数解决方案。客户提供了测试的数据接口,在准备了近一周时间后,我们和XS公司的负责人坐到了会议室,技术人员现场演示了DEMO,看完演示,客户面露惊喜,表示这就是他们想要的。
什么是函数调用(function calling)
函数调用允许您将模型连接到外部工具和系统,这对于许多场景都很有用,例如为 AI 助手提供复杂计算功能,或在应用程序和模型之间构建深度集成。
函数调用可以做什么:
能够获取数据:当用户询问“我最近的订单是什么”时,AI 助手需要从内部系统获取最新的经营数据,然后对用户生成响应。
能够执行动作:AI 助理需要根据用户偏好和日历可用性安排会议。
计算:可以执行复杂的数据计算任务。
可以构建丰富的工作流:一个数据提取管道,用于获取原始文本,然后将其转换为结构化数据并将其保存在数据库中。
修改应用程序的 UI:您可以使用函数调用来根据用户输入的要求更新 UI,例如,在地图上呈现图钉。
如何使用函数调用:
第1步:选择支持函数调用的模型
首先,我们要选择支持函数调用的模型。例如,有些模型具有“借助工具”或“外部功能”的能力,能够完成更复杂的任务。选择好模型后,我们就可以为它设置需要的函数。想象你在搬家,选择了一位朋友来帮忙,但只有会开车的朋友能帮你搬到远的地方。所以你会挑一个有车并愿意开车的朋友,就像挑选支持函数调用的模型一样。
第2步:编写函数内容
接下来,需要定义好要调用的函数内容。就像借给别人一把尺子之前,要告诉他们尺子上的刻度代表什么、如何读取尺寸。我们在描述函数时,要清楚地说明它的用途、需要的参数(输入数据)、返回的结果以及使用场景。
第3步:将函数传递给模型作为工具
现在我们把编写好的函数传递给模型,就像是告诉模型“现在你可以用这个工具了!”这样当模型需要相关功能时,它可以随时调用该函数来得到需要的结果。这就像把工具箱交给朋友,让他在需要修理的时候可以直接使用工具。比如说,你把一个完整的修理工具包给朋友,告诉他随时可以用里边的扳手和螺丝刀。
第4步:调用函数并接收返回结果
在这一阶段,模型会在合适的时机调用函数,并接收函数的返回结果。比如,如果模型需要提供天气建议,它会调用我们定义的获取天气的函数,并把温度作为参数传进去。模型会获取返回的结果,然后将它包含在最终输出中。这就像你的朋友拿起工具,开始修理家具。比如他用螺丝刀拧紧了一个松动的螺丝,修好了桌子。工具被用了,效果也得到了。
第5步:模型根据函数调用结果进行处理
最后,模型会根据函数的返回结果进一步处理,生成一个完整的回答或解决方案。比如,模型得到天气信息后,会将信息整合进回复内容中,给出完整的回应。这一步可以让模型的回答更贴合用户的需求。这就像你的朋友修理好了桌子后,会告诉你“桌子修好了,现在很牢固了。”工具的效果被体现出来,而最终你也收到了完整的修理反馈。
基于53AI平台,利用大模型的函数调用功用,我们为用户定制了水果贸易场景的货物信息智能问数的解决方案。
函数调用流程图
3. 实施过程
toB项目的实施远比想像中要复杂,因为要对接生产环境,保障系统的准确性和可用性,需要丰富的项目经验和可靠的技术团队。我们通过获取接口、编写函数、调用函数、编写提示词等7个步骤完成了项目的实施落地,确认满足用户需求标准后上线运行。
获取货物接口数据
编写函数
from fastapi import FastAPI, HTTPExceptionimport requestsimport jsonimport uvicornapp = FastAPI()# 配置重命名和删除的字段映射FIELD_RENAME_MAP = {"车牌1": "车辆车牌","联系人及电话1": "司机信息","当前温度1": "当前温度","当前位置1": "当前位置","成交方式1": "成交方式","ETD": "预计发货时间","ETA": "预计到达时间","ATD": "实际发货时间","ATA": "实际到达时间","海运还柜时间": "还柜时间","海运手工提柜时间": "提柜时间",# 在这里添加更多字段重命名映射}TRANSPORT_FIELD_CONFIG = {"海运": {"remove": ["空运状态", "空运CUT OFF"],"rename": {"海运状态": "状态", "海运CUT OFF": "截仓时间"}},"空运": {"remove": ["海运状态", "海运CUT OFF"],"rename": {"空运状态": "状态", "空运CUT OFF": "截仓时间"}}}……
配置自定义函数
函数调用测试
编写角色提示词
测试调优
接入微信
4. 方案收益
需要结合输入、点击等操作的GUI界面有时会显得不够人性化,如果能以对话的方式进行,使用者会更愿意接受,操作效率也会更高。这样的场景在实际工作中其实很常见,比如表单的填写、咨询问答、授课培训、考核测试等。单单靠传统的GUI界面有时已经很难再满足用户越来越高的要求了,完全可以结合LUI(Language User Interface)来实现更为人性化的交互,实现打打字或动动嘴就能完成同样的工作,甚至更多更快。
自然语言对话的方式使得客户可以直接调取货物实时数据,不必再通过客服人员进行中转,解放了客服人员的时间,结合客服知识库,可以实现365*24的服务。客服领域是大模型最早介入,也是普通人最为熟知的应用方向。短期内AI还不能取代人,完全接管,但却可以提供足够的辅助能力,让客服工作效率极大地提升,服务时长也能得到极大延长。
实施前状态
实施后状态
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-11-25
AI Agent再迎一巨头!谷歌重磅发力AI Agent ,商用大爆发!
2024-11-19
LLM落地分享|智能结算稽核Agent赋能财务业务智能化
2024-11-19
智能体能否在未来成为真正的“运营专家”?
2024-11-18
AI Agent:一个以万亿美元计算的服务市场
2024-11-13
秘塔AI上线"知识库",他们直接超进化成AI搜索完全体了。
2024-11-12
Agent智能大揭秘:企业如何利用AI代理驱动高效增长!
2024-11-12
AI经营|多Agent择优生成商品标题
2024-11-12
下载超5000万次,获千万美元投资的Buddy.ai如何做AI老师+游戏化学习?
2024-07-20
2024-07-18
2024-07-16
2024-07-25
2024-07-14
2024-07-24
2024-08-13
2024-08-06
2024-06-22
2024-07-21