大模型开发 - 一文搞懂 Function Calling(函数调用)
本文将从函数调用的本质、函数调用的原理、函数调用的想象空间三个方面,带您一文搞懂函数调用 Function Calling。
函数调用
自然语言接口(NLI):Natural Language Interface,自然语言连接一切。
自然语言接口(NLI)
-
NLI的定义
自然语言接口(NLI)允许用户通过日常语言与软件和设备交互,无需特定命令或语法。
-
用户界面与API的NLI化
为使多个软件和设备能协同工作,用户界面和API均需支持自然语言交互,简化复杂指令的执行。
-
实现NLI的两种思路
强大入口AI:依赖高度智能的AI拆解和分发用户任务。
广播式指令:AI将指令广播给所有软件,由它们自主决策是否及如何响应。
大模型的两大缺陷:大模型受限于计算资源和训练时间,导致信息滞后,并且其基于统计规律的回答缺乏真正的逻辑推理能力。
大模型的两大缺陷
函数调用(Function Calling):函数调用使您能够更可靠地从模型中获取结构化数据。
函数调用(Function Calling)
定义函数:get_current_weather
调用内部API函数:get_customers
提取数据函数:extract_data
函数调用的机制:在大语言模型中,函数调用通常涉及将用户的自然语言请求转换为可执行的函数调用,并生成符合预定义函数签名的结构化输出,如JSON对象。
函数调用的机制
函数调用机制的主要步骤:
一、用户输入:用户通过自然语言向模型提出问题或请求。这些问题或请求可能需要调用外部函数来获取答案或执行某些操作。
二、模型解析:模型接收到用户输入后,会解析并理解输入内容。模型会根据其训练数据和算法判断是否需要调用函数,并确定要调用的函数及其参数。
三、生成函数调用:如果模型确定需要调用函数,它会生成一个包含函数调用所需参数的结构化输出。这通常是一个JSON对象,其中包含函数名、参数列表等信息。这个JSON对象是以字符串形式存在的,需要在实际调用函数之前进行解析。
四、函数调用执行:在您的代码中,您需要解析这个字符串化的JSON对象,将其转换为有效的数据结构(如字典或对象),并使用这些参数调用相应的函数。这个过程是在您的代码环境中完成的,而不是在模型内部。模型只是提供了调用函数所需的参数和信息。
五、处理函数结果:函数调用执行完成后,您需要将函数的结果返回给模型。这通常通过将结果附加到模型中再次调用模型来实现。模型会接收并处理这些结果,然后生成一个自然语言回复给用户,总结或解释函数调用的结果。
函数调用的想象空间
用户对着微信说:给我每个女性好友发一条情真意切的拜年信息,还要带点儿小幽默。
步骤一:了解微信API或第三方库:
步骤二:登录微信:
步骤三:获取好友列表:
步骤四:筛选女性好友:
步骤五:编写拜年信息:
步骤六:发送消息:
步骤七:退出登录:
微信给女性朋友拜年
用户对着富途牛牛说:人工智能相关股票,市盈率最低的是哪几个?最近交易量如何?都有哪些机构持有?
步骤一:准备API接口和认证信息
确定用于获取股票信息的API接口URL。
获取并准备好API密钥或其他认证信息。
步骤二:定义函数以获取市盈率最低的人工智能股票
编写一个函数,该函数接受API接口URL和API密钥作为参数。
在函数内部,构造请求参数,指定股票分类为人工智能,按市盈率升序排列,并限制返回结果的数量。
发送HTTP GET请求到API接口,并传入构造好的请求参数和API密钥。
检查响应的状态码,确保请求成功。
解析响应内容,提取市盈率最低的股票列表信息。
返回市盈率最低的股票列表。
步骤四:定义函数以获取股票的机构持有者信息
编写一个函数,该函数接受API接口URL、API密钥和股票代码作为参数。
构造特定于股票代码的API请求URL。
发送HTTP GET请求到构造好的URL,并传入API密钥。
检查响应的状态码,确保请求成功。
解析响应内容,提取机构持有者列表及其持股份额等信息。
返回机构持有者信息。
步骤五:调用函数并处理结果
调用步骤3中定义的函数,获取该股票的最近交易量信息。
调用步骤4中定义的函数,获取该股票的机构持有者信息。
调用步骤2中定义的函数,获取市盈率最低的人工智能股票列表。
遍历股票列表,对于每只股票:
打印或存储获取到的信息,包括股票代码、市盈率、最近交易量和机构持有者列表。