微信扫码
与创始人交个朋友
我要投稿
技术架构包括以下几个核心组件:
用户接口层:通过自然语言输入需求(prompt),用户与业务系统(应用)交互。
解析与路由层:利用Function Calling解析用户请求,并确定所需的外部功能。
功能调用层:通过LangChain框架管理和执行具体的功能调用。
数据处理层:处理和分析从外部系统获取的数据。
结果反馈层:将处理后的结果反馈给用户。
3.5代码示例
import openai
import os
import tiktoken
# 加载 .env 文件
from dotenv import load_dotenv, find_dotenv
from langchain.prompts import PromptTemplate
from langchain.llms import OpenAI
from langchain.chains import LLMChain
from langchain.chains import LLMRequestsChain
#from langchain.chat_models import AzureChatOpenAI
from langchain.chat_models import ChatOpenAI #直接访问OpenAI的GPT服务
_ = load_dotenv(find_dotenv())
# 从环境变量中获得你的 OpenAI Key和配置URL
openai.api_key = os.getenv('OPENAI_API_KEY')
openai.api_base = os.getenv('OPENAI_API_URL')
model = os.getenv('OPENAI_API_MODEL')
llm = ChatOpenAI(model_name=model, temperature=0) #直接访问OpenAI的GPT服务
#llm = AzureChatOpenAI( model_name=model, temperature=0, max_tokens=200) # 通过Azure的OpenAI服务
#根据查询的结果结果返回给大模型,大模型再组装后进行返回
def query_baidu(question):
template = """Between >>> and <<< are the raw search result text from web.
Extract the answer to the question '{query}' or say "not found" if the information is not contained.
Use the format
Extracted:<answer or "not found">
>>> {requests_result} <<<
Extracted:"""
PROMPT = PromptTemplate(
input_variables=["query", "requests_result"],
template=template,
)
inputs = {
"query": question,
"url": "http://www.baidu.com/s?wd=" + question.replace(" ", "+")
}
requests_chain = LLMRequestsChain(llm_chain = LLMChain(llm=llm, prompt=PROMPT), output_key="query_info", verbose=True)
res = requests_chain.run(inputs)
return res
#python 程序入口
if __name__ == "__main__":
print(query_baidu("今天长沙的天气?"))
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-09-18
再见了,LangChain!
2024-09-18
LLMFarm功能汇总:揭秘您可能错过的亮点功能!
2024-09-18
基于LangGraph构建LLM Agent
2024-09-18
Multi-Agent实战:构建复杂的数据处理与可视化系统
2024-09-16
LlamaIndex最新报告:构建高级大模型助手-RAG只是起点
2024-09-16
Tulip Agent:一种利用增删改查让LLM使用大量工具解决复杂任务的新框架!
2024-09-14
Multi Agent 多agent协同,不仅好玩还很实用,给你一个完整的demo
2024-09-13
【一文读懂】搭建RAG的万能工具LangChain
2024-04-11
2024-05-19
2024-04-12
2024-07-18
2024-04-08
2024-04-08
2024-03-31
2024-05-15
2024-06-03
2024-04-28
2024-08-27
2024-08-18
2024-08-16
2024-08-04
2024-07-31
2024-07-29
2024-07-28
2024-07-27