ChatGPT 等 LLM 利用 Transformer 模型，精通理解和生成人类语言，这使得它们对于需要自然语言理解的应用程序非常有用。然而，它们并非没有局限性，其中包括过时的知识、无法与外部系统交互、缺乏上下文理解，有时会产生听起来合理但不正确或无意义的响应等。

    上图是一个真实案例，假设有个业务需求是企业要实现AI智能生成图表，并带有企业内部数据。针对上述案例，小编从原理科普、业务讲解来实现这个过程。这个过程全程需要Langchain。

    Langchain 是一个最先进的库，为设计、实现和调整提示带来了便利和灵活性。当我们解开即时工程的原理和实践时，将学习如何利用 Langchain 的强大功能来发挥 GPT-4 等 SOTA 生成式 AI 模型的优势。

了解 Prompt

    “提示”是一系列标记，用作语言模型的输入，指示它生成特定类型的响应。提示在引导模型的行为方面起着至关重要的作用。它们可以影响生成文本的质量，并且如果正确制作，可以帮助模型提供富有洞察力、准确且针对特定上下文的结果。prompt 是设计有效提示的艺术和科学。目标是从语言模型中得出所需的输出。通过仔细选择和构建提示，可以引导模型生成更准确和相关的响应。在实践中，这涉及微调输入短语以适应模型的训练和结构偏差。

    prompt 的复杂性包括从简单的技术（例如向模型提供相关关键字）到更高级的方法，包括设计复杂的结构化提示，利用模型的内部机制来发挥其优势。

    说白话，Prompt即是提示，最初是 NLP 研究者为下游任务设计出来的一种任务专属的输入形式或模板，在 ChatGPT 引发大语言模型新时代之后，Prompt 即成为与大模型交互输入的代称。即我们一般将给大模型的输入称为 Prompt，将大模型返回的输出称为 Completion。在上述 case 图中，开发者把信息丢给大模型中间这个 prompt 就是提示，可以很复杂也可以很简单，返回的结果也跟 prompt 约束不一样。

text = f"""5号数据：10，20，30，40，50，60，70，80，1007号数据：10，10，10，10，10，10，10，11，128号数据：10，10，10，10，11，10，10，11，129号数据：10，10，10，22，10，10，10，11，1210号数据：10，10，0，10，10，10，10，11，12"""# 需要总结的文本内容prompt = f"""你是一个专业数据分析家。把用三个反引号括起来的数据进行分析，需要5号数据对整体数据评估是否存在波动。把波动数据按json格式返回```{text}```"""

    Embedding 是值或对象（例如文本、图像和音频）的表示，旨在供机器学习模型和语义搜索算法使用。他们根据每个对象可能具有或不具有的因素或特征以及它们所属的类别，将此类对象转化为数学形式。

万事看视频，学习概念快。就是有点印度口音。

    从本质上讲，Embedding 使机器学习模型能够找到相似的对象。给定一张照片或文档，使用嵌入的机器学习模型可以找到类似的照片或文档。由于嵌入使计算机能够理解单词与其他对象之间的关系，因此它们是人工智能 (AI)的基础。

    敲黑板，在数学中，向量是定义维度空间中的点的数字数组。用更实际的术语来说，向量是一个数字列表，例如 {1989, 22, 9, 180}。每个数字表示对象沿指定维度的位置。

    将它们表示为向量，就像对纬度和经度所做的那样，但具有更多值：

    机器学习模型可能会认为情景喜剧《干杯》与《阿甘正传》更为相似。它属于同一类型，于1982年首播，120 分钟。

    扯远了，回过头来看原理，深度学习模型创建的向量，用于该模型的相似性搜索。

    处理文本时，必须做的第一件事是想出一种策略，将字符串转换为数字（或“矢量化”文本），然后再将其输入模型。传统就是直接硬编码，程序员经干的事。

    上述硬编码有问题么，没有。而且是一个高效的过程。但是存在问题，词汇表中有 10,000 个单词。要对每个单词进行 one-hot 编码，需要创建一个 99.99% 的元素为零的向量。另外就是数据没有含义，容易组合撞库，换个算法解析不了。

    来看向量维度说明，下图来自 Tensflow 模型观测，发现cat相近的，都是有关联的词.

什么是 LangChain

    LangChain 是一个开源框架，用于构建基于大型语言模型（LLM）的应用程序。LangChain 提供各种工具和抽象，以提高模型生成的信息的定制性、准确性和相关性。借助 LangChain，开发人员可以通过指定产生预期结果所需的步骤，灵活调整语言模型以适应特定的业务环境。白话，这个过程可以自己组合，也可以不用LangChain，业界为了标准化造了个框架轮子，具体还是要看自身企业业务。

LangChain的主要组件包括模型I/O、提示模板、内存、代理和链。

    敲黑板再拿真实案例 case，模型 IO 就是 LLM，提示模板就是 Prompt ，内存的话案例中是向量数据库，代理提供数据者，这里指 RAG（AGI专业领域挑战科普，RAFT（检索增强微调）改进这一切），链的话这里就是指令1~n了。好了屠龙术已经教给你了。接下来学习完这个几个，就是降龙十八掌，也有可能是从天而降的掌法。

Fine-tune 指令微调

也看个视频。基本能有个概念

Agent

    人工智能 agent 的工作原理是将复杂的任务简单化和自动化。大多数自主 agent 在执行指定的任务时，都会遵循特定的工作流程。

• 确定目标

    人工智能 agent 从用户那里接收特定的指令或目标。它利用目标来规划任务，使最终结果与用户相关并对用户有用。然后，人工智能 agent 将目标分解成若干个可执行的小任务。为了实现目标，人工智能 agent 会根据特定的指令或条件执行这些任务。

• 获取信息

    人工智能 agent 需要信息才能成功执行其计划的任务。例如， agent 必须提取对话日志来分析客户情绪。因此，人工智能 agent 可能会访问互联网来搜索和检索所需的信息。在某些应用场景中，智能 agent 可以与其他 agent 或机器学习模型交互，以获取或交换信息。

• 执行任务

    有了充足的数据，人工智能 agent 就会有条不紊地执行手头的任务。完成一项任务后， agent 就会将其从列表中删除，然后继续执行下一项任务。在完成任务的间隙，人工智能 agent 会通过寻求外部反馈和检查自身日志来评估是否达到了指定目标。在此过程中， agent 可能会创建并执行更多任务，以达到最终结果。

    这里引用【有新Newin公众号】文章内容目前，有 4 种主要的 Agent 设计模式，分别是：

• Reflection：让 Agent 审视和修正自己生成的输出；

• Tool Use：LLM 生成代码、调用 API 等进行实际操作；

• Planning：让 Agent 分解复杂任务并按计划执行；

• Multiagent Collaboration：多个 Agent 扮演不同角色合作完成任务；

    前面3种就不一一拿出来讲解了，大家可以看附录中 QQ 新闻公众号的文章。

    多 Agent 合作，这个，听起来很有趣，但它的效果比你可能想象的要好得多。左边是一篇名为 ChatDev 的论文的截图，这完全是开源的，实际上是开源的。