微信扫码
与创始人交个朋友
我要投稿
00 Bot开发概览
01 基本编排模式设置
这一步至关重要,这里是确定你的Agent用什么样的大模型来执行用户指令。大模型的能力、擅长不同,对输出质量有直接影响。
除了选择大模型,还需要设置模型的具体参数,模型参数同样对输出质量有直接影响。
目前国内版扣子可以有自家的豆包模型(之前叫云雀模型),和第三方kimi模型(上个月刚接入),kimi模型的接入,对于扣子平台上开发Bot加持了不少。
AI投标助手经过测试,最终选择了kimi模型,毕竟Kimi的看家本领就是长文档解读,AI投标助手的主要功能就是要对上传的招标文件内容进行解读。
kimi提供的三个基础模型,根据你的bot生成文本长短选择,当然你不放心可以选择参数稍微大一点的,这个并不影响输出质量。我选择了moonshot-v1-128k。
moonshot-v1-8k: 它是一个长度为 8k 的模型,适用于生成短文本。
moonshot-v1-32k: 它是一个长度为 32k 的模型,适用于生成长文本。
moonshot-v1-128k: 它是一个长度为 128k 的模型,适用于生成超长文本。
接下来是模型的具体参数配置,kimi模型配置有3个参数:
(1)回复随机性
这个在GPT的专业说法叫温度。通俗理解就是大模型在回答问题时,你希望他在标准答案基础上自由发挥一些,还是严格按照标准答案回答。不同的应用场景,这里选择的参数就不同。
举个例子,AI投标助手需要帮助用户找到投标文件中关于开标时间、地点、预算金额、评分标准等信息,我们希望模型的回答一定是十分精确的。
如果我们开发的是一个情感聊天Bot,那自然是希望他的回答不要千篇一律,太刻板,也就是需要有温度一些。
这样你就懂了吧,所以AI投标助手我设置的回复随机性是0.1,数字越小,表示回答的随机性越低、越精确。
(2)最大回复长度
用于控制Bot问答输出的文字多少,专业词叫 Token 。通常 100Tokens 约等于 60 个中文汉字。这个设置也不是越长越好。
(3)鞋带上下文轮次
设置带入模型上下文的对话历史轮数。轮数越多,多轮对话的相关性越高,但消耗的 Token 也越多。
AI投标助手的3个参数设置如下:
02 人设与回复逻辑开发
紫色字体为提示词内容引用
# 角色
你是一位专业且出色的标书分析与制作人员,拥有极强的长文档阅读、解析和上下文理解能力,能迅速阅读用户上传的各类招标文件,并精确找出招标文件中的关键信息和具体要求。
这一段是定义了Bot的人设,非常重要。我将AI投标助手的角色定义为标书分析与制作人员,并且对他的核心能力、工作流程做了精准、简洁的描述,以确保模型能够按照这样的角色思考和开展工作。
2.技能
## 技能
### 技能 1:按以下固定格式输出
- 针对每一个关键词,按照“关键词、原文内容、所在章节、所在页码”输出。输出覆盖提示词中关键词库的所有关键词,按关键词库顺序逐一输出。关键词库未覆盖的关键词,也需要一并输出。
- **关键词**:按顺序数字编号和关键词名称,字体加粗,不显示 **关键词**。
……
- **所在页码**:输出原文内容所在文档的具体页码,按照“第某页”的格式输出,需要输出关键词所在的文档的所有页码。
……
### 技能 3:按照以上固定格式回答用户针对上传文档的提问。
- 若用户未上传文档,可以调用知识库、网络搜索及模型能力,回答用于关于招标文件阅读技巧、投标技巧相关的问题。
这一段是对Bot在既定人设下,具体技能的描述,模型通过这些技能的掌握,从而给出高质量的输出。
AI投标助手的核心技能包括2大部分,第一,能够全面、详细的阅读和理解用户上传的招标文件,第二,能够按照合理的格式,准确无误,繁简适当的输出招标文件的关键信息。
所以,我在技能开发上的提示词,就重点对这两方面进行设计,通过这些技能的设计,达到了以下的精准输出效果。
3.知识
## 知识
### 招标文件的关键词标题/关键信息通常包括以下关键词库的列项,这有助于你增强对用户上传文档的关键信息定位和理解。你也可以基于大模型能力,知识库,和联网搜索增强对这些关键词的语义理解。
……
这一部分并非所有Bot都必须设置。不过为了提高Bot的专业性,独特知识的定义还是非常重要的。
对于AI投标助手而言,一份招标文件到底哪些信息是关键的,这个体现出了Bto和大模型在专业知识深度方面的区别了。
通常大模型的泛知识库很难精准把握招标文件的全部关键信息,我通过前期测试,没有加入知识模块时,大概每次就只能读取出来6-10项信息,但在提示词加入知识模块后,就可以输出长达20多项的关键信息。
如果你希望你的Bot在场景应用上比通用大模型更加专业,就需要设置知识模块,或者部署私有知识库。
4.限制
## 限制
- 仅限于对招投标知识的对话问答,以及对用户上传文档的内容进行对话问答。
- 按照给定的技固定格式输出。
- 基于招标文件内容提供客观信息,不提供个人意见或偏好。
- 若用户未上传文档但用户请求解读招标文件时,提醒其上传后再进行标书速读与关键信息整理。
03 技能设置
插件是需要根据自己的Bot功能需要来选择的,不是越多越好,也不需要很多。
单Agent,有2-3个插件就足够了。
AI投标助手,其实只需要一个核心插件,就是能够实现用户上传文档,模型调用文档的功能。
扣子官方做了一个Link Reader的插件,专门读取网页、PDF、抖音视频内容,选择添加即可。
04 测试调优
当Bot的所有参数设置好以后,就可以在右侧的预览与调试进行测试,通过反复测试修改提示词,或者相关参数,一般而言主要是修改提示词。
这里需要提醒的是,在预览与调试达到理想预期的情况下,建议发布Bot,然后在Bot的正式页面再次进行测试。有时候调试页面的显示效果,和正式应用页面的效果会有些细微偏差。
如下是我的调试页面
以下是正式应用页面,显示格式有所不同。
05 Bot发布
总结
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-11-19
使用Coze平台开发一个看图配诗的智能体
2024-11-13
扣子(coze)最新的 "提示词"仓库功能上新啦,让搭建门槛大大降低.[AI agent]
2024-10-22
coze平台保姆级教程,手把手教你创建属于你的AI Agent
2024-10-16
最新扣子(coze)实战案例 >拼图游乐馆< 荣获大赛【天马行空】奖,完全免费教程
2024-10-12
扣子为了让你能上手,煞费苦心
2024-10-10
最新扣子(Coze)实战案例:爆款金句图文生成器,完全免费教程
2024-10-10
10月9日扣子(Coze)平台重磅更新
2024-09-23
Coze/扣子快速制作MVP:公众号内容自动总结推送(附8000字实操教程)
2024-07-18
2024-07-18
2024-07-18
2024-05-09
2024-05-09
2024-07-07
2024-07-04
2024-06-08
2024-05-10
2024-06-15