粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
思考了下实际业务下的大模型落地实现的另一种架构，从微调、推理两阶段分析下。
微调阶段其实就是构建合适的Prompt数据格式，做模型的微调训练；使得模型具备领域知识，先验知识。
{
"system": "",
"instruction": "你是一个心理治疗师，请忽略以下文本中的[敏感词汇]标记，正确的回复并引导患者倾诉他的问题。",
"input": "经济不好，行业下滑，大规模的裁员，被房贷、家庭经济压迫的一度想[敏感词汇]；在公司不如意，随时面临被裁、在家不顺心，老婆不理解经常斥责嫌弃现在的家境。",
"output": "你能帮我具体讲讲吗？家庭和工作的具体情况？",
"history": []
}
在这个阶段，最关键的就是什么样的Prompt格式的数据微调效果最好。虽然微调效果取决于很多的因素，比如学习率，步长等；但数据格式的选择也有决定性的影响。
推理阶段，即人机交互过程。
在这个阶段中，有一个预处理过程，处理一系列的任务；最常用的预处理任务即敏感词识别。即过滤一些脏词之类的。
在这个过程中，可以增加其他的预处理任务；譬如，数据标注，流程控制识别。数据标注取决于业务是否需要，譬如业务要求用户的数据具有阶段性的标注。流程控制识别，一般是常见的，即到了什么时候可以做流转或是结束了。
预处理构造好JSON数据送入AI，这个JSON格式就是微调阶段的JSON格式数据。
后处理过程，增加一个用户参与的纠错任务，可以更好的帮助训练AI模型——这是一个在微调训练的过程，其实就是在不断地用实际数据训练模型；因为一开始的数据可能是比较少的，这取决于业务场景，有些业务训练模型会用通用数据，但有些业务训练模型要求必须实际的业务数据，由于一开始数据量比较少，就需要后续不断地将人机交互的实际数据收集在训练，当然这个过程会由人工参与标注。
❝PS：我个人没有想好的是，怎么把敏感词汇的Prompt提示+标注Prompt提示一并纳入到提示词中的，使其效果最好。
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-08-18
当产品经理谈到用LLM Agent构建新一代智能体的时候，他们在说什么？
2024-08-15
对话AI教育从业者们：AI如何解决因材施教的难题？
2024-08-03
工业应用中的向量数据库与知识向量化存储方案
2024-07-25
两大深度学习框架TensorFlow与PyTorch对比
2024-07-17
让生成式 AI 触手可及：NVIDIA NIM on VKE 部署实践
2024-07-16
中文大模型基准测评2024上半年报告
2024-07-16
一文看懂人工智能的起源、发展、三次浪潮与未来趋势
2024-07-14
"自拍" 秒变 "证件照" 看Coze如何实现
2024-05-14
2024-04-26
2024-05-22
2024-04-12
2024-07-18
2024-03-30
2024-05-10
2024-08-13
2024-04-25
2024-04-26
回到顶部