微信扫码
添加专属顾问
我要投稿
深入探索多轮对话技术在实际应用中的挑战与解决方案。
核心内容:
1. 多轮对话技术面临的业务场景复杂性
2. 实现多轮对话系统的核心流程与技术要点
3. Golang框架下多轮对话系统的代码实现案例
func (f *FreeAskUsecase) freeAskHandle(ctx context.Context, req *FreeAskReq, output *FreeAskResp) { // 上下文控制 ctx, cancel := context.WithTimeout(ctx, time.Minute*2) defer cancel() // 初始化请求管道 modelCh := make(chan *ModelResponse, 10) interruptCh := make(chan struct{}, 1) var msgIdStr string var msg *Message // 前置处理:创建消息、安全审核等 msg, err := f.createInitialMessage(ctx, req) if err != nil { f.log.Errorf("创建初始消息失败: %v", err) output.Status = StatusFailed output.Message = "创建消息失败" return } msgIdStr = msg.Msg.Id output.MsgId = msgIdStr // 获取历史对话记录 chatHistory, err := f.repo.GetRecentChatHistory(ctx, req.TalId, req.SubjectId, 2) if err != nil { f.log.Warnf("获取历史对话记录失败: %v", err) // 继续处理,不影响主流程 } // 构建消息历史 messages := make([]Message, 0, len(chatHistory)*2+1) // 系统提示词 systemPrompt := f.buildSystemPrompt(req.SubjectId, intent, intentDetails) messages = append(messages, Message{ Role: "system", // 系统角色 Content: systemPrompt, }) // 添加历史对话 for _, chat := range chatHistory { // 用户问题 messages = append(messages, Message{ Role: "user", // 用户角色 Content: chat.Question, }) // AI回答 messages = append(messages, Message{ Role: "assistant", // 模型角色 Content: chat.Answer, }) } // 添加当前问题 messages = append(messages, Message{ Role: "user", Content: req.Question, }) // 用户意图识别 intent, intentDetails := f.recognizeUserIntent(ctx, req.Question) f.log.Infof("用户意图识别结果: %s, 详情: %+v", intent, intentDetails) // 根据意图处理特殊请求 if f.handleSpecialIntent(ctx, intent, intentDetails, req, output) { // 如果特殊意图已处理完毕,直接返回 return } // 安全审核 safeResult, err := f.safetyCheck(ctx, req.Question) if err != nil || !safeResult.IsSafe { f.log.Errorf("内容安全审核未通过: %v", err) output.Status = StatusRejected output.Message = "内容包含不安全信息,请修改后重试" // 更新消息状态为拒绝 f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusRejected) return } // 2. 创建中断监听 // 用户可能会打断模型输出 go f.listenForInterruption(ctx, req.TalId, msgIdStr, interruptCh) // 3. 构建模型提示词 // 将用户意图信息添加到提示词中 promptOptions := &PromptOptions{ Intent: intent, IntentDetails: intentDetails, } prompt, err := f.buildPromptWithOptions(ctx, req, promptOptions) if err != nil { f.log.Errorf("构建提示词失败: %v", err) output.Status = StatusFailed output.Message = "系统处理异常" return } // 创建DeepSeek-R1模型请求 modelRequest := &DeepSeekModelRequest{ Model: "deepseek-r1", Messages: messages, MaxTokens: 2048, Temperature: 0.7, Stream: true, // 流式输出 } // 构建模型上下文 modelCtx, modelCancel := context.WithCancel(ctx) defer modelCancel() // 添加中断处理 go func() { select { case <-interruptCh: // 接收到中断信号,取消模型请求 modelCancel() case <-ctx.Done(): // 上下文已结束 return } }() // 创建响应通道 modelCh := make(chan *DeepSeekResponse, 10) // 异步调用模型 go func() { defer close(modelCh) // 调用DeepSeek-R1模型进行流式生成 err := f.deepSeekClient.GenerateStream(modelCtx, modelRequest, func(chunk *DeepSeekChunk) error { if chunk.Error != nil { modelCh <- &DeepSeekResponse{ Error: chunk.Error, } return chunk.Error } // 处理模型流式响应 modelCh <- &DeepSeekResponse{ Content: chunk.Content, IsFinal: chunk.IsFinal, ToolCalls: chunk.ToolCalls, GeneratedText: chunk.GeneratedText, Usage: chunk.Usage, } return nil }) if err != nil && !errors.Is(err, context.Canceled) { f.log.Errorf("DeepSeek-R1模型调用失败: %v", err) modelCh <- &DeepSeekResponse{ Error: err, } } }() // 5. 处理模型响应 var fullContent strings.Builder isFirstChunk := true for { select { case <-ctx.Done(): // 处理超时 f.log.Warnf("请求处理超时: %s", msgIdStr) output.Status = StatusTimeout output.Message = "处理超时,请稍后重试" // 通过SSE发送超时事件 sseWriter.WriteEvent(&SSEEvent{ Event: "timeout", Data: map[string]interface{}{ "msg_id": msgIdStr, "message": "处理超时,请稍后重试", }, }) // 更新消息状态 f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusFailed) return case resp, ok := <-modelCh: if !ok { // 处理响应结束 goto END } // 处理模型返回的错误 if resp.Error != nil { f.log.Errorf("模型返回错误: %v", resp.Error) output.Status = StatusFailed output.Message = "AI生成回答失败" // 通过SSE发送错误事件 sseWriter.WriteEvent(&SSEEvent{ Event: "error", Data: map[string]interface{}{ "msg_id": msgIdStr, "message": "AI生成回答失败", }, }) f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusFailed) return } // 处理模型返回的数据包 // 追加内容、安全检查、发送给客户端等 content := resp.Content // 安全检查每个片段 if len(content) > 0 { safeResult, _ := f.safetyCheck(ctx, content) if !safeResult.IsSafe { f.log.Warnf("模型回复内容存在安全风险: %s", content) content = "对不起,我无法提供这方面的回答。" } } // 追加到完整内容 fullContent.WriteString(content) // 如果是第一个数据包,更新消息状态为进行中 if isFirstChunk { isFirstChunk = false f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusInProgress) // 返回初始响应给客户端 output.Status = StatusSuccess output.AnswerBegin = content // 通过SSE发送开始事件 sseWriter.WriteEvent(&SSEEvent{ Event: "answer_begin", Data: map[string]interface{}{ "msg_id": msgIdStr, "content": content, }, }) } else { // 非首个数据包,通过SSE发送内容片段 sseWriter.WriteEvent(&SSEEvent{ Event: "answer_chunk", Data: map[string]interface{}{ "msg_id": msgIdStr, "content": content, }, }) } // 如果响应中包含特殊标记,处理特殊逻辑 if resp.HasSpecialFunction { f.handleSpecialFunction(ctx, resp.SpecialFunction, msgIdStr, req.TalId, sseWriter) } case _, ok := <-interruptCh: if !ok { continue } // 处理用户中断 f.log.Infof("用户中断请求: %s", msgIdStr) msg.Msg.IsInterrupt = 1 // 通过SSE发送中断事件 sseWriter.WriteEvent(&SSEEvent{ Event: "interrupted", Data: map[string]interface{}{ "msg_id": msgIdStr, }, }) f.handelInterrupt(ctx, msgIdStr, msg.SubjectId) goto END } } END: // 处理结束逻辑 // 生成提示词、更新消息等 finalContent := fullContent.String() // 更新最终消息内容和状态 err = f.repo.UpdateMessageContent(ctx, msgIdStr, finalContent) if err != nil { f.log.Errorf("更新消息内容失败: %v", err) } if msg.Msg.IsInterrupt == 0 { // 正常结束 f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusCompleted) // 发送完成事件 sseWriter.WriteEvent(&SSEEvent{ Event: "answer_complete", Data: map[string]interface{}{ "msg_id": msgIdStr, "content": finalContent, }, }) // 记录会话历史 f.updateSessionHistory(ctx, req.TalId, req.Question, finalContent, msgIdStr) } else { // 中断结束 f.repo.UpdateMessageStatus(ctx, msgIdStr, MessageStatusInterrupted) } // 设置输出信息 output.FullAnswer = finalContent output.Status = StatusSuccess output.Suggestions = suggestions output.Knowledge = knowledge}
// 处理特殊意图func (f *FreeAskUsecase) handleSpecialIntent(ctx context.Context, intent string, details map[string]interface{}, req *FreeAskReq, output *FreeAskResp) bool { switch intent { case "greeting": // 处理问候意图 output.FullAnswer = f.generateGreeting(req.TalId, details) output.Status = StatusSuccess return true case "homework_submission": // 处理作业提交意图 if subjectID, ok := details["subject_id"].(string); ok { // 重定向到作业提交服务 redirectInfo := f.homeworkService.GetSubmissionRedirect(ctx, req.TalId, subjectID) output.RedirectInfo = redirectInfo output.Status = StatusRedirect return true } case "schedule_query": // 处理日程查询意图 if date, ok := details["date"].(string); ok { scheduleInfo := f.scheduleService.GetSchedule(ctx, req.TalId, date) output.FullAnswer = f.formatScheduleResponse(scheduleInfo) output.Status = StatusSuccess output.StructuredData = scheduleInfo return true } case "calculator_request": // 处理计算器请求 if expression, ok := details["expression"].(string); ok { result, err := f.calculatorService.Calculate(ctx, expression) if err == nil { output.FullAnswer = fmt.Sprintf("计算结果是: %s", result) output.Status = StatusSuccess output.StructuredData = map[string]interface{}{ "type": "calculation", "expression": expression, "result": result, } return true } } } // 如果不是特殊意图或者处理失败,返回false继续常规处理 return false}
// 构建系统提示词func (f *FreeAskUsecase) buildSystemPrompt(subjectId int32, intent string, intentDetails map[string]interface{}) string { var builder strings.Builder // 基础教学角色定义 builder.WriteString("你是一位专业的教育助手,名为「xxx学习助手」。") // 根据学科添加特定指引 switch subjectId { case 1: // 数学 builder.WriteString("你擅长数学教学,能够用清晰的方式解释数学概念和解题步骤。请注重培养学生的数学思维和解题能力。") case 2: // 语文 builder.WriteString("你擅长语文教学,能够帮助分析文章含义、解释字词、指导写作。请注重培养学生的语言表达和理解能力。") case 3: // 英语 builder.WriteString("你擅长英语教学,能够帮助学生掌握英语知识、理解语法规则、提升语言运用能力。请用中文回答,适当穿插英文解释。") case 4: // 物理 builder.WriteString("你擅长物理教学,能够解释物理概念、公式和物理现象。请注重培养学生的科学思维和实验精神。") default: builder.WriteString("你能够提供全面的学科指导,包括答疑解惑、知识讲解和学习方法指导。") } // 添加教学风格和方法指引 builder.WriteString("\n\n请遵循以下教学原则:") builder.WriteString("\n1. 循序渐进:从简单到复杂,确保学生能够理解每一步") builder.WriteString("\n2. 举一反三:通过类比和例子帮助理解") builder.WriteString("\n3. 启发式教学:引导学生思考,而不是直接给出答案") builder.WriteString("\n4. 耐心友好:使用鼓励性语言,营造积极学习氛围") // 根据意图添加特定指引 if intent == "homework_help" { builder.WriteString("\n\n当前学生正在寻求作业帮助,请引导他们理解问题,提供解题思路,但不要直接给出完整答案。") } else if intent == "concept_explanation" { builder.WriteString("\n\n当前学生正在寻求概念解释,请用通俗易懂的语言和生动的例子解释相关概念。") } // 添加输出格式要求 builder.WriteString("\n\n回答格式要求:") builder.WriteString("\n- 开始时简要总结问题") builder.WriteString("\n- 分步骤详细解释") builder.WriteString("\n- 适当使用公式、图表等辅助说明") builder.WriteString("\n- 结尾总结要点或给出拓展思考") return builder.String()}
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-04-12
谷歌Agent Development Kit核心概念以及与其它框架的横向对比、适用场景总结与建议
2025-04-12
GPT-4 官宣退役!曾经的最强模型,正式交棒 GPT-4.1、o3、o4 mini!
2025-04-12
里程碑,GPT-4.5大模型正式通过图灵测试!
2025-04-12
OneEval:OpenKG发布大模型知识增强综合能力评测榜单
2025-04-12
浅谈大模型安全
2025-04-12
浅谈大模型时代的谣言治理:挑战、对策与中外实践对比
2025-04-12
AI法规-《生成式人工智能服务管理暂行办法》(中国)(2023.7)
2025-04-12
深入剖析MCP协议落地中的新型安全风险与防护对策
2024-08-13
2024-06-13
2024-08-21
2024-09-23
2024-07-31
2024-05-28
2024-08-04
2024-04-26
2024-07-09
2024-09-17