AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


消除AI幻觉:提示词中分隔符的精妙应用
发布日期:2024-07-13 07:55:52 浏览次数: 1960 来源:测试工程化


您好!

在与AI大语言模型(LLM)对话过程中,提示词设计的优劣,决定着我们能拿到什么样的结果,提示词的重要性不言而喻。前面我写过提示词设计的两个顶层设计重要原则,见提示词设计的顶级原则具体应用时,面对种类繁多的框架与模板,写过可灵活应用的提示词万能公式,见破解AI提示词万能公式

可以说,设计原则是纲领性的总原则,灵活的万能公式是一种应用策略,但在工作生活中具体应用时,我们还需采用一些提示词编写的技巧。


今天,分享如何使用分隔符提升LLM结果输出的质量。关于分隔符的使用,2023年12月新加坡组织的提示词设计大赛冠军选手Sheila Teo 也提到用此方法。

分隔符最关键的作用,是帮助LLM 识别有意义的特定单元,即能辨识哪些部分应当被视为一个完整的有意义单元。因为,当提示词作为长文序列一次性传给模型时,它可以通过分隔符,使特定部分得到不同的处理。      

常用分隔符

常见的分隔符,如:###,-,'''',=== ,>>>,等

也可以是任何不常见组合的特殊字符序列,选择哪种特殊字符并不重要,关键是这些字符要足够独特,让LLM能将其识别为分隔符,而非常规的标点符号。

建议用Markdown 、XML格式标记符,因为它们是LLM天然能识别的符号。

注意:对于简单几句话能说完的任务,分隔符对于LLM输出的质量影响可能不明显。但是,任务越复杂,合理使用分隔符对文本进行分段,对LLM输出质量的影响就越明显。

分隔符应用案例

需求:用AI对 某电商平台《人工智能时代与人类未来》这本书的用户评价进行情绪分类,为电商的下一步营销方案提供决策依据。

为方便举例,我在网上摘录了8个用户的评价。

人工智能时代语言这个未来讲述了智能时代的发展与未来发展的一些关联因素,背景等等,有效让我们学习人工智能现在这样的一个时代所未来发展的趋势和相应的变革对我们认识人工智能有非常大的帮助,还是很不错的,书中的内容也很浅显易懂,适合大众阅读。

         

 


外观设计漂亮,尺寸大小合适,包装仔细完整,宝贝手感不错,感觉很好,发货速度快,服务态度一流,给力!5星好评!

         

 

   


书脚折了,坏了,要不是嫌麻烦就退了

         

 


快递好,书不喜欢,没有故事性

不知道这书是怎么流到市面上的,严重的重复页,错别字错误标点,中信的校编停发工资了吗?

         

 


书一言难尽

         

 


。。。

         

 


【8】一般


这里,LLM 选用的是Kimi 智能助手。

第1次对话:大段提示词内容,未用分隔符    

Kimi 反馈的结果中,我们不难看出,从第6条开始的输出错了,第7条评价漏了。而正好提示词中第6、第7、第8句之间没有明显的句子段落标识,也没有明显不同用户评价的分隔符。         

 

第2次对话:增加分隔符,以标识不同用户的评价         

 

    


在每句评价的前面增加 “-” 分隔符后,LLM的输出质量有立竿见影的变化,正确的输出了8个用户的评价,这就是分隔符的妙用带来的力量。

例子中提示词的内容还算简单,如果要对大量的文档信息进行用户情绪分析,一样可据此思路,对数据进行分隔符标识,以提高对有意义信息的辨识能力。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询